هوش مصنوعی در مزاحمت با مجرمان سایبری واقعاً خوب عمل می کند

ابتکارات ضد جرایم سایبری به طور فزاینده ای از هوش مصنوعی برای کلاهبرداری از کلاهبرداران استفاده می کنند و آنها را فریب می دهند تا با ربات های واقعی صحبت کنند که فکر می کنند قربانیان واقعی هستند.

حتی زمانی که هوش مصنوعی کلاهبرداری دیجیتال و جرایم سایبری را افزایش می دهد، در مبارزه برای محافظت از قربانیان احتمالی نیز به کار گرفته می شود. دولت‌ها در سراسر جهان به طور مداوم برای رسیدگی به بحران جهانی جرایم آنلاین تلاش کرده‌اند و با محدودیت‌های تلاش برای سرکوب مجرمان فراتر از مرزهای خود دست و پنجه نرم می‌کنند. این الهام بخش تلاش‌های جایگزین شده است، مانند استفاده از اتوماسیون برای تلاش برای تعقیب انبوه کلاهبرداران - شاید با ارسال هرزنامه‌ها برای هدر دادن منابع آنها. اکنون پلتفرم‌های هوش مصنوعی این نوع آزمایش‌ها را به ابزارهای واقعی در مبارزه با جرایم سایبری تبدیل می‌کنند.

طی دو سال گذشته، شرکت استرالیایی Apate که به نام الهه فریب یونانی نامگذاری شده، در حال ساختن سیستمی بوده است که کلاهبرداران تلفنی را به سمت تماس‌ها با ربات‌های هوش مصنوعی هدایت می‌کند که آموزش داده شده‌اند تا مکالمات را تا جایی که ممکن است ادامه دهند، البته بدون اینکه هرگز در معرض کلاهبرداری قرار نگیرند. هدف این است که به کلاهبرداران امیدواری کافی برای ماندن در تلفن داشته باشند و در عین حال اطلاعات مربوط به کلاهبرداری هایی را که انجام می دهند جمع آوری کنید.

دالی کفار، بنیانگذار و مدیر عامل آپات، به ما می گوید: «آنچه که ما واقعاً دوست داریم فکر کنیم این است که قربانیان عالی برای کلاهبرداران می سازیم. او با اشاره به توانایی کلاهبرداران برای استفاده از ابزارهای شماره گیری خودکار، می گوید: «دقیقه ای که یک کلاهبردار در حال صحبت با یک ربات یا یک نماینده است، لحظه ای است که شما احتمالاً صدها، اگر نگوییم هزاران نفر از افراد احتمالی که دقیقاً همان کلاهبردار با آنها تماس گرفته اند، نجات می دهید.

Kaafar می گوید پلتفرم Apate که توسط بانک ها استفاده می شودو توسط شرکت های مخابراتی پشتیبانی می شود، حدود 350000 ربات دارد. آنها نه تنها تماس‌ها را دریافت می‌کنند، بلکه به گروه‌های چت کلاهبرداری آنلاین نیز نفوذ می‌کنند و به پیام‌های متنی با اهداف مشابه کلاهبرداران ناامید پاسخ می‌دهند و در عین حال اطلاعاتی را از آنها جمع‌آوری می‌کنند. او می گوید که این شرکت بیش از 250000 قطعه اطلاعات در مورد کلاهبرداران را در زمان واقعی جمع آوری کرده است، از آدرس های اینترنتی کلاهبرداری گرفته تا حساب های پول و جزئیات بانکی.

کافر می‌گوید ربات‌ها شخصیت‌ها، مهارت‌های زبانی و پروفایل‌های متفاوتی دارند، بنابراین کلاهبرداران امیدواریم متوجه نشوند که با هوش مصنوعی صحبت می‌کنند. او می‌گوید: «بعضی وقت‌ها [ربات‌ها] واتس‌آپ دارند، گاهی اوقات نه. گاهی اوقات تلفن را برمی‌دارند، گاهی اوقات فقط تلفن کلاهبردار را قطع می‌کنند و می‌گویند: «بعداً به شما بازخواهم گشت».

اما آیا آنها قانع کننده هستند؟ Kernel Panic ابزار را با استفاده از یک نسخه آزمایشی آزمایش کرد که در آن کاربران نقش کلاهبردار را بازی می‌کنند و با یکی از "قربانیان" هوش مصنوعی Apate صحبت می‌کنند. این شخصیت‌ها برای بیان مقداری از شک و تردید طراحی شده‌اند، اما فضای کافی برای کلاهبرداران باقی می‌گذارند تا به تلاش برای به دست آوردن آن‌ها ادامه دهند، پویایی که بلافاصله می‌توانستیم آن را احساس کنیم و به شدت ناامیدکننده بود.

کلاهبرداران احتمالاً با این نوع تعامل شک‌آمیز آشنا هستند و Kaafar می‌گوید که تماس‌های Apate به طور منظم بیش از دو ساعت ادامه دارند. در آزمایش ما، سیستم آپات درگیر و پاسخگو بود، و زمان مکالمه طبیعی بود، حتی با اینکه هر دوی ما هوش مصنوعی را به عنوان دوست، "لوسی" و مشاور مالی او تگ کردیم."میکی." ما حتی پس از شش دقیقه تلاش مجدانه نتوانستیم سیستم هوش مصنوعی Apate را در فرصت‌های ارز دیجیتال ما سرمایه‌گذاری کنیم. (با این حال، ما قسم می‌خوریم که بازگشت‌ها واقعاً باورنکردنی هستند.)

در حال حاضر، حتی با وجود انبوه ربات‌های Apate روی کیس، این فقط یک زمان است که تماس یا پیامک بعدی خود را دریافت کنید. مجرمان سایبری هر ساله میلیاردها پیام و تماس را آغاز می کنند، با پیچیده ترین عملیات که سایت های کلاهبرداری در مقیاس فیزیکی و صنعتی را اجرا می کنند. و در حالی که کلاهبرداران حرفه‌ای و ابتکارات برای نفوذ در عملیات کلاهبرداری سال‌ها کار بازدارنده مهمی انجام داده‌اند، اجرای قانون و تلاش‌های تحقیقاتی نتوانسته‌اند به طور کلی جلوی گسترش کلاهبرداری دیجیتال را بگیرند.

اما هوش مصنوعی می تواند دوران جدیدی را برای تلاش های ضد کلاهبرداری ایجاد کند، نه فقط خود کلاهبرداران. به اشتراک گذاری اطلاعات بهتر بین پلیس ها، شرکت های رسانه های اجتماعی، بانک ها و سایر صنایع به شدت مورد نیاز است و به طور بالقوه می تواند با نظارت و تجزیه و تحلیل داده ها مبتنی بر هوش مصنوعی کمک کند. همچنین، تلاش‌های نوآورانه به طور فزاینده‌ای به دنبال ایجاد اختلال در مجرمان سایبری با بهره‌برداری از «آسیب‌پذیری‌های روانی» آنها بوده است. در برخی موارد، این روان‌های روانی شامل ترول مستقیم کسانی هستند که در پشت حملات باج‌افزار قرار دارند. با گسترش تمرکز بر اخلال در کلاهبرداران و مجرمان سایبری، به نظر می رسد استفاده از هوش مصنوعی مولد به عنوان راهی برای مشغول نگه داشتن آنها، هدر دادن منابع و عدم انجام حملات دیگر موثرتر باشد.

برای مثال Honeypots را در نظر بگیرید. برای سال ها، شرکت ها ومحققان امنیتی ماشین‌های مجازی دروغین را برای جذب هکرها، اتلاف وقت، جمع‌آوری اطلاعات و درک تکنیک‌های هک مخفی آنها مستقر کرده‌اند. مارک ورو، محقق دکترا در بخش علوم کامپیوتر در ETH زوریخ، می‌گوید که ارائه‌دهندگان هانی‌پات منبع باز به طور فزاینده‌ای از LLM‌ها در سیستم‌های خود استفاده می‌کنند تا واقعی‌تر به نظر برسند.

در تحقیقات اخیر، Vero و همکارانش دریافتند که یک دیگ عسل مجهز به LLM نسبت به یک دیگ عسل با رفتار قابل پیش بینی تر، حمله عوامل هوش مصنوعی را «به طور قابل توجهی طولانی تر» نگه می دارد. او می‌گوید: «مهاجم‌های عامل با هانی‌پات‌های شبیه‌سازی‌شده LLM بسیار بیشتر متقاعد شده‌اند و همچنین آنها را با نرخ بسیار پایین‌تری به‌عنوان هانی‌پات‌های واقعی علامت‌گذاری می‌کنند». اگر این سیستم ها به اندازه کافی خوب ساخته شوند، فکر می کنم برای مدافعان کاملاً سودمند است.»