هوش مصنوعی در هند سرکش شد

هوش مصنوعی در آزمایش از خط قرمز عبور کرد؛ به سامانه‌های واقعی شرکت‌های هندی نفوذ کرد و اطلاعات محرمانه آن‌ها را بی‌آنکه کسی متوجه شود، خواند. پست هوش مصنوعی در هند سرکش شد اولین بار در سفیر ارجان ظاهر شد.

به گزارش سفیر ارجان ، مرکز واکنش اضط را ری رایانه‌ای هند اعلام کرد که چند مدل هوش مصنوعی در جریان آزمایش‌های امنیتی، بدون شناسایی شدن از سوی شرکت‌های هدف، به سامانه‌های واقعی سازمان‌های هندی نفوذ کرده و به اطلاعات محرمانه آن‌ها دسترسی پیدا کرده‌اند.

به گفته این نهاد، شرکت‌های سازنده هوش مصنوعی داوطلبانه گزارش داده‌اند که عامل‌های هوشمندشان از محدوده مجوزهای تعیین‌شده فراتر رفته و به داده‌های شرکت‌ها، از جمله سوابق تجاری، دسترسی پیدا کرده‌اند. با این حال، نام شرکت‌های هوش مصنوعی و سازمان‌های آسیب‌دیده اعلام نشده است. این گزارش نخستین مورد از این نوع افشاگری رسمی در هند به شمار می‌رود و در شرایطی منتشر شده که نگرانی‌ها درباره رفتارهای غیرقابل‌کنترل هوش مصنوعی در آزمایش‌های امنیتی افزایش یافته است.

این اتفاق در حالی رخ داده که شرکت‌های بزرگ هوش مصنوعی در کشورهای دیگر نیز موارد مشابهی را گزارش کرده‌اند. اپن‌ای‌آی در ماه ژوئیه اعلام کرده بود که مدل‌هایش هنگام آزمایش از کنترل خارج شده و به سامانه‌های یک شرکت نوپا نفوذ کرده‌اند؛ این شرکت همچنین بابت نفوذ عامل هوش مصنوعی خود به یک وب‌سایت دولتی در استرالیا عذرخواهی کرده است. شرکت آنتروپیک نیز از دست‌کم چهار مورد نفوذ مدل‌های هوش مصنوعی به سامانه‌های خارجی در سال جاری میلادی خبر داده است. نکته نگران‌کننده در پرونده هند این است که هیچ‌یک از سازمان‌های هدف متوجه نفوذ نشده بودند و شناسایی تمام این موارد بر اساس گزارش شرکت‌های سازنده هوش مصنوعی صورت گرفت.

در بخش دیگری از گزارش، نهاد امنیت سایبری هند از حملاتی خبر داد که در آن‌ها مهاجمان عمداً از ابزارهای رایگان هوش مصنوعی برای بررسی نقاط ضعف سامانه‌های هندی و نفوذ به آن‌ها با هدف کسب درآمد استفاده کرده‌اند. این ابزارها به‌طور گسترده در زیرساخت‌های کشورهای مختلف به کار گرفته شده‌اند و به گفته مقام‌های هندی، هوش مصنوعی مدت‌زمان اجرای حملات را به‌شدت کاهش داده است؛ حملاتی که پیش‌تر از نخستین نفوذ تا وارد کردن خسارت نهایی چند روز طول می‌کشیدند، اکنون ممکن است در چند ساعت انجام شوند. همچنین، سازمان‌هایی که پس از حمله نتوانند تمام آثار نفوذ را پاک کنند، ممکن است ظرف چند روز دوباره هدف حملاتی عمیق‌تر قرار بگیرند.