دانشمندان به منظور جلوگیری از خطرات سایبری جهانی، کنترل دقیق‌تر هوش مصنوعی را توصیه می‌کنند

این درخواست در حالی صورت می‌گیرد که نظرسنجی‌هایی درباره توانایی رهبران سیاسی برای مدیریت ریسک‌های هوش مصنوعی با نزدیک شدن به انتخابات میان‌دوره‌ای ایالات متحده تردید ایجاد می‌کند.

گروهی متشکل از بیش از 300 دانشمند از سراسر جهان در بحبوحه نگرانی های فزاینده در مورد رفتار غیرقابل پیش بینی هوش مصنوعی، خواستار تغییرات فوری در نحوه توسعه و به کارگیری هوش مصنوعی هستند.

این نامه که روز سه‌شنبه منتشر شد و توسط محققان دانشگاه‌ها و مؤسسات تحقیقاتی در 32 کشور امضا شد، هشدار داد که عدم رعایت اقدامات اولیه امنیت سایبری می‌تواند منجر به آسیب به زیرساخت‌های حیاتی شود.

لیست 4 مورد لیست 1 از 4 کارمند سابق OpenAI می گویند که به دلیل ایجاد نگرانی های ایمنی اخراج شده اند

لیست 2 از 4 مدل هوش مصنوعی آنتروپیک، اطلاعات نادرست قتل را به پلیس فیلادلفیا ارسال می کند

آنتروپیک می‌گوید فهرست 3 از 4 هوش مصنوعی می‌تواند ظرف چند ماه در دستگاه‌های خانگی تکرار شود.

فهرست 4 از 4 ترس از یخچال فرانسوی: چرا سوپرمارکت ها هدف هکرها شده اند

به گفته دانشمندان، بسیاری از حوادث اخیر که در آن مدل‌های هوش مصنوعی از محیط‌های امن فرار می‌کنند، می‌توان با سیستم‌های امنیتی قوی‌تر جلوگیری کرد.

آنها توصیه کردند که سازمان‌هایی که سیستم‌های هوش مصنوعی پیشرفته‌ای را که قادر به انجام حملات سایبری هستند، توسعه و آزمایش می‌کنند، این کار را در محیط‌های کنترل‌شده‌تری انجام دهند، از جمله سیستم‌های دارای شکاف هوا که به اینترنت متصل نیستند.

این نامه در بحبوحه نگرانی‌های فزاینده درباره قابلیت‌های هوش مصنوعی و تأثیر بالقوه آن بر کاربران روزمره منتشر شده است. روز دوشنبه، Anthropic هشدار داد که مدل‌های هوش مصنوعی این شرکت به زودی می‌توانند بدافزارهای خودگسترشی ایجاد کنند که می‌تواند بر دستگاه‌های متصل به اینترنت روزمره، از جمله تلویزیون‌های هوشمند، دوربین‌های امنیتی و هوشمند تأثیر بگذارد.وسایلی مانند فر.

این گزارش نشان داد که سیستم‌های هوش مصنوعی می‌توانند دستگاه‌های ناآشنا را بدون دخالت انسان شناسایی کنند. این شرکت به رهبری Dario Amodei هشدار داد که مدل‌های کوچک‌تر هوش مصنوعی می‌توانند تا پایان سال حملات خودگردان را انجام دهند.

همچنین مهار این بدافزار ممکن است دشوار باشد زیرا ممکن است چند روز طول بکشد تا یک دستگاه را آلوده کند و به جای اینکه در یک مکان کنترل شده متمرکز بماند، می تواند در چندین دستگاه پخش شود.

کنترل دستگاه های متصل به اینترنت می تواند عواقب فوری داشته باشد. به عنوان مثال، در فرانسه، هکرها سیستم های خنک کننده را در صدها سوپرمارکت به خطر انداختند، دما را بالا بردند و بیش از 220000 دلار خسارت وارد کردند.

در همین حال، سازمان خبری Axios روز جمعه گزارش داد که Anthropic، OpenAI و دیگر مدیران شرکت‌های بزرگ هوش مصنوعی به طور خصوصی در حال آماده‌سازی برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی هستند که می‌تواند دسترسی به خدمات مالی عمده، اینترنت و زیرساخت‌های بالقوه حیاتی مانند سیستم‌های آب و برق را مختل کند. به گفته این موسسه، چندین نفر از افراد داخلی معتقدند که یک حادثه بزرگ ممکن است طی شش ماه تا یک سال آینده رخ دهد.

دانشمندان همچنین خواستار تدابیر بیشتر شدند، از جمله ایجاد یک سازمان بین المللی برای ایجاد مجموعه ای از بهترین شیوه ها برای همسویی و مهار هوش مصنوعی همراه با گزارش به موقع حوادث.

یکی از امضاکنندگان، دیوید لی، استاد گروه برق و کامپیوتر دانشگاه تورنتومهندسی، گفت نگرانی‌های او پس از آن آغاز شد که عوامل هوش مصنوعی OpenAI کنترل‌ها را دور زدند و سرورهای شرکت فناوری Hugging Face را هک کردند.

لی گفت: «یکی از آن‌ها این است که OpenAI در تنظیم محیط آزمایشی خود، قدردان توانایی عواملش نبود.

"اینها عوامل هوش مصنوعی بودند که آنها طراحی می کردند. دوم اینکه عوامل هوش مصنوعی به طور مستقل یکدیگر را پیدا کردند و تصمیم گرفتند در این حمله همکاری کنند و سوم اینکه آنها همچنین عمدا سعی کردند خالقان انسانی خود را فریب دهند و گمراه کنند."