مدل های جدید هوش مصنوعی خودشان را تکثیر می کنند

براساس تحقیقی که یک شرکت هوش مصنوعی انجام داده مدل های کوچک به زودی می توانند بدون دسترسی به دیتاسنترها روی دستگاه های مبتنی بر اینترنت اشیا خود را تکثیر کنند.

براساس تحقیقی که یک شرکت هوش مصنوعی انجام داده مدل های کوچک به زودی می توانند بدون دسترسی به دیتاسنترها روی دستگاه های مبتنی بر اینترنت اشیا خود را تکثیر کنند.

به گزارش سفیر ارجان به نقل از رویترز، آنتروپیک اعلام کرد آزمایش هایش نشان می دهد مدل های هوش مصنوعی کوچک ممکن است فقط چند ماه با رسیدن به توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا، مانند اجاق‌های هوشمند و باکس‌های تلویزیونی اندرویدی متفرقه، فاصله داشته باشند.

آنتروپیک در آزمایش هایش بررسی کرد آیا مدل های هوش مصنوعی می توانند دستگاه های آسیب پذیر را بیابند، خود را روی این دستگاه ها کپی کنند و بدون کمک انسانی به گسترش ادامه دهند یا خیر. نتایج نشان داد مدل های کوچک با کمتر از ۳۰ میلیارد پارامتر می توانند بسیاری از گام های مورد نیاز برای تکثیر را طی کنند.

البته مدل های درحال تکثیر برای تکمیل توالی از نقطه آغاز تا پایان تکثیر با چالش روبرو بودند. آنتروپیک متوجه شد هوش مصنوعی جی ال ام ۵.۲ و مدل های قدرتمندتر در تست های ساده شده آن که برخی گام های امنیتی حذف شده اند، قادر به تکثیر سر به سر هستند. همچنین این شرکت هشدار داد، مدل های در حال تکثیر را به سختی می توان خاموش کرد زیرا برخلاف بدافزارهای غیر هوش مصنوعی هیچ نقطه خاموشی مرکزی وجود ندارد و مدل های مذکور می توانند دستگاه های ناشناخته را به تنهایی شناسایی کنند و پردازشگرهای دیتا سنتر را هدف بگیرند.

این شرکت در آزمایش های خود روی دستگاه های اینترنت اشیا مانند تلویزیون های اندروید، دستگاه های هوشمند دیگر گجت های متصل به اینترنت تمرکز کرد زیرا این ابزارها معمولا امنیت مناسبی ندارند.

آنتروپیک همچنین هشدار داد اگر مدل های کوچک با سرعت تاریخی خود ارتقا یابند، می توانند تا پایان امسال به طور خودکار تکثیر شوند و تکثیرکننده های مبتنی بر مدل های وزن کوچک نیز همین روند را دنبال خواهند کرد.

چنین مدل های هوش مصنوعی احتمالا به کندی تکثیر می شوند و به منابعی که به طور گسترده فراهم هستند و تا حدی ایمن نیستند، متکی هستند.