آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی می‌توانند از طریق دستگاه‌های اینترنت اشیاء خود تکرار شوند

«تکثیرگرهای کوچک مبتنی بر وزن» می‌توانند نسل جدیدی از کرم‌های رایانه‌ای را به وجود آورند.

«تکثیرگرهای کوچک مبتنی بر وزن» می‌توانند نسل جدیدی از کرم‌های رایانه‌ای را به وجود آورند.

شرکت هوش مصنوعی Anthropic هشدار می دهد که پیشرفت در مدل های کوچک هوش مصنوعی می تواند به زودی دوره جدیدی از بدافزارهای خود-تکثیر شونده را آغاز کند که می تواند یخچال های هوشمند، جاروبرقی ها و طیف گسترده ای از سایر دستگاه های اینترنت اشیاء را آلوده کند و در برابر حذف مقاوم تر است.

به گفته این شرکت، تا سال آینده، مدل‌های کوچک‌تر هوش مصنوعی ممکن است بتوانند به‌طور خودکار روی انواع دستگاه‌های اینترنت اشیا تکثیر شوند. در نهایت، این قابلیت می‌تواند کرم‌های رایانه‌ای را فعال کند که بدون نیاز به تعامل انسانی منتشر می‌شوند و می‌توانند دستگاه‌های اینترنت اشیا ناآشنا را آلوده کنند. آزمایشی که این شرکت اخیرا انجام داد، چالش‌های مهمی را در به ثمر رساندن چنین بدافزاری مشابه هوش مصنوعی نشان داد، بنابراین این یافته لزوماً تعدیل می‌شود. با این حال، نتایج نگرانی‌هایی را در مورد امکان شکل‌های جدیدی از کرم‌های کامپیوتری ایجاد می‌کند.

Anthropic علاوه بر این هشدار داد که نه تنها در مورد بدافزار جدید بالقوه، بلکه همچنین می تواند متوقف کردن آن دشوار باشد. در پست وبلاگ خود، نوشت که «تعطیلی مانند این برای خاموش شدن چالش برانگیز خواهد بود، زیرا هیچ نقطه متمرکزی برای خاموش کردن وجود ندارد – اگرچه ممکن است کند باشد (با دو برابر شدن زمان روز).

مدل‌های کوچک‌تر هوش مصنوعی برای اجرا به سخت‌افزار بسیار کمتری نسبت به مدل‌های مرزی نیاز دارند. آنتروپیک مدل های کوچک وزن باز را روی واقعی اجرا کردیا جعبه‌های تلویزیون اندرویدی کم‌هزینه و بی‌نام تجاری و دیگر انواع سخت‌افزار اینترنت اشیا شبیه‌سازی شده است. محققان شرکت دریافتند که با استفاده از کوانتیزاسیون برای نمایش مدل‌ها با استفاده از بیت‌های کمتر و تقسیم بارهای کاری به "شارد"هایی که روی هر دستگاه اجرا می‌شوند، مدل‌ها قادر به استنتاج هستند، به این معنی که وزن مدل بارگیری می‌شود و می‌تواند خروجی تولید کند.

مدل سبک وزن Gemma4-26B-A4B برای دستیابی به استنتاج فقط به 15 جعبه نیاز داشت که هر کدام تنها به 4 گیگابایت حافظه مجهز بودند. Qwen3.5-9B قادر به پیکربندی سایر LLM ها برای اجرا در هشت نوع از 9 نوع سخت افزاری بود. برخلاف بدافزارهای سنتی، که باید برای اجرا روی سخت‌افزار یا نرم‌افزار خاص نوشته شوند، این مدل می‌توانست از وزن‌های خود برای ایجاد پیکربندی‌هایی استفاده کند که مخصوص دستگاه‌هایی بود که روی آن‌ها آزمایش شد.

این یافته نقطه شروعی برای تحقیقات بیشتر بود که پرسیدند: آیا برای مدل‌های کوچک امکان ایجاد عفونت‌های خود-تکثیر شونده وجود دارد که خودشان روی دستگاه‌های اینترنت اشیاء اجرا می‌شوند، همانطور که کرم‌های سنتی اینترنت اشیا، مانند Mirai، کد DDoS و سایر محموله‌ها را نصب می‌کنند؟ برخلاف Mirai، این کرم‌های هوش مصنوعی می‌توانند تهدید بسیار بالاتری داشته باشند، زیرا مدل‌ها می‌توانند بسته به هدف، اکسپلویت‌ها و بارهای بار را به صورت پویا تنظیم کنند. هنگامی که چنین زنجیره عفونتی شروع شد، ممکن است برای مدافعان نیز دشوارتر باشد که آن را متوقف کنند.

آنتروپیک این کرم‌های خودمختار را تکثیرگرهای کوچک مبتنی بر وزن نامید. مدل‌ها عواملی را اجرا می‌کردند که به ابزارهای بهره‌برداری رایج، مانند پوسته‌های معکوس، دسترسی داشتند. جریان حملات (1) یافتن اهداف بود،(2) به دست آوردن اجرای کد، (3) ایجاد استنتاج، و (4) انتشار به میزبان های جدید. یک مزیت کلیدی نسبت به کرم‌های سنتی این است که آنتروپیک می‌گوید توانایی عوامل برای یادگیری در حین کار است. هر بار که یک تکثیر کننده هوش مصنوعی نتواند یک دستگاه پلتفرم خاص را به خطر بیندازد، می‌تواند فهرستی از اعلان‌ها، کدها و یادداشت‌ها را برای تکثیرگرهای آینده بگذارد تا زمان را برای استفاده مجدد از همان مراحل بی‌اثر تلف نکنند.

Anthropic گفت که تنظیم استنتاج پویا کمترین مطالعه و احتمالاً چالش برانگیزترین مرحله در چرخه تکرار است. این به دنباله ای طولانی از تصمیم گیری ها بر اساس سخت افزار و نرم افزار خاص هر هدف نیاز دارد و شامل انتخاب نرم افزار استنتاج سازگار، نصب وابستگی ها و اشکال زدایی باگ های خاص پلت فرم است.

آنتروپیک گفت: "این مراحل به صورت سریالی وابسته هستند و بازیابی شکست ها دشوار است."

این آزمایش نشان می‌دهد که مدل‌های کوچک به طور فزاینده‌ای در حل مستقل آن مشکلات توانایی پیدا می‌کنند. با این حال، در حال حاضر، هیچ یک از مدل‌های سبک وزن آزمایش‌شده قادر به نصب تکثیر سرتاسری نیستند، یعنی کشف دستگاه‌های جدید، استفاده از یک اکسپلویت برای دسترسی به آن‌ها، آلوده کردن آن‌ها با یک بار، پیکربندی سرور استنتاج و تکرار فرآیند. این روند نیز به طرز دردناکی کند است. Gemma4-26B-A4B، توزیع شده در 15 جعبه Android TV، تنها با 0.39 توکن در ثانیه اجرا می شود. این به معنای زمان راه اندازی استنتاج کامل 71 تا 150 ساعت برای Gemma4-26B-A4B بهینه نشده و 29 تا 51 ساعت برای Qwen3.5-9B است.(محققان گفتند که به نظر می رسد مدل بزرگ GLM-5.2 می تواند این کار را به طور قابل اعتماد انجام دهد.)

این شرکت گفت که مدل‌های پارامتر 30B می‌توانند بسیاری از مراحل تکثیر منفرد را در حال حاضر تکمیل کنند، اگرچه در هنگام انجام تکرار سرتاسر اشتباه می‌کنند. این شرکت ادامه داد که اگر مدل‌های کوچک با سرعت فعلی خود به پیشرفت خود ادامه دهند، ممکن است تا پایان سال به همان نتایج محدود دست یابند و «مثل‌کننده‌های کوچک مبتنی بر وزن ممکن است به زودی امکان‌پذیر باشند».

این آزمایش بسیاری از ملاحظات مهم را بی پاسخ می گذارد. برای اولین بار، دستگاه‌های اندرویدی که توسط مدل‌های کوچک مورد هدف قرار می‌گیرند، یک پل اشکال‌زدایی اندرویدی تایید نشده داشتند. این ابزار در طول توسعه و اشکال زدایی استفاده می شود، اما هرگز نباید در تنظیمات تولید استفاده شود، زیرا به مهاجمان امکان دسترسی به کل پشته دستگاه را می دهد. و برای دیگری، این تکرار توسط خود مدل‌های کوچک انجام نشد، بلکه با GLM-5.2 برای هماهنگ کردن فرآیند در حالی که اهداف یک مدل کوچک‌تر لاما را اجرا می‌کردند، انجام شد.

در نهایت، این آزمایش نشان می‌دهد که مدل‌های عامل کوچک در حال تبدیل شدن به قابلیت راه‌اندازی زیرساخت‌های استنتاج پیچیده و توزیع شده در چندین ماشین هستند. با این حال، آنچه باقی می‌ماند این است که آیا این مدل‌ها به خودی خود تکرار خود را آغاز می‌کنند یا خیر.

شیائوهان فو، محقق هوش مصنوعی، در این باره گفت: «علیرغم تنظیمات آزمایشی به خوبی طراحی شده، این مطالعه به تنهایی نشان نمی‌دهد که مدل‌های کوچک به طور مستقل تکرار شوند.مصاحبه "ارائه تنظیمات عامل تکرارپذیر، از جمله اعلان‌ها و دستورالعمل‌های دقیق داده‌شده به مدل‌ها، به جامعه پژوهشی کمک می‌کند تا یافته‌ها را بهتر درک کند و پیامدهای آنها را ارزیابی کند. چنین شفافیتی به‌ویژه برای جلوگیری از تلفیق توانایی نشان‌داده‌شده برای تکثیر با تهدید نوظهور خودتکثیر خودکار مهم است."

دن گودین ویرایشگر ارشد امنیتی در Ars Technica است که در آنجا بر پوشش بدافزارها، جاسوسی رایانه‌ای، بات‌نت‌ها، هک سخت‌افزار، رمزگذاری و رمزهای عبور نظارت می‌کند. او در اوقات فراغت خود از باغبانی، آشپزی و دنبال کردن صحنه موسیقی مستقل لذت می برد. دان در سانفرانسیسکو مستقر است. او را در اینجا در Mastodon و اینجا در Bluesky دنبال کنید. با او در سیگنال در DanArs.82 تماس بگیرید.