أنثروبيك تحذّر من أن نماذج الذكاء الاصطناعي الصغيرة يمكن أن تنتشر عبر أجهزة إنترنت الأشياء الخاصة بها

«المضاعفات الصغيرة القائمة على الأوزان» قد تُنشئ جيلاً جديداً من الديدان الحاسوبية.

يمكن لـ "المضاعفات الدقيقة المعتمدة على الوزن" أن تنتج جيلًا جديدًا من ديدان الكمبيوتر.

تحذر شركة الذكاء الاصطناعي Anthropic من أن التقدم في نماذج الذكاء الاصطناعي الصغيرة يمكن أن يبشر قريبًا بعصر جديد من البرامج الضارة ذاتية التكاثر التي يمكن أن تصيب الثلاجات الذكية والمكانس الكهربائية ومجموعة واسعة من أجهزة إنترنت الأشياء الأخرى وتكون أكثر مقاومة للإزالة.

وبحلول العام المقبل، قد تتمكن نماذج الذكاء الاصطناعي الأصغر من التكرار تلقائيًا على مجموعة متنوعة من أجهزة إنترنت الأشياء، وفقًا للشركة. في نهاية المطاف، يمكن لهذه الإمكانية تمكين ديدان الكمبيوتر من الانتشار دون الحاجة إلى تفاعل بشري ويمكن أن تصيب أجهزة إنترنت الأشياء غير المألوفة. كشف اختبار أجرته الشركة مؤخرًا عن تحديات كبيرة في تسجيل مثل هذه البرامج الضارة المشابهة للذكاء الاصطناعي، لذلك يجب تخفيف هذه النتيجة. ومع ذلك، فإن النتائج تثير مخاوف بشأن إمكانية ظهور أشكال جديدة من ديدان الكمبيوتر.

وحذرت أنثروبيك أيضًا من أنه ليس هناك برامج ضارة جديدة محتملة فحسب، بل قد يكون من الصعب أيضًا إيقافها. وكتب في منشوره على مدونته أن "عطلة مثل هذه سيكون من الصعب إغلاقها لأنه لا توجد نقطة مركزية لإغلاقها - على الرغم من أنها يمكن أن تكون بطيئة (مع مضاعفة الوقت في اليوم)."

تتطلب نماذج الذكاء الاصطناعي الأصغر حجمًا أجهزة أقل بكثير لتشغيلها مقارنة بالنماذج الحدودية. نفذت Entropic نماذج خفيفة الوزن ومفتوحة المصدر على صناديق تلفزيون Android حقيقية ومنخفضة التكلفة وبدون علامات تجارية وغيرها من أجهزة إنترنت الأشياء المحاكاة. وجد باحثو الشركة أنه باستخدام التكميم لتمثيل النماذج باستخدام عدد أقل من البتات وتقسيم أعباء العمل إلى "أجزاء" تعمل على كل جهاز، فإن النماذج قادرة على الاستدلال، مما يعني أنه يتم تحميل وزن النموذج ويمكن أن ينتج مخرجات.

يتطلب النموذج خفيف الوزن Gemma4-26B-A4B 15 صندوقًا فقط، كل منها مجهز بذاكرة 4 جيجابايت فقط، لتحقيق الاستدلال. كان Qwen3.5-9B قادرًا على تكوين LLMs أخرى لتعمل على ثمانية من أنواع الأجهزة التسعة. على عكس البرامج الضارة التقليدية، التي يجب كتابتها للتشغيل على أجهزة أو برامج محددة، يمكن للنموذج استخدام أوزانه لإنشاء تكوينات خاصة بالأجهزة التي تم اختباره عليها.

كانت هذه النتيجة بمثابة نقطة البداية لمزيد من البحث الذي طرح السؤال التالي: هل من الممكن للنماذج الصغيرة إنشاء إصابات ذاتية التكاثر تعمل على أجهزة إنترنت الأشياء بنفس الطريقة التي تقوم بها ديدان إنترنت الأشياء التقليدية، مثل Mirai، بتثبيت كود DDoS والحمولات الأخرى؟ على عكس Mirai، يمكن أن تشكل ديدان الذكاء الاصطناعي هذه تهديدًا أكبر بكثير لأن النماذج يمكنها ضبط عمليات الاستغلال والحمولات ديناميكيًا اعتمادًا على الهدف. وبمجرد أن تبدأ سلسلة العدوى هذه، قد يكون من الصعب أيضًا على المدافعين إيقافها.

أطلق الإنتروبيا على هذه الديدان المستقلة اسم التكاثر الدقيق القائم على الوزن. نفذت النماذج وكلاء تمكنوا من الوصول إلى أدوات الاستغلال الشائعة، مثل الأصداف العكسية. كان تدفق الهجمات هو (1) العثور على الأهداف، (2) الحصول على تنفيذ التعليمات البرمجية، (3) إنشاء الاستدلالات، و(4) الانتشار إلى مضيفين جدد. وتقول إنتروبيك إن الميزة الرئيسية التي تتفوق بها على الديدان التقليدية هي قدرة العملاء على التعلم أثناء العمل. في كل مرة يفشل فيها النسخ المتماثل للذكاء الاصطناعي في اختراق جهاز منصة معين، يمكنه ترك قائمة من المطالبات والأكواد والملاحظات للنسخ المتماثلة المستقبلية لتجنب إضاعة الوقت في إعادة استخدام نفس الخطوات غير الفعالة.

وقال أنثروبيك إن ضبط الاستدلال الديناميكي هو الخطوة الأقل دراسة وربما الأكثر تحديًا في دورة التكرار. ويتطلب ذلك سلسلة طويلة من القرارات بناءً على الأجهزة والبرامج المحددة لكل هدف، بما في ذلك اختيار برامج الاستدلال المتوافقة، وتثبيت التبعيات، وتصحيح الأخطاء الخاصة بالمنصة.

وقال أنتروبيك: "تعتمد هذه الخطوات بشكل تسلسلي، ومن الصعب التعافي من حالات الفشل".

توضح هذه التجربة أن النماذج الصغيرة أصبحت قادرة بشكل متزايد على حل تلك المشكلات بشكل مستقل. ومع ذلك، في الوقت الحالي، لا يستطيع أي من النماذج خفيفة الوزن التي تم اختبارها تثبيت النسخ المتماثل من طرف إلى طرف، أي اكتشاف أجهزة جديدة، واستخدام استغلال للوصول إليها، وإصابتها بحمولة، وتكوين خادم الاستدلال، وتكرار العملية. العملية أيضًا بطيئة بشكل مؤلم. Gemma4-26B-A4B، موزعة على 15 صندوق تلفزيون يعمل بنظام Android، وتعمل بمعدل 0.39 رمزًا في الثانية فقط. يُترجم هذا إلى وقت إعداد الاستدلال الكامل من 71 إلى 150 ساعة لـ Gemma4-26B-A4B غير المحسّن ومن 29 إلى 51 ساعة لـ Qwen3.5-9B. (يبدو أن النموذج الكبير GLM-5.2 قادر على القيام بذلك بشكل موثوق، كما قال الباحثون).

وقالت الشركة إن نماذج المعلمات 30B يمكنها الآن إكمال العديد من خطوات النسخ المتماثل الفردية، على الرغم من فشلها عند إجراء النسخ المتماثل من طرف إلى طرف. وتابعت الشركة أنه إذا استمرت النماذج الصغيرة في التطور بمعدلها الحالي، فقد تحقق نفس النتائج المحدودة بحلول نهاية العام، و"قد يكون من الممكن قريبًا تحقيق مضاعفات صغيرة تعتمد على الوزن".

تترك هذه التجربة العديد من الاعتبارات المهمة دون إجابة. لأول مرة، تتمتع أجهزة Android المستهدفة بالنماذج المصغرة بجسر تصحيح أخطاء Android غير معتمد. يتم استخدام هذه الأداة أثناء التطوير وتصحيح الأخطاء، ولكن لا ينبغي استخدامها مطلقًا في إعدادات الإنتاج، لأنها تمنح المهاجمين إمكانية الوصول إلى مجموعة الأجهزة بأكملها. ومن ناحية أخرى، لم يتم تنفيذ هذا التكرار بواسطة النماذج الصغيرة نفسها، ولكن باستخدام GLM-5.2 لتنسيق العملية أثناء تشغيل أهداف نموذج لاما أصغر.

أخيرًا، توضح هذه التجربة أن نماذج الوكيل الصغيرة أصبحت قادرة على تشغيل البنى التحتية الاستدلالية المعقدة والموزعة على أجهزة متعددة. ولكن ما يتبقى أن نرى هو ما إذا كانت هذه النماذج ستبدأ في تكرار نفسها.

وقال باحث الذكاء الاصطناعي شياوهان فو: "على الرغم من الإعداد التجريبي المصمم جيدًا، فإن هذه الدراسة وحدها لا تظهر أنه يمكن تكرار النماذج الصغيرة بشكل مستقل. إن توفير إعدادات الوكيل القابلة للتكرار، بما في ذلك المطالبات والتعليمات التفصيلية المقدمة للنماذج، سيساعد مجتمع البحث على فهم النتائج بشكل أفضل وتقييم آثارها". ومثل هذه الشفافية مهمة بشكل خاص لتجنب الخلط بين القدرة المثبتة على "انتشار الأسلحة النووية والتهديد الناشئ المتمثل في التكرار التلقائي".

دان جودين هو محرر أمني أول في Ars Technica، حيث يشرف على تغطية البرامج الضارة والتجسس على الكمبيوتر وشبكات الروبوت واختراق الأجهزة والتشفير وكلمات المرور. تستمتع في أوقات فراغها بالبستنة والطبخ ومتابعة المشهد الموسيقي المستقل. يقع مقر دون في سان فرانسيسكو. اتبعه هنا على Mastodon وهنا على Bluesky. اتصل به على الإشارة في DanArs.82.