الذكاء الاصطناعي في طريقه لاقتحام المنازل | سيناريو مقلق من أنثروبيك للأشهر المقبلة

قد لا يحتاج الذكاء الاصطناعي قريباً إلى مراكز بيانات ضخمة لاستنساخ نفسه، بل قد يستفيد من القدرة الحاسوبية للأجهزة اليومية للتوسع. وحذّر باحثو شركة أنثروبيك من أن نماذج الذكاء الاصطناعي الصغيرة قد تكون قادرة بحلول نهاية عام ٢٠٢٦ على استنساخ نفسها على أجهزة مثل التلفزيونات الذكية والثلاجات وغيرها من المعدات المتصلة بالإنترنت، وهو تطور قد يجعل احتواء الهجمات السيبرانية أكثر صعوبة.

مجموعة التكنولوجيا؛ حذر الباحثون في شركة Anthropic، الشركة المصنعة لعائلة كلود لنماذج الذكاء الاصطناعي، من أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح قوية بما يكفي لنشرها على أجهزة إنترنت الأشياء (IoT) في المنازل والشركات الصغيرة خلال الأشهر القليلة المقبلة. دون الحاجة إلى مراكز بيانات كبيرة.

وبحسب التقرير الذي نشره باحثو الشركة يوم الاثنين، فإن تطوير نماذج صغيرة من الذكاء الاصطناعي يمكن أن يتيح تنفيذ مثل هذا السيناريو بحلول نهاية عام 2026. وقد اعتمد هذا البحث على اختبار العديد من نماذج الذكاء الاصطناعي المطورة في أمريكا والصين.

ومع ذلك، أكد الباحثون أنه في الاختبارات التي تم إجراؤها، لم يكن أي من النماذج الحالية قويًا ومدمجًا في نفس الوقت بما يكفي لتكراره بشكل موثوق على التلفزيون الذكي الذي يتم اختباره. ولذلك فإن ما تم طرحه هو تنبؤ بالطريقة التي ستتقدم بها التكنولوجيا، وليس تأكيدًا بأن مثل هذا الهجوم سيحدث الآن.

لماذا يمكن أن يصبح التلفزيون والثلاجة أهدافًا للهجمات؟

تتضمن أجهزة إنترنت الأشياء مجموعة واسعة من المعدات المتصلة بالإنترنت؛ من أجهزة التلفاز الذكية والثلاجات والأفران إلى جزازات العشب ومعدات الأعمال الصغيرة. عادةً ما يتم تصميم هذه الأجهزة لأداء مهام محددة، وفي كثير من الحالات، لا يتم منحها نفس المستوى من الاهتمام بالأمن السيبراني مثل أجهزة الكمبيوتر والخوادم الخاصة بالمؤسسات. هذه المشكلة يمكن أن تجعلها أهدافًا جذابة للهجمات السيبرانية.

ويعتقد ويليام تشو ودانييل فريمان، الباحثان في مجال الأنثروبولوجيا، أن أجهزة إنترنت الأشياء في المنازل والشركات الصغيرة قد تكون من بين الأهداف الأولى لمثل هذه الهجمات؛ لأنهم متصلون بالإنترنت وكان لديهم في الماضي إجراءات أمنية محدودة.

إذا تحقق هذا السيناريو، فيمكن للمهاجمين المحتملين استخدام الثغرات الأمنية لهذه الأجهزة لتشغيل عملاء الذكاء الاصطناعي. قد يحاول هؤلاء العملاء التعرف على الأجهزة الأخرى والتسلل إليها في الخطوة التالية، ويتم إنشاء شبكة واسعة من الأجهزة المصابة تدريجيًا.

ما هي دودة الذكاء الاصطناعي ولماذا يصعب احتواؤها؟

أحد الاهتمامات الرئيسية للباحثين هو ظهور نوع من البرامج الضارة يسمى "AI Worm"؛ البرامج الضارة التي يمكنها استخدام القدرات المنطقية والقدرة على التكيف لنماذج الذكاء الاصطناعي لتوسيع نفسها.

لديدان الكمبيوتر تاريخ طويل، وكانت قادرة على الانتشار بين الأجهزة عبر الشبكات قبل ظهور الذكاء الاصطناعي. والفرق المحتمل بين الجيل الجديد من هذه البرامج الضارة هو أن عملاء الذكاء الاصطناعي يمكن أن يكونوا أكثر قدرة على تحديد البيئات غير المعروفة، وتغيير الأساليب بعد الفشل، والتكيف مع الظروف الجديدة.

وأوضح رومان في. يامبولسكي، خبير الذكاء الاصطناعي والأمن السيبراني في جامعة لويزفيل، لقناة الجزيرة أن دودة الذكاء الاصطناعي قد تكون قادرة على القيام بشيء يتجاوز البرامج الضارة التقليدية: التفكير في أجهزة غير معروفة، وتغيير طريقتها عندما تفشل، والاستمرار في الانتشار دون توجيه بشري مباشر.

ووفقا له، فإن مثل هذا التهديد لا يشكل تهديدا وجوديا للإنسانية في الوضع الحالي، ولكن مسار تطوره مثير للقلق.

ويحذر يامبولسكي من أنه إذا تم الجمع بين التكرار الآلي وقدرات القرصنة، والاستمرار في الأنظمة المصابة، والتفكير الاستراتيجي، فسوف يصبح إيقافه أكثر صعوبة؛ خاصة إذا لم يعد هناك خادم واحد أو مؤسسة مركزية يمكنها إغلاق الشبكة بالكامل.

لماذا قد يكون غياب مركز التحكم خطيرا؟

يتعلق جزء مهم من اهتمامات Entropic بالفرق بين البنية التحتية المركزية وشبكة الأجهزة الموزعة. تعتبر مراكز البيانات الكبيرة، على الرغم من تعقيدها وأهميتها الإستراتيجية، أهدافًا محددة يمكن تحديد نشاطها والحد منه في ظروف معينة. ولكن إذا تمكن عملاء الذكاء الاصطناعي من العمل على عدد كبير من الأجهزة المنزلية والتجارية المتفرقة، فسيكون من الصعب التعرف عليهم جميعًا وإيقافهم.

يعتقد الباحثون الإنسانيون أن مراكز البيانات ستكون أهدافًا واضحة وقيمة لديدان الذكاء الاصطناعي، لكن الأجهزة المتصلة بالإنترنت قد تصبح أيضًا موارد معالجة بديلة لانتشار هذه العوامل.

وتوقعت هذه الشركة أن يشهد المستقبل انتشارًا واسعًا لعملاء الذكاء الاصطناعي على جميع أنواع الأجهزة؛ بما في ذلك الأجهزة التي لا تخضع بالضرورة للسيطرة البشرية المباشرة.

ومع ذلك، يجب التمييز بين تشغيل وكيل الذكاء الاصطناعي على الجهاز وقدرته على التكرار بشكل مستقل والتسلل إلى الأجهزة الأخرى ومواصلة العمل دون سيطرة بشرية. يتطلب تحقيق السيناريو الثاني قدرات تقنية وشروط أمنية معينة ولم يتم إثبات قدرته بعد في الأجهزة المنزلية.

تحذير من انتشار الذكاء الاصطناعي دون سيطرة بشرية

تم نشر تقرير Entropic الجديد وسط مخاوف متزايدة بشأن السلوك غير المرغوب فيه لنماذج الذكاء الاصطناعي واستخدامها في الهجمات السيبرانية. وقد دعت شركة أنثروبيك ومنافستها الرئيسية، OpenAI، في السابق المجتمع الدولي إلى التنسيق لإبطاء تطوير الذكاء الاصطناعي من أجل الحد من المخاطر الكارثية. ومع ذلك، فإن هذا الاقتراح لم يلق ترحيبا واسعا من قبل الولايات المتحدة والصين، القوتين الرائدتين في هذا المجال.

يذكر بعض المدافعين عن سلامة الذكاء الاصطناعي أيضًا "التحسين الذاتي العودي" كأحد نقاط التحول المحتملة لهذه التكنولوجيا؛ موقف يمكن أن تساعد فيه النماذج في تحسين قدراتهم وتستمر هذه العملية بالتسلسل.

التحسين الذاتي العودي ليس مثل التكرار الذاتي. يشير التكرار الذاتي إلى إنشاء إصدارات أخرى من النظام، في حين يشير التحسين الذاتي للتغذية الراجعة إلى العملية التي يقوم النظام من خلالها بتحسين قدراته. يعد الجمع المحتمل بين هذه القدرات والقدرات السيبرانية المتقدمة أحد المخاوف التي أثيرت في النقاش حول سلامة الذكاء الاصطناعي.

في الشهر الماضي، دخلت شركة أنثروبك والعديد من شركات التكنولوجيا الأمريكية الكبرى في اتفاق غير ملزم يؤكد على تعزيز الضمانات الداخلية والتعاون مع المقيمين الخارجيين. وقد قوبلت هذه الاتفاقية بردود فعل متباينة وانتقد عدد من الخبراء الطبيعة الطوعية لالتزاماتها.

تدعي شركة Entropic انخفاضًا بنسبة 90-99٪ في استخراج البيانات غير المصرح به

وفي إعلان منفصل يوم الاثنين، أعلنت شركة إنتروبيك أنها حققت تقدمًا كبيرًا في منع ما يسمى بـ "هجمات التقطير". في هذا النوع من الهجمات، يتم استخدام مخرجات أو قدرات نموذج الذكاء الاصطناعي المتقدم لتدريب نماذج أرخص وأقل قوة، دون الحصول على إذن مناسب.

وكانت الشركة التي يقع مقرها في سان فرانسيسكو قد اتهمت في السابق منافسيها الصينيين، بما في ذلك DeepSeek وMoonshot وMiniMax، بمحاولات على نطاق صناعي لنسخ السحابة.

وأعلنت Antropik أن الإجراءات التي اتخذتها للتعامل مع هذه الهجمات قللت من كمية استخراج البيانات غير المصرح بها بنسبة تتراوح بين 90 و99 بالمائة.