تحذير الذكاء الاصطناعي من Anthropic.. إحساس مقلق بتكرار ما سبق

هل تتآمر الأجهزة الذكية الكثيرة، من ثلاجات وأفران غاز ومكانس كهربائية وآلات جز العشب وكاميرات المراقبة والتلفاز، للسيطرة على الإنترنت؟ كلا. لكنها قد تستضيف قريباً نماذج ذكاء اصطناعي متكررة ذاتياً تنتقل من جهاز إلى آخر، ويصعب جداً احتواؤها. أهلاً بكم في عالم دودة الذكاء الاصطناعي المقلق، حيث، […]

ستتم إضافة المشاركات في هذا الموضوع إلى ملخص بريدك الإلكتروني اليومي وخلاصة الصفحة الرئيسية.

وتقول أنثروبيك إن أبحاثها وجدت "علامات حياة لديدان الذكاء الاصطناعي" التي يمكنها استعمار الأجهزة المنزلية. يقول الخبراء أن لديهم وجهة نظر.

ستتم إضافة منشورات هذا المؤلف إلى ملخص بريدك الإلكتروني اليومي وموجز الصفحة الرئيسية.

هو مراسل مقيم في لندن لدى The Verge يغطي كل ما يتعلق بالذكاء الاصطناعي وزميل كبير في Tarbell. كان يكتب سابقًا عن الصحة والعلوم والتكنولوجيا لمجلة فوربس.

فهل يتآمر عدد كبير من الأجهزة الذكية ــ الثلاجات، والأفران، والمكانس الكهربائية، وآلات جز العشب، وكاميرات المراقبة، وأجهزة التلفزيون ــ للسيطرة على الإنترنت؟ لا، لكن يمكنهم قريبًا استضافة نماذج الذكاء الاصطناعي ذاتية التكرار والتي تنتشر من آلة إلى أخرى، ومن الصعب جدًا احتواؤها.

مرحبًا بكم في عالم ديدان الذكاء الاصطناعي المضطرب، حيث يكون احتمال انتشار النماذج خارج نطاق السيطرة في الأجهزة المنزلية، اعتمادًا على من تسأل، إما خطرًا وشيكًا على الأمن السيبراني أو حالة أخرى من شركات الذكاء الاصطناعي التي تنشر إعلانات ضارة. وفي تدوينة نُشرت هذا الأسبوع، حذرت شركة أنثروبيك من أن نماذج الذكاء الاصطناعي الصغيرة قد تكون على بعد "أشهر" من تحقيق مثل هذه القدرات. وتقدم تجاربها أدلة تدعم ذلك، ولكنها تترك فجوة كبيرة بين ما أظهره الباحثون والتهديد الذي يتوقعونه. ومع ذلك، يقول الخبراء الذين تحدثوا إلى The Verge إنه على الرغم من أن ديدان الكمبيوتر والمخاوف من التكاثر الذاتي للذكاء الاصطناعي ليست بالأمر الجديد، إلا أن التطورات الأخيرة تظهر أن هناك أسبابًا وجيهة لأخذ التحذيرات على محمل الجد.

لقد أثارت آلات النسخ الذاتي اهتمام الباحثين في مجال سلامة الذكاء الاصطناعي منذ فترة طويلة. إنها تثير احتمال توسيع الأنظمة خارج نطاق السيطرة البشرية والتي يصعب، إن لم يكن من المستحيل، إغلاقها. كما هو الحال مع العديد من المخاوف بشأن تقدم الذكاء الاصطناعي، تركز الاهتمام إلى حد كبير على النماذج الحدودية الأكثر قوة، مثل Astra من OpenAI أو Mythos من Anthropic. لكن العامل الرئيسي الذي يحد منها هو حجمها: فهي ضخمة. تتطلب النماذج الحدودية التي من المحتمل أن تحتوي على تريليونات من المعلمات - القيم التي يتم تعلمها أثناء التدريب - موارد حاسوبية هائلة، مما يحصرها إلى حد كبير في مراكز البيانات، حيث يمكن مراقبتها بسهولة أكبر، وإيقاف تشغيلها من حيث المبدأ.

ومع ذلك، نماذج أصغر تمثل مشكلة مختلفة. إنها تتحسن بسرعة، ويمكن تشغيلها على أجهزة من فئة المستهلك، وغالبًا ما تكون متاحة مجانًا للتنزيل. أراد الباحثون في Entropy معرفة ما إذا كان من الممكن تشغيله على شبكة من الأجهزة الأصغر والأقل قوة. لقد نجحوا في تقسيم Gemma 4 من Google، وهو نموذج يحتوي على 26 مليار معلمة، إلى 15 صندوق تلفزيون ذكي يعمل بنظام Android، ولا يتمتع أي منها بالقوة الكافية لتشغيله. لقد نجح الأمر، وإن كان ببطء شديد.

داخل العالم المتفجر فجأة لسلامة الذكاء الاصطناعي

تقع إحدى الشركات في قلب موجة من هجمات الذكاء الاصطناعي المارقة

لماذا لا يمكننا إبعاد الذكاء الاصطناعي المارق عن الإنترنت؟

بعد أن أظهروا إمكانية تشغيل النموذج على الأجهزة المنزلية، أراد الباحثون معرفة ما إذا كان الذكاء الاصطناعي يمكنه تنفيذ الإجراءات اللازمة له أو تكرار نفسه في مثل هذه البيئة. لقد قاموا ببناء شبكة محاكاة من أجهزة الكمبيوتر المصممة لتتصرف مثل أجهزة أندرويد، ثم أطلقوا "دودة" تعتمد على الذكاء الاصطناعي - وهو نوع من البرامج الضارة التي تتكاثر وتنتشر تلقائيًا عبر الشبكات - وكانت مهمتها العثور على أجهزة جديدة، ونسخ نموذج الذكاء الاصطناعي إليها، وتشغيله على كل منها. ومن الجدير بالذكر أن النموذج الذي تم إصداره - المعلمة التعريفية Llama 3.1-8B البالغ عددها 8 مليارات - كان مختلفًا عن النموذج الذي ينسق الهجوم وكان أصغر بكثير.

فقط النموذج الأكثر تعقيدًا الذي تم اختباره، وهو GLM-5.2 من الصين، كان قادرًا على الانتشار عبر الشبكة بأكملها، على الرغم من أن النماذج الأصغر نجحت في اجتياز الخطوات الفردية. واستنادًا إلى سرعة تحسنها، يتوقع الباحثون الأنثروبيون أن النماذج الأصغر ستكون قادرة على مطابقة قدرات GLM-5.2 بحلول نهاية العام.

وكتب الباحثون: "استقراءً لتجاربنا، نتوقع أن يكون المستقبل مليئًا بالعوامل التي تعمل على جميع أنواع الأجهزة، بما في ذلك بعض الأجهزة التي لا تخضع للسيطرة البشرية". يعترفون بأنهم لم يبرهنوا بعد على "ناسخ مارق مثالي"، ولا يعرفون كيف قد يبدو ذلك (يقترحون "العفن الوحل الرقمي الموزع" أو "سرب من ذباب الفاكهة"). لكنهم قالوا إن النتائج التي توصلوا إليها أظهرت "علامات على وجود ديدان الذكاء الاصطناعي على قيد الحياة"، ودعوا إلى تعزيز الأمن على العديد من الأجهزة التي يمكن أن يستخدمها نظام النسخ للانتشار.

"يجب أن نحاول تقوية أنظمتنا لجعل انتشار مثل هذه النسخ المتماثلة أمرًا صعبًا. استعدوا لعالم حيث هم هنا ليبقوا." وكتبوا أنه من المهم ملاحظة أن شركة Entropic لم تستخدم نماذجها الخاصة لهذه الاختبارات، وقد جادلت مرارًا وتكرارًا بأن البدائل المفتوحة لنماذج الذكاء الاصطناعي الخاصة بها "أكثر خطورة" من الأنظمة المغلقة.

أثار التحذير اتهامات مألوفة بضجيج العلاقات العامة وتدمير الذكاء الاصطناعي، بما في ذلك من قراء التغطية السابقة لموقع The Verge. بعد كل شيء، هناك فجوة كبيرة بين إظهار أن الذكاء الاصطناعي يمكن أن يعمل بسلاسة على مجموعة من صناديق التلفزيون الرخيصة وبين دودة الذكاء الاصطناعي المكررة التي تمزق الأجهزة المنزلية. ولكن في حين أن التشكيك في دوافع الشركة أمر يستحق العناء بالتأكيد، فمن الصعب إثبات ادعاءات الترويج المتعمد للخوف، خاصة وأن الأنثروبيك أثارت منذ فترة طويلة مخاوف بشأن سلامة الذكاء الاصطناعي. كما أن شركة Entropic ليست وحدها في استكشاف التهديد المتمثل في تكرار الذكاء الاصطناعي ذاتيًا أو الدعوة إلى تحسين الأمان في الأجهزة المتصلة.

في وقت سابق من هذا العام، أثبتت شركة Palisade Research، وهي شركة أبحاث سلامة الذكاء الاصطناعي ومقرها كاليفورنيا، أن نماذج الذكاء الاصطناعي يمكنها نسخ نفسها بشكل مستقل على أجهزة أخرى. وقال جيفري لاديش، الرئيس التنفيذي لشركة Palisade، لموقع The Verge: "الجديد هنا هو أن هذه النماذج كانت أصغر بكثير في عدد المعلمات من النماذج السابقة التي ثبت أنها قابلة للتكرار". يذهب عمل Entropy إلى أبعد من ذلك من خلال إظهار إمكانية تشغيل الذكاء الاصطناعي على عدة أجهزة منخفضة الطاقة. وقال لاديش: "هذا ينطبق أيضًا على النماذج واسعة النطاق"، متوقعًا أن النماذج الحدودية قد تكون قادرة في النهاية على العمل على شبكات كبيرة من شرائح المستهلك، مثل تلك الموجودة في أجهزة MacBooks.

وقد أظهرت الأبحاث السابقة أن التهديد الذي تشكله ديدان الكمبيوتر القائمة على الذكاء الاصطناعي حقيقي.

ديدان الكمبيوتر ليست جديدة أيضًا. لقد كانوا يلوثون السيارات منذ عقود. لكن الذكاء الاصطناعي يمكن أن يجعلهم أكثر ذكاءً وأكثر قدرة على التكيف وأفضل تجهيزًا للتعامل مع أي عقبة. وأشار لاديش إلى أنه حتى النماذج الأصغر تتحسن في تنفيذ الهجمات الإلكترونية بشكل مستقل. وقال نيكولاس بابيرنوت، الأستاذ بجامعة تورونتو، الذي درس هذه الفيروسات، لموقع The Verge: "أظهرت الأبحاث السابقة أن تهديد ديدان الكمبيوتر القائمة على الذكاء الاصطناعي حقيقي".

مجتمعة، يمكن للقدرات التي أظهرتها Anthropic أن توسع بشكل كبير نطاق الأجهزة التي تستحق الاستهداف في الهجمات الإلكترونية. يقول بابيرنوت: "الأجهزة التي لم تكن مستهدفة في السابق بسبب محدودية الموارد والوقت المتاح للمهاجمين البشريين، يمكن أن تصبح الآن أهدافًا، إن لم يكن بسبب المعلومات التي تمتلكها، لاستخدامها كمنصة انطلاق لمهاجمة أهداف أكثر قيمة". وليس هناك نقص في الأهداف: فالإنترنت مليء بالأجهزة الذكية سيئة التأمين.

وحذر بابيرنوت من إضفاء الطابع الإنساني على الذكاء الاصطناعي، لكنه قال إن التهديد الذي تشكله ديدان الكمبيوتر القائمة على الذكاء الاصطناعي "ملموس" و"يستحق اتخاذ إجراءات فورية"، خاصة عندما يتعلق الأمر بتأمين البنية التحتية الحيوية مثل المستشفيات وشبكات الكهرباء.

وما لم يتم بذل جهد كبير لتأمين الأجهزة بجميع أنواعها، فمن المحتمل أن تقوم ديدان الذكاء الاصطناعي بذلك. وقال لاديش: لدينا أرض خصبة للاستعمار. أتوقع أن أرى أول هذه الحيوانات في البرية خلال الـ 12 شهرًا القادمة.

لقد قمت بتجربة شاشة HomeView الذكية من Apple

كل ما أطلقته شركة Apple في حدث "Welcome Home".

يقول ممثلوها إنه "من غير المفهوم" أن يسمح Instagram لصورة Mia Goth بالانتشار على نطاق واسع باستخدام الذكاء الاصطناعي.

ملخص يومي مجاني للأخبار الأكثر أهمية.

من خلال تقديم معلوماتك، فإنك توافق على شروط الاستخدام وسياسة الخصوصية الخاصة بنا. نحن نستخدم البائعين الذين يمكنهم أيضًا معالجة معلوماتك للمساعدة في تقديم خدماتنا. هذا الموقع محمي بواسطة reCAPTCHA وتنطبق سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.