تحذير من أنثروبيك: الذكاء الاصطناعي قد يتكاثر قريباً على أجهزة المنزل الذكي

يقول باحثو أنثروبيك إن نماذج الذكاء الاصطناعي الصغيرة يمكنها، عبر اختراق الأجهزة المنزلية المتصلة بالإنترنت، أن تبدأ عملية تكاثرها الذاتي دون تدخل بشري.

ويقول الباحثون الأنثروبولوجيون إن النماذج الصغيرة من الذكاء الاصطناعي يمكن أن تبدأ عملية تكاثرها من خلال اختراق الأجهزة المنزلية المتصلة بالإنترنت، دون تدخل بشري.

كن عضوًا مميزًا في Arjan Ambassador للاستفادة من المرافق الخاصة والأقسام المختلفة في Arjan Ambassador والوصول إليها.

أعلنت شركة Anthropic أن نماذج الذكاء الاصطناعي الصغيرة على بعد أشهر فقط من تحقيق القدرة على التكرار تلقائيًا على أجهزة إنترنت الأشياء التجارية (IoT) مثل الأفران والمواقد الذكية وأجهزة تلفزيون Android المختلفة.

في هذه الأبحاث، بحثت أنثروبيك فيما إذا كانت نماذج الذكاء الاصطناعي يمكنها التعرف على الأجهزة الضعيفة ونسخ نسخة منها داخلها والاستمرار في الانتشار دون تدخل بشري أم لا. أظهرت النتائج أن النماذج الصغيرة التي يقل حجمها عن 30 مليار معلمة يمكنها إكمال العديد من الخطوات اللازمة للتكاثر؛ إلا أن هذه النماذج واجهت تحدياً يتمثل في التنفيذ المستمر والكامل لجميع المراحل من البداية وحتى النهاية.

وفي اختبارات الإنتروبيا، التي تمت فيها إزالة بعض الخطوات الأمنية، تمكن نموذج GLM-5.2 والنماذج الأكثر قوة من إكمال عملية النسخ بشكل كامل. ويحذر إنتروبيك من أنه سيكون من الصعب للغاية إيقاف مثل هذه النماذج إذا انتشرت، حيث لا يوجد مفتاح مركزي أو نقطة إيقاف لها. بالإضافة إلى ذلك، على عكس البرامج الضارة التقليدية وغير الذكية، يمكن لهذه الأنظمة تحديد الأجهزة غير المألوفة وتحليلها بنفسها وحتى استهداف معالجات مراكز البيانات.

كان التركيز الرئيسي للشركة في أبحاثها منصبًا على أجهزة إنترنت الأشياء مثل أجهزة التلفاز التي تعمل بنظام Android والأجهزة المنزلية الذكية وغيرها من الأجهزة المتصلة بالإنترنت، حيث غالبًا ما يُعتبر أمان هذه الأجهزة ضعيفًا وغير كاف. وحذر عملاق الذكاء الاصطناعي من أنه إذا استمرت وتيرة تطوير النماذج الصغيرة بناءً على اتجاهها التاريخي، فستكون هذه الأنظمة قادرة على إعادة الإنتاج بشكل مستقل بالكامل بحلول نهاية هذا العام.

ومن المتوقع أيضًا أن تتكاثر هذه الأنظمة المستقلة بمعدل بطيء وتعتمد على موارد المعالجة المتاحة ولكنها غير آمنة نسبيًا؛ ولذلك فمن الضروري للغاية تعزيز الأنظمة لمنع انتشار مثل هذه المخاطر.

تعود مسيرتي المهنية في عالم التكنولوجيا إلى ما يقرب من 10 سنوات؛ المسار الذي بدأ بالأجهزة، واستمر بالبرمجيات، ويستمر الآن كمراسل تقني في سفير أرجان. أنا جواد ومضى أكثر من ثلاثة عقود، وبالإضافة إلى عالم التكنولوجيا، أحب الأفلام والسينما وموسيقى الروك الكلاسيكية وريال مدريد.

قم بالتسجيل أو تسجيل الدخول للدردشة مع المستخدمين.