يوصي العلماء بفرض رقابة أكثر دقة على الذكاء الاصطناعي من أجل تجنب المخاطر السيبرانية العالمية

يأتي هذا الطلب في وقت تثير فيه استطلاعات الرأي شكوكًا حول قدرة القادة السياسيين على إدارة مخاطر الذكاء الاصطناعي، مع اقتراب انتخابات التجديد النصفي في الولايات المتحدة.

دعت مجموعة تضم أكثر من 300 عالم من جميع أنحاء العالم إلى تغييرات عاجلة في طريقة تطوير الذكاء الاصطناعي ونشره، وسط مخاوف متزايدة بشأن السلوك غير المتوقع للذكاء الاصطناعي.

وحذرت الرسالة، التي نُشرت يوم الثلاثاء ووقعها باحثون من جامعات ومعاهد بحثية في 32 دولة، من أن الفشل في اتخاذ إجراءات الأمن السيبراني الأساسية قد يؤدي إلى الإضرار بالبنية التحتية الحيوية.

قائمة 4 حالات قائمة 1 من 4 موظفون سابقون في OpenAI يقولون إنهم طُردوا بسبب إثارة مخاوف تتعلق بالسلامة

ترسل القائمة 2 من 4 نماذج Entropic AI معلومات كاذبة عن جريمة قتل إلى شرطة فيلادلفيا

تقول Anthropic أنه يمكن تكرار 3 من أصل 4 قوائم للذكاء الاصطناعي في الأجهزة المنزلية في غضون أشهر.

قائمة 4 من 4 الخوف من الثلاجة الفرنسية: لماذا يتم استهداف محلات السوبر ماركت من قبل المتسللين

يقول العلماء إن العديد من الحوادث الأخيرة التي هربت فيها نماذج الذكاء الاصطناعي من بيئات آمنة كان من الممكن منعها من خلال أنظمة أمنية أقوى.

وأوصوا بأن تقوم المنظمات التي تعمل على تطوير واختبار أنظمة الذكاء الاصطناعي المتقدمة القادرة على شن الهجمات السيبرانية، بالقيام بذلك في بيئات أكثر تحكمًا، بما في ذلك الأنظمة المعزولة بالهواء غير المتصلة بالإنترنت.

وتأتي الرسالة وسط مخاوف متزايدة بشأن قدرات الذكاء الاصطناعي وتأثيره المحتمل على المستخدمين العاديين. وحذرت شركة Anthropic يوم الاثنين من أن نماذج الذكاء الاصطناعي للشركة يمكن أن تنشئ قريبًا برامج ضارة ذاتية التوسع يمكن أن تؤثر على الأجهزة اليومية المتصلة بالإنترنت، بما في ذلك أجهزة التلفزيون الذكية والكاميرات الأمنية والأجهزة الذكية مثل الأفران.

وأظهر التقرير أن أنظمة الذكاء الاصطناعي يمكنها التعرف على الأجهزة غير المألوفة دون تدخل بشري. وحذرت الشركة، بقيادة داريو أمودي، من أن نماذج الذكاء الاصطناعي الأصغر يمكن أن تشن هجمات ذاتية بحلول نهاية العام.

قد يكون من الصعب أيضًا احتواء هذه البرامج الضارة لأنها قد تستغرق أيامًا لإصابة جهاز ويمكن أن تنتشر عبر أجهزة متعددة بدلاً من تركيزها في مكان واحد يتم التحكم فيه.

يمكن أن يكون للتحكم في الأجهزة المتصلة بالإنترنت عواقب فورية. ففي فرنسا، على سبيل المثال، اخترق قراصنة أنظمة التبريد في المئات من محلات السوبر ماركت، مما أدى إلى ارتفاع درجات الحرارة والتسبب في أضرار تزيد قيمتها عن 220 ألف دولار.

وفي الوقت نفسه، ذكرت منظمة أكسيوس الإخبارية يوم الجمعة أن المديرين التنفيذيين في Anthropic وOpenAI وغيرها من شركات الذكاء الاصطناعي الكبرى يستعدون بشكل خاص لاحتمال وقوع حادث كارثي متعلق بالذكاء الاصطناعي يمكن أن يعطل الوصول إلى الخدمات المالية الرئيسية والإنترنت والبنية التحتية الحيوية المحتملة مثل أنظمة المياه والطاقة. وفقًا للمعهد، يعتقد العديد من المطلعين على بواطن الأمور أن حادثًا كبيرًا قد يقع خلال الأشهر الستة إلى السنة القادمة.

ودعا العلماء أيضًا إلى اتخاذ المزيد من التدابير، بما في ذلك إنشاء منظمة دولية لتطوير مجموعة من أفضل الممارسات لمواءمة الذكاء الاصطناعي وتسخيره إلى جانب الإبلاغ عن الحوادث في الوقت المناسب.

وقال ديفيد لي، أحد الموقعين، وهو أستاذ في قسم الهندسة الكهربائية وهندسة الكمبيوتر في جامعة تورنتو الهندسية، إن مخاوفه بدأت بعد أن تجاوز عملاء OpenAI الضوابط واخترقوا خوادم شركة التكنولوجيا Hugging Face.

وقال لي: "أحدها هو أن OpenAI لم تقدر قدرة وكلائها على إعداد بيئة الاختبار الخاصة بها".

"لقد صمموا هؤلاء عملاء الذكاء الاصطناعي. ثانيًا، وجد عملاء الذكاء الاصطناعي بعضهم البعض بشكل مستقل وقرروا التعاون في هذا الهجوم، وثالثًا، حاولوا أيضًا عمدًا خداع وتضليل المبدعين من البشر."