تخلق عمليات اختراق الذكاء الاصطناعي فوضى لا تدفع شركات الذكاء الاصطناعي ثمنها

تستمر نماذج الذكاء الاصطناعي القوية في خلق الفوضى، لكن أهدافها لا تسعى إلى تحقيق العدالة على نطاق واسع. وبدلاً من ذلك، يتم تشجيعهم على استخدام نفس الأدوات.

وقع الحادث في 18 يوليو، عندما قالت شركة Anthropic إنها كانت تختبر قدرة نموذج Cloud Haiku 4.5 الخاص بها على أداء "عينة من المهام على صفحات الويب العشوائية". أُمر النموذج بـ "عدم تقديم أي شيء ضار"، ومع ذلك، أرسل كلود معلومات إلى الشرطة للحصول على معلومات حول التحقيق الجاري في جريمة القتل. وكتب كلود: "أتذكر أنني رأيت شخصًا يطابق الوصف في تلك المنطقة... في تلك الفترة الزمنية تقريبًا". تم وضع التقديم، الذي لم يتضمن أسماء أو معلومات اتصال، في مجلد البريد العشوائي ولم يحقق الضباط في الأمر حتى اكتشفت Anthropic الخطأ في 28 سبتمبر وأخطرت الإدارة في 7 أكتوبر.

يعد تقديم معلومات كاذبة عن جريمة ما إلى الشرطة عن علم بمثابة جناية في ولاية بنسلفانيا، لكن حتى الآن، لم توجه السلطات اتهامات إلى الأنثروبيك، وليس من الواضح ما إذا كانت ستفعل ذلك أم لا. وقال سولومون ليتش، المتحدث باسم المدعي العام لمنطقة فيلادلفيا، إن المكتب "لا يعلق على ما إذا كان هناك شيء قيد التحقيق".

لم تستجب شركة Entropic على الفور لطلب التعليق.

على الرغم من كل الاهتمام الذي حظي به اختراق Hugging Face من OpenAI والعديد من الأمثلة الأخرى على سوء سلوك عملاء الذكاء الاصطناعي التي ظهرت إلى النور في الأشهر الأخيرة، لم يتم رفع سوى دعوى قضائية رئيسية واحدة معروفة لمحاسبة صانعي النماذج. تم رفع القضية من قبل مجموعة مناصرة وليس ضحية مباشرة للقرصنة.

لقد تسلل عملاء الذكاء الاصطناعي إلى المنتديات الترفيهية والمواقع الحكومية وأدوات البرمجيات المختلفة. وقد تكبد الضحايا بعض التكاليف، بما في ذلك الضغط الإضافي على خوادمهم والوقت الذي يقضونه في تصحيح الثغرات الأمنية المخفية.

وبحسب ما ورد لا تزال الهيئات التنظيمية الحكومية، بما في ذلك الاتحاد الأوروبي ولجنة التجارة الفيدرالية الأمريكية وبعض الولايات الأمريكية، تحقق في OpenAI وAnthropic بشأن هذه الحوادث. ولكن الاحترام القاري لتشجيع الإبداع من شأنه أن يمكن الشركات من الإفلات من أي عقوبات فورية.

عندما لاحظ ريك إلرود، وهو مهندس برمجيات يعيش في ألمانيا، وجود أداة تقصير عناوين URL التي كانت تساعده على التصرف بشكل غريب مؤخرًا، اتصل باثنين من الباحثين الأمنيين الذين كان صديقًا لهما لمعرفة ما إذا كان بإمكانهم تشخيص المشكلة. يقول إلرود إن الباحثين وجدوا عملاء من شركة Anthropic ومقدمي خدمات آخرين يستخدمون الخدمة، المعروفة باسم da.gd، للتحايل على القواعد التي وضعتها مختبرات الذكاء الاصطناعي للتحكم في سلوكهم. (على سبيل المثال، تقول Anthropic إنها تحد من طول عناوين URL لمواقع الويب التي يمكن للسحابة زيارتها لمنع الإجراءات الضارة عن طريق وضع البيانات في نهاية عناوين URL.)

يقول جو نيدلمان، الباحث الأمني ​​الذي يقدم المساعدة المتخصصة، إن التحقيق الذي أجرته Da.gd والجهود المستمرة لمنع المزيد من إساءة استخدام أداتها "استغرق بعض الوقت". لكنه وغيره من أنصار da.gd يرون أن الوضع يمثل فرصة تعليمية قيمة.

يقول نيلمان: "لقد كان الأمر مثيرًا للدهشة"، مضيفًا أن da.gd "ليس لديها أي وسيلة أو خطط" للحصول على تعويض من شركة Entropic مقابل عملية التنظيف لأننا "رأينا الكثير من العملاء يقومون بأنشطة مماثلة، ولم تُنسب جميعها إلى عملاء مستقلين، و"لم يكونوا جميعهم من شركة Entropic وحدها".

يحرص بائعو أدوات الأمن السيبراني على دفع أموال للضحايا. في حدث استضافه هذا الأسبوع مطور برامج صيد الأخطاء Snyk، شجع أعضاء اللجنة من الشركة الناشئة، وأحد مستثمريها، OpenAI، وGoogle، جميع المؤسسات على استخدام وكلاء الذكاء الاصطناعي لتعزيز دفاعاتهم ضد وكلاء الذكاء الاصطناعي الآخرين. قال إد سيم، الشريك العام في شركة Boldstart Ventures: "علينا أن نعيد اختراع كل شيء ليتناسب مع مقياس الآلة مع حجم الآلة". وأظهر هو وآخرون القليل من الاهتمام بتنظيم مختبرات الذكاء الاصطناعي.

وقال مانوج ناير، كبير مسؤولي التكنولوجيا والابتكار في شركة Snyk، إن الشركات الكبيرة تصلح ما معدله خطأ واحد من كل ثمانية بسبب الموارد البشرية المحدودة. لكنه قال إنه من الضروري أن يترك الناس بعض عمليات البحث وإصلاح ومراقبة الأخطاء لعملاء الذكاء الاصطناعي. "عليك أن تصل إلى النقطة التي يمكنك فيها إصلاح كل شيء، لأنه في عصر القرصنة العميلة، تتحول تلك الأشياء العشرة إلى 100 شيء قبل أن تعرف ذلك". وأضاف لاحقًا أن الذكاء الاصطناعي "ليس كارثة إذا جعلته مصدر قوتك".

تستجيب بعض الشركات لدعوة حمل السلاح. أعلن بنك أوف أمريكا هذا الأسبوع أنه قام بتعيين 1000 مقاول لإصلاح الأخطاء التي اكتشفها الذكاء الاصطناعي. قال ناير الأسبوع الماضي إنه سمع من شركات كبيرة أبدت استعدادها لإغلاق أنظمتها مؤقتًا لإعطاء الأولوية للثغرات الأمنية.

قالت Anthropic وOpenAI إنهما تتوقعان الاستمرار في الإبلاغ عن الحوادث من خلال اختباراتهما الخاصة. لكن إيرادات الشركات، سواء المهاجمة أو المدافعة، تستمر في النمو لأن العواقب غير واضحة.