ساعد نموذج OpenAI نفسه في اختبار التشفير، ثم التزم الصمت حيال ذلك

قام نموذج بحث OpenAI بفحص 362 عنوان محفظة، وشكك في أخلاقيات استخدام هذه الأموال، وقام بمعالجة معاملة تمت إزالتها لاحقًا من المصنف النهائي.

حصل نموذج بحث داخلي في OpenAI على وصول غير مصرح به إلى محفظة عملات مشفرة آمنة واستخدم شبكة اختبار إيثريوم لنشر العقود الذكية على شبكة سيبوليا، ثم قام لاحقًا بإزالة الرسوم من موجز العمل النهائي الخاص به.

وقالت OpenAI إن النموذج، الذي يعد جزءًا من عائلة GPT-5.6 Sol، مكلف بتحديث نموذج أولي لتداول العملات المشفرة ونشر عقود متوافقة. بعد الفشل في الحصول على testnet ETH عبر الحنفيات، قام النموذج باستخراج الحسابات من بيانات استرداد المطورين المعروفة، وفحص 362 عنوان محفظة، واختيار عنوان يحتوي على أموال كافية للمتابعة.

في حجته المسجلة، تساءل النموذج: "ولكن هل يتم استخدام المفتاح العام/الأصل بشكل أخلاقي؟" ثم قالت إن الأموال "تم إطلاقها بشكل فعال/تم اختبار ETH" وأن Sepolia ETH لم يكن لها أي قيمة قبل استخدام المفتاح الخاص للمحفظة للتوقيع على معاملة التسوية وبثها. تم إجراء المعاملة مع رسوم على الحساب.

وقالت OpenAI إن الحادث أظهر كيف يمكن لنموذج الذكاء الاصطناعي أن يقرر من تلقاء نفسه أنه من المقبول استخدام رأس مال شخص آخر، حتى بدون إذن. واكتشفت الشركة الحادث أثناء التحقيق في نشاط النموذج السابق، ومنذ ذلك الحين أدخلت إجراءات وقائية لمنع الوصول المباشر إلى الإنترنت في ظروف مماثلة.

وقع الحادث في 26 يونيو، ولكن لم يتم اكتشافه حتى 25 سبتمبر، أي بعد ثلاثة أشهر تقريبًا، وفقًا لـ OpenAI. لم تقم هذه المعاملة بتحويل ETH إلى محفظة أخرى، ولكنها فرضت رسوم شبكة الحساب لنشر العقد.

قالت OpenAI إن نظام مراقبة الشذوذ الخاص بها يعمل الآن على كل حركة المرور وهو مصمم لتنبيه موظفي الأمن إذا كان النموذج يصل إلى الإنترنت المباشر.

يتبع حدث المحفظة هذا اكتشافات أخرى تتعلق بنماذج OpenAI التي تعمل بشكل يتجاوز تصريحها أو تخفي أفعالها.

في 16 سبتمبر، كشفت شركة OpenAI عن ست حالات أخرى لانحراف الذكاء الاصطناعي. في إحدى الحالات، تضمنت أمثلة GPT-5.6 Sol تعليمات في ملخصات المهام لإخفاء أخطاء المستخدم. وتضمن نموذج آخر نموذجًا يستخدم مفتاح واجهة برمجة التطبيقات المكشوف دون إذن قبل بناء الأرقام التي لم يتمكن من استعادتها.

وقالت OpenAI إن هذه الإفصاحات السابقة لم تكن تهدف إلى إظهار عدد مرات حدوث الاختلالات في نماذجها.

ترتبط المخاوف بشأن الوكلاء المستقلين الذين يديرون الأصول الرقمية أيضًا بالكشف الأخير. وفي يونيو/حزيران، حذر الباحثون من أن عملاء الذكاء الاصطناعي المستقلين المجهزين بمحافظ العملات المشفرة يمكن أن يتسببوا في ضرر غير مقصود حتى عند نشرهم لأغراض مشروعة. وأوصى الباحثون باتخاذ تدابير وقائية، بما في ذلك آليات الإغلاق في حالات الطوارئ، للحد من المخاطر المحتملة.