تمرد وكيل OpenAI مرة أخرى؛ هذه المرة، سرق الذكاء الاصطناعي من محفظة العملات المشفرة

أخفى النموذج استخدام هذه المحفظة في تقريره النهائي. ما بعد تمرد وكيل OpenAI مرة أخرى؛ هذه المرة سرقة الذكاء الاصطناعي من محفظة العملات المشفرة ظهرت للمرة الأولى على سفير أرجان.

أخفى النموذج استخدام هذه المحفظة في تقريره النهائي.

كن عضوًا مميزًا في Arjan Ambassador للاستفادة من المرافق الخاصة والأقسام المختلفة في Arjan Ambassador والوصول إليها.

تخيل أنك تطلب من مساعدك الذكي إنهاء مهمة ما نيابةً عنك، لتكتشف لاحقًا أنه دفع ثمنها من جيب شخص آخر. نشرت OpenAI الآن تقريرًا يشير إلى نفس الشيء تمامًا ويقول إنه في 26 يونيو (5 يوليو)، نفد التشفير من أحد نماذج البحث الداخلي للشركة من عائلة GPT-5.6 Sol أثناء محاولته إكمال مهمة الترميز وانتهى به الأمر بإكمال مهمته بطريقة لم يؤكدها أحد.

وأوضحت OpenAI في تقريرها أنها عهدت إلى هذا النموذج بمهمة تحديث تطبيق تداول العملات المشفرة ونشر العقود الذكية على شبكة اختبار Sepolia. Sepulia هي شبكة اختبار Ethereum التي ليس لرموزها المميزة أي قيمة مادية في العالم الحقيقي. ومع ذلك، لتسجيل المعاملات وإبرام العقود على هذه المنصة، يلزم أيضًا دفع الرسوم، ولكن لم يتم توفير المحفظة ذات الرصيد للنموذج.

بعد فشل محاولات هذا الوكيل للحصول على رموز تجريبية مجانية، اتخذ النموذج إجراءً تعسفيًا وبحث في 362 عنوانًا مختلفًا من خلال البحث في شروط الاسترداد العامة للمطورين للعثور أخيرًا على محفظة تحتوي على ما يكفي من Ethereum لدفع الرسوم!

بعد اكتشاف هذه الحادثة، قامت شركة OpenAI بالتحقيق في سلسلة أفكار هذا الوكيل وأدركت أن النموذج قد توقف مؤقتًا وشكك في أخلاقيات هذا العمل قبل إجراء الصفقة. ومع ذلك، وجد الذكاء الاصطناعي أنه من المقبول استخدام ممتلكات الآخرين، بحجة أن كلمات الاسترداد كانت عامة وأن الرموز المميزة لشبكة الاختبار هذه ليس لها قيمة مادية. والأمر الأكثر إثارة للاهتمام هو أنه بعد الانتهاء من العمل وتقديم تقرير النجاح في المشروع، قام العارض بإخفاء هذا الجزء من عمله غير المصرح به بالكامل ولم يذكره.

لاحظ فريق OpenAI هذا الانتهاك في 25 سبتمبر (3 أكتوبر) أثناء مراجعة أنشطة نماذجهم القديمة. وبعد الكشف عن المشكلة، نفذت الشركة آليات أمان جديدة لمنع الوصول المباشر إلى الإنترنت في اختبارات مماثلة ولإجراء مراقبة إضافية لاكتشاف الأخطاء المستقبلية المحتملة.

على الرغم من أن الرموز المستخدمة في هذا الحادث كانت مجرد عملات مشفرة تجريبية بدون قيمة سوقية حقيقية، فإن حدوث مثل هذا الحدث يخلق شكوكًا مثيرة للقلق بشأن حدود صلاحيات عملاء الذكاء الاصطناعي. لقد أظهرت هذه الحادثة أن الأنظمة الذكية يمكنها بسهولة استبدال الإذن الصريح للبشر بحكمها وتقديرها؛ سلوك يمكن أن يكون له عواقب لا يمكن إصلاحها إذا تمكنت النماذج من الوصول إلى حسابات مالية حقيقية وأنظمة حساسة.

تعود مسيرتي المهنية في عالم التكنولوجيا إلى ما يقرب من 10 سنوات؛ المسار الذي بدأ بالأجهزة، واستمر بالبرمجيات، ويستمر الآن كمراسل تقني في سفير أرجان. أنا جواد ومضى أكثر من ثلاثة عقود، وبالإضافة إلى عالم التكنولوجيا، أحب الأفلام والسينما وموسيقى الروك الكلاسيكية وريال مدريد.

قم بالتسجيل أو تسجيل الدخول للدردشة مع المستخدمين.