اخترقت نماذج OpenAI محفظة عملات مشفرة وشوهت المزيد من مواقع الويب

إذا كان البشر وراء لوحة المفاتيح، فإن هذه التصرفات يمكن أن تؤدي إلى اتهامات جنائية.

إذا كان البشر وراء لوحة المفاتيح، فإن هذه التصرفات يمكن أن تؤدي إلى اتهامات جنائية.

قالت OpenAI إن النماذج الداخلية اخترقت موقعين آخرين على الويب، وتجاوزت قيود التصفح التي فرضتها الشركة واستخدمت بيانات الاعتماد المكشوفة لاستخراج العملات المشفرة من محافظ لم يكن من الممكن الوصول إليها بطريقة أخرى، في أحدث إصدار من الكشف عن العملاء المتورطين في ممارسات غير أخلاقية وربما غير قانونية.

وأصدرت الشركة يوم الخميس تقارير عن أربع حوادث جديدة، وقعت جميعها في شهر يونيو. وتم إطلاق سراحهم بعد أن كشفت الشركة في يوليو/تموز أن وكلاء الاختبار الداخليين استغلوا ثغرة أمنية في أداة مصممة للحد من وصولهم إلى الإنترنت. ثم دخلوا بعد ذلك إلى شبكة مزود أدوات الذكاء الاصطناعي Hugging Face. اتخذ العملاء هذا الإجراء غير القانوني لسرقة إجابات اختبار الاختراق التي لم تكن متاحة بسهولة أثناء أداء واجباتهم. وقد أثار الحادث - الذي كان من المحتمل أن يؤدي إلى اتهامات جنائية إذا تم تنفيذه بشكل مباشر من قبل فرد - المخاوف من أن الاستخدام الواسع النطاق للذكاء الاصطناعي يمكن أن يكون له آثار ضارة على نطاق غير مسبوق.

إن طلب المغفرة أسهل من طلب الإذن

في اثنتين من الحالات التي تم الإبلاغ عنها يوم الخميس، قام عملاء OpenAI المكلفون باسترجاع المعلومات من مواقع الويب باختراق النماذج عندما واجهوا عقبات في الوصول إليها مباشرة. وفي إحدى الحوادث أثناء التدريب المعزز، تم منع العارضة من الوصول أثناء محاولتها استعادة سرير المستشفى التاريخي. وقالت OpenAI إن الإحصائيات الموجودة على موقع الإحصائيات الحكومية "تستخدم ميزة تنزيل الملفات بالموقع لاسترداد تكوين الخادم وملفات التطبيق، بما في ذلك بيانات الاعتماد الحساسة". "تم فحص رمز التطبيق وتجاوز عمليات التحقق من تفويض نقطة النهاية للإحصائيات واستعادة البيانات المرفوضة مسبقًا. نموذج البيانات المخزن محليًا."

وفي حادثة أخرى، تجاوز نموذج تم طلبه لاسترداد الأرقام من لوحة معلومات البحث العامة الضوابط الأمنية للمؤسسة واستخدم الوصول غير المصرح به لسرقة البيانات. ثم قمت ببعض التغييرات في التكوين على الخادم.

في التقييم، تسمح التغييرات التي يتم إجراؤها على النموذج لأداة بحث مدمجة بترحيل الطلبات إلى لوحة المعلومات العامة. وفي التقييم الثاني، قام النموذج بتنزيل خمسة جداول غير عامة تحتوي على 147,451 صفًا. طلب باحثو OpenAI من الوكلاء استرداد خمسة أشكال فقط من لوحة المعلومات. وحتى بعد إعادة ضبط الإعدادات، استمر النموذج في استخدام كلمة المرور لاسترداد المعلومات غير العامة.

وقالت OpenAI: "انتهى التقييم دون الكشف عن أن النموذج قد خمن الإجابات، أو وصل إلى الأنظمة الداخلية للمؤسسة، أو قام بتنزيل جداول غير عامة، أو غير تكوين المصادقة". "تم وضع علامة على جميع الإجابات الخمس في هذا التقييم بأنها غير صحيحة."

وفي تقرير ثالث، قالت الشركة إن النموذج دفع إلى تحديث تطبيق تداول العملات المشفرة الذي يستخدم الأموال من محفظة مقفلة على شبكة اختبار. النموذج "أخذ مفاتيح المحفظة من المعلومات العامة، ورموز استرداد المطورين، وعثر على حساب بأموال testnet، واستخدم هذا الحساب لدفع تكاليف نشر العقد المطلوب."

ويواصل التقرير: "يسأل النموذج عما إذا كان مرخصًا، ثم يجادل بأن شرط الاسترداد العام ورموز testnet التي لا قيمة لها تجعل الأموال قابلة للاستخدام. كان النشر ناجحًا وأضيفت رسوم المعاملة إلى الحساب. "تُظهر هذه الحالة أن النموذج يمكنه استبدال حكمه الخاص بالضرر المحتمل بإذن مالك الحساب، ثم التصرف بناءً على هذا الحكم دون إذن".

وفي التقرير الأخير، قالت OpenAI إن النموذج تحايل على القيود التي وضعها الباحثون على أنواع طلبات الويب. أثناء التعلم المعزز، اتبع النموذج إحصاءات الأعمال العامة. تابع OpenAI:

وبعد العثور على الكتاب السنوي العام وتقديم الإجابة، واصل البحث عن طريق آخر إلى الخدمة الإحصائية. سمح ذلك لمتصفح خارجي بإرسال طلبات POST واسترداد الأرقام السنوية كصورة واستخراجها باستخدام التعرف الضوئي على الحروف. ثم قامت بإنشاء معالج قابل لإعادة الاستخدام يقوم بإرجاع نص الرد على المكالمة من خلال خدمة الإرسال وصندوق بريد الإرجاع، والتحقق بشكل متكرر من الأرقام المستردة واستخدام البيانات المخزنة في الاستجابات المرسلة. توضح هذه الحالة كيف يمكن للنموذج أن يتحايل على القيود المفروضة على أدواته من خلال الحصول على خدمات خارجية لتنفيذ الإجراءات المحظورة، حتى بعد العثور على طريقة أخرى للإجابة على السؤال.

يحاول النموذج أولاً استخدام متصفح خارجي مع إذن لتقديم طلب GET نيابة عنه، ثم يستخدم JavaScript لاسترداد المعلومات. ثم استخدم النموذج صندوق بريد عبر الإنترنت لاستكشاف أخطاء هذه التقنية وإصلاحها. أخيرًا، استقر النموذج على طريقة أخرى: مطالبة المتصفح الخارجي بفتح نموذج ويب من شأنه نشر طلب التجارة إلى خدمة الإحصائيات. عندما يعرض المتصفح الاستجابة، تقوم خدمة العرض بإرجاع صورة GIF للصفحة. ثم استخدم النموذج التعرف البصري على الأحرف لقراءة الأرقام من الصورة.

لقد أصبح من الشائع بين الباحثين والصحفيين أن يصفوا مثل هذه الحوادث بأن الذكاء الاصطناعي أصبح "مارقًا". وهذا ليس صحيحا بالضرورة. في حين أن الطلبات المقدمة إلى النماذج لم تطلب منهم استخدام طرق بديلة لإكمال أهدافهم، فقد تم تدريب النماذج لتكون فعالة ومستقرة ومستقرة، وعندما يكون ذلك ممكنًا، للعثور على اختصارات تقلل من عبء العمل. بالإضافة إلى ذلك، قامت معظم النماذج أو جميعها بتعطيل حواجز حماية معينة قد تمنع حدوث ذلك. وفي هذا الصدد، كان أداء النماذج تمامًا كما دربتها OpenAI عليها.

دان جودين هو محرر أمني أول في Ars Technica، حيث يشرف على تغطية البرامج الضارة والتجسس على الكمبيوتر وشبكات الروبوت واختراق الأجهزة والتشفير وكلمات المرور. تستمتع في أوقات فراغها بالبستنة والطهي ومتابعة المشهد الموسيقي المستقل. يقع مقر دون في سان فرانسيسكو. اتبعه هنا على Mastodon وهنا على Bluesky. اتصل به على الإشارة في DanArs.82.