باحثون: نماذج الذكاء الاصطناعي الجديدة من OpenAI وGoogle خُدعت بسهولة لتعرية الأشخاص في الصور

أسلوب الهجوم يكشف ثغرات في OpenAI، وGoogle تحمي من الصور العارية المولدة بالذكاء الاصطناعي.

طريقة الهجوم تكشف عيوب الذكاء الاصطناعي المفتوح، وجوجل تحمي الصور العارية ذات الذكاء الاصطناعي

ويواصل الباحثون الأمنيون التحذير من أن كميات كبيرة من المحتوى الصريح الناتج عن الذكاء الاصطناعي يتم إطلاقها دون رادع، ولا يبذل المنظمون أي جهد يذكر لوقفها بشكل هادف.

وعادة ما تتم مشاركة هذا المحتوى غير التوافقي في رسائل نصية ومباشرة أو يتم تخزينه في سحابات خاصة، حيث تقل احتمالية اكتشافه أو الإبلاغ عنه، حسبما وجدت دراسة أجرتها جوجل في شهر يوليو الماضي على مستخدمي الإنترنت في جميع أنحاء الولايات المتحدة وأستراليا والمملكة المتحدة. ولهذا السبب تظل "نقطة التدخل الأكثر أهمية" عند المصدر: أدوات الذكاء الاصطناعي الضارة المستخدمة لإنشاء صور جنسية مزيفة، كما خلص باحثو جوجل.

ومع ذلك، فقد أظهر الفريق الأحمر في الأشهر الأخيرة أنه مع زيادة قدرة بعض مولدات الصور في Google وOpenAI، فإنها قد تصبح أسوأ في منع المخرجات الصريحة.

وقد رفع الباحثون في شركة White Circle، وهي شركة غير ربحية يدعمها قادة وكبار الباحثين من Anthropic وDeepMind وHugging Face وOpenAI، العلم الأحمر. تأسست الشركة بعد أن أطلق دينيس شيلوف أحد أشهر عمليات كسر الحماية للنماذج الرائدة في العالم في أكتوبر 2024. ومن خلال كسر النماذج لإجراء اختبارات سلامة شاملة، تساعد White Circle الشركات على تحديد التهديدات ومنعها عند تنفيذ أنظمة الذكاء الاصطناعي المتقدمة التي قد لا تتصرف دائمًا كما هو متوقع.

يعد اختبار مدى نجاح نماذج تحويل النص إلى صورة في حظر فئات المحتوى المحظور بمثابة خط بحث رئيسي لشركة White Circle، ويعتقد شيلوف أن النتائج الأخيرة التي توصلوا إليها "مرعبة" بما يكفي لمشاركتها مع الجمهور.

في نسخة أولية نُشرت الشهر الماضي، كشف باحثو White Circle عن عيوب في أسوار الحماية DALL·E 3، وNano Banana 2 من Google، وGPT-Image-2. وأوضحوا في بيان صحفي أنه "باستخدام الأدوات الجاهزة المتاحة عبر الإنترنت لأي شخص لتنزيلها، وعن طريق إرسال مكالمات API، تمكنت White Circle من استخدام طريقة الهجوم الجديدة لتجاوز مرشحات الأمان" وإنتاج محتوى صريح في حوالي 13 بالمائة من الوقت.

وحذرت وايت سيركل قائلة: "في الأساس، لا يتطلب أي من هذه الطلبات نماذج أو حدود مخصصة للذكاء الاصطناعي، لذلك لا يلزم وجود خبرة في الذكاء الاصطناعي لتنفيذ الهجمات".

قام الباحثون بفحص المخرجات للتأكد من معدل الالتفافية، والذي أشارت وايت سيركل إلى أنه "أعلى طريقة تم اختبارها وفقًا لنفس المعيار". واقترحوا أن النقطة الأساسية هي أنه "في الوقت الذي لم تكن فيه سلامة الذكاء الاصطناعي موضع تدقيق أكبر من أي وقت مضى، فإن الدفاعات التي بنتها المختبرات الرائدة أضعف بكثير مما تعترف به".

من خلال نشر مثل هذا البحث، تضع White Circle نفسها كمقيم خارجي للمختبرات الحدودية وتخطط لفتح المصدر لخط الهجوم بالكامل حتى يتمكن المصممون من فهم الحجم الحقيقي للثغرة الأمنية وبناء حماية أقوى. وعلى الرغم من أن الشركة لم تنشر البحث على نطاق واسع بعد، إلا أنها ستشاركه في مؤتمر بارز للذكاء الاصطناعي في نوفمبر المقبل، NeurIPS 2026، والذي قد يزيد من التدقيق على جوجل وOpenAI في وقت لاحق من هذا الخريف.

وقد شاركت White Circle النتائج التي توصلت إليها من خلال "المكالمات المتبادلة" مع بعض مختبرات الذكاء الاصطناعي، كما قال Shiloff لـ Ars، لكن لم تستجب Google ولا OpenAI لطلب Ars للتعليق المباشر على نقاط الضعف في نماذجهم.

وفي الوقت نفسه، أصدرت OpenAI وGoogle نماذج جديدة - ChatGPT Images 2.5 وNano Banana 2.1 - وأخبرت White Circle آرس أن الاختبارات الأمنية السريعة باستخدام نفس الطريقة أظهرت أن "كلاهما أكثر قابلية للكسر بشكل ملحوظ من سابقتيهما".

لم تستجب أي من الشركتين بعد أن شارك آرس النتائج الجديدة.

يمكن لطريقة الهجوم الخاصة بـ White Circle تقسيم الدفاعات الحدودية إلى فئات مثل المحتوى الصريح، وهو ما يبدو سهلاً، كما قال Shiloff لـ Ars، وهو ما لا يبشر بالخير بالنسبة للدفاعات الأكثر جدية التي يتم تحديثها حاليًا لمنع سلوكيات الذكاء الاصطناعي الأخرى مثل القرصنة.

"إن فرضية عمل White Circle لهذا الأمر هي أن النماذج الأحدث إما أكثر تطوراً ويمكن أن تنتج نطاقًا أوسع من المحتوى، أو أن السلامة قد تم منحها الأولوية لصالح الوظيفة" ، هذا ما قاله White Circle لـ Ars.

وقال شيلوف إن وايت سيركل تجري أيضًا مناقشات أولية مع المسؤولين الحكوميين حول اختبار سلامة الطرف الثالث، والذي يعتقد أنه يجب أن يكون مطلوبًا. يمكن لعمليات التدقيق المستقلة الإلزامية أن تجبر الشركات على إعطاء الأولوية لاختبارات السلامة، والتي أشار المحللون إلى أنها في المؤخرة إلى حد كبير حيث تضخ شركات الذكاء الاصطناعي المزيد من الموارد في البنية التحتية للحوسبة والذكاء الاصطناعي.

وقال أناشيلوف لآرس: "وبالنسبة لنا، يبدو أنهم لا يفعلون ذلك بالفعل".

لم تقتصر White Circle على اختبار أمر واحد في كل مرة للكشف عن عمليات كسر الحماية "القابلة لإعادة الاستخدام والمحمولة" - والتي تعمل عبر نماذج رئيسية متعددة. وبدلاً من ذلك، بحث الباحثون عن "أنماط تعمل عبر طلبات وسيناريوهات متعددة" لتحديد استراتيجيات الهجوم القابلة لإعادة الاستخدام والتي يمكن أن تعمل عبر النماذج الرائدة. (لاحظ الباحثون أن Midjourney لم يتم اختباره لأنه "لا يوفر واجهة برمجة تطبيقات عامة مناسبة للمقاييس التي يتم التحكم فيها بواسطة g.")

أطلق الفريق على طريقة الهجوم الجديدة اسم "الفريق الأحمر من خلال تطور الإستراتيجية التكرارية" (RISE). وهو يعتمد على مكونين: نموذج الهجوم الذي يقوم بإنشاء كسر الحماية، ونموذج الحكم الذي يتحقق مما إذا كان محتوى الإخراج محظورًا أم لا.

وقال شيلوف لآرس: "إن خط الأنابيب بأكمله مبني على نماذج متاحة على نطاق واسع". نموذج Hugging Face هو نموذج Qwen تم تنزيله من Hugging Face ونموذج القاضي هو Gemini 3.8 Flash.

وقال شيلوف: "لست بحاجة إلى نماذج حدودية لكسر دفاع النموذج الحدودي، وهو أمر مثير للاهتمام للغاية".

وقال شيلوف إنه تم قضاء الكثير من الوقت للتأكد من أن نموذج الحكم يشير بدقة إلى المحتوى الصريح. صرح ديمتري خارلابينكو، مهندس أبحاث الدائرة البيضاء، لـ Ars أنه عندما يتعلق الأمر باختبار مولدات الصور، فإن مجال الفريق الأحمر بأكمله "تمت معايرته بشكل سيئ للغاية" و"صفر حرفيًا". ولهذا السبب، فهي منطقة "لا يتم الإبلاغ عنها على الإطلاق" في White Circle حيث تحاول شركات الذكاء الاصطناعي الاستيلاء على الأسواق بنماذج جديدة أكثر بهرجة.

وأوضح شيلوف أنه بالنسبة لشركة White Circle، فإن الهدف من البحث هو بناء نماذج أكثر تطورًا يمكنها محاكاة الهجمات على النماذج الأخرى. وبهذه الطريقة، يمكنهم مساعدة المدافعين على تحديد نقاط الضعف وإصلاحها قبل حدوث عمليات استغلال ضارة.

في عالمه المثالي، يعتقد شيلوف أن شركات الذكاء الاصطناعي لن تواجه اختبارات السلامة الخارجية الإلزامية فحسب، بل ستواجه أيضًا رقابة طرف ثالث، تمامًا مثل النظام المستخدم لمنع التهديدات النووية.

بعد ذلك، من المحتمل أن تشكل كيانات مثل White Circle تحالفًا للمساعدة في تحديد تهديدات الذكاء الاصطناعي في الوقت الفعلي، دون المعاناة من التحيزات. وأشار شيلوف إلى أن المشكلة الناشئة في النظام البيئي للذكاء الاصطناعي هي أن أي شخص يقوم بعمل أمني مثير للاهتمام من المرجح أن يتم التعاقد معه من قبل المختبرات الحدودية، مما قد يعرض عملهم للخطر.

دخلت White Circle في شراكة مع Frontier Labs. شاركت سابقًا في برنامج مكافآت الأخطاء الخاص بـ Anthropic، لكنها وجدت في النهاية أنه "ضيق للغاية في غرضه".

"يركز هذا البرنامج على عمليات كسر الحماية العالمية في المجالات التي تهمهم كثيرًا، والتي تحددها ظروفهم الخاصة،" قال White Circle لآرس.

وقالت وايت سيركل إن الأبحاث مثل أحدث ورقة بحثية لـ RISE لم تكن لتغطيها هذا البرنامج "بالتأكيد". والقيام بذلك على البطاقة الإنسانية يخاطر بمنع الدائرة البيضاء من مشاركتها مع الجمهور.

أخبرت White Circle آرس أن White Circle غير راغبة في التوقيع على أي اتفاقيات عدم إفشاء مقيدة قد تمنع المشاركة العامة للنتائج المهمة، لذلك إذا كانت Anthropic تتطلب اتفاقيات عدم الإفصاح، فمن المحتمل ألا يحدث التعاون.

الجهات الفاعلة السيئة المصممة على إنشاء صور حميمة غير توافقية تم إنشاؤها بواسطة الذكاء الاصطناعي (NCII) ومواد الاعتداء الجنسي على الأطفال (CSAM) لا تحتاج إلى نماذج حدودية وغالبًا ما تستخدم ما يسمى ببرامج العري المصممة لهذا الغرض الشائن. لكن بحث جوجل وجد أن 20% من مستخدمي الإنترنت الذين اعترفوا ببناء صور عارية بالذكاء الاصطناعي فعلوا ذلك "من أجل المتعة" أو "على سبيل المزاح"، في حين أن ما يقرب من الثلث كانوا ببساطة "يختبرون التكنولوجيا". لذلك من المهم مدى سهولة كسر الدفاع عن النماذج الأكثر توفرًا. يقول بحث جوجل إن الحماية يجب أن تكون إلزامية لإغلاق "مسار الاستغلال" أمام "مجموعة فرعية من المجرمين الذين قد يتم ردعهم عن طريق الاحتكاك الفني".

يقول بحث Google: "يقع على عاتق المطورين أيضًا مسؤولية تنفيذ حواجز حماية قوية على مستوى النموذج ومؤشرات المصدر لمنع الإنتاج الأولي والتوزيع اللاحق للصور الجنسية الاصطناعية".

في الأسبوع الماضي، حذرت مؤسسة مراقبة الإنترنت (IWF) من أن هناك حاجة إلى اتخاذ إجراءات عاجلة بعد أن وجد محللون خبراء أن "هناك عددًا أكبر من الصور الحقيقية للاعتداء الجنسي على الأطفال بواسطة الذكاء الاصطناعي في النصف الأول من هذا العام مقارنة بعام 2025 بأكمله، بما في ذلك الصور التي تصور أطفالًا دون سن الثانية". في المجمل، تم العثور على 6310 صورة من صور الذكاء الاصطناعي التي تستوفي التعريف القانوني لـ CSAM في الأشهر الستة الأولى من عام 2026، وهو ما يزيد بحوالي 40% عن إجمالي العام الماضي.

تقوم هذه المؤسسة الخيرية غير الربحية التي يقع مقرها في المملكة المتحدة بمراقبة الاعتداءات الجنسية على الأطفال على مستوى العالم وتدير خطًا ساخنًا لدعم الضحايا المستهدفين. في المملكة المتحدة، يطلبون من الهيئات التنظيمية تقديم إطار عمل للسلامة يتطلب من شركات الذكاء الاصطناعي منع استخدام التكنولوجيا الخاصة بها لإنتاج CSAM، حسبما صرح متحدث باسم IWF لـ Ars.

حتى ذلك الحين، يعتقد IWF أنه من المهم للأطراف الثالثة مثل White Circle "تسليط الضوء على نقاط الضعف في حماية الشركات".

قال متحدث باسم IWF: "لقد رأى محللونا كيف أن التقدم في الذكاء الاصطناعي يجعل من الممكن إنتاج صور الاعتداء الجنسي على الأطفال بأقل جهد، مما يلغي الحاجة إلى الخبرة الفنية ويقلل بشكل كبير من الحواجز أمام الدخول. يمكن لأدوات الذكاء الاصطناعي إعادة إنتاج وتضخيم المحتوى الإجرامي وتسريع إنشاء ونشر المواد الضارة على نطاق واسع. أي احتكاك أو خطوة يمكن تقديمها لجعل إساءة استخدام هذه الأدوات أكثر صعوبة هي خطوة إيجابية إلى الأمام".

مثلما يمكن للمدخلات الخارجية أن تساعد في تحسين المرشحات، يعتقد IWF أن شركات التكنولوجيا يجب أن تعمل أيضًا مع المؤيدين لتدقيق النماذج للتعامل بشكل أفضل مع CSAM الناتج عن الذكاء الاصطناعي.

قال متحدث باسم IWF: "إن تقييم CSAM هو مهمة متخصصة للغاية تتطلب تدريبًا متخصصًا ودعمًا اجتماعيًا وليست بسيطة بالنسبة لشركات التكنولوجيا أو علماء التعلم الآلي. ولكن يجب دمج السلامة في التكنولوجيا الجديدة حسب التصميم - وهذا يشمل اختبار النماذج قبل طرحها في السوق للتأكد من عدم استخدامها لإنشاء صور عارية أو جنسية للأطفال.

تعتقد White Circle أن استخدام طريقة مثل RISE يمكن أن يساعد Border Labs في الإعلان عن المزيد من عمليات كسر الحماية بشكل أسرع وتعزيز الدفاعات بسرعة لمنع التسريبات الضارة. بالإضافة إلى اختبار الحظر على الصور الفاضحة، يمكن للشركات أيضًا استخدام هذه الطريقة لمنع المخرجات المحظورة الأخرى، مثل الصور التي تصور العنف التصويري أو إيذاء النفس.

لكن المختبرات لم تدعو بعد إلى إنشاء خط أنابيب للتربية، والذي تتم مشاركته على GitHub White Circle لمساعدة صناع السياسات على تقييم ما إذا كانت قواعد سلامة الذكاء الاصطناعي ضرورية للسيطرة على المختبرات الحدودية.