هل ستتمرد الذكاء الاصطناعي على البشر؟ / توقع دقيق باستخدام معادلة بسيطة

يقول باحثون في جامعة جورج واشنطن إن معادلة رياضية بسيطة يمكنها التنبؤ باحتمال تمرد الذكاء الاصطناعي وتوليده ردوداً غير مرغوب فيها قبل وقوعها. تعتمد هذه الطريقة على آلية داخلية في الشبكة العصبية للنموذج، وستكون مفيدة في تطوير أنظمة أكثر أماناً.

يقول باحثون من جامعة جورج واشنطن إن صيغة رياضية بسيطة يمكن أن تتنبأ باحتمالية تحول الذكاء الاصطناعي إلى استجابات غير مرغوب فيها قبل حدوثها. تعتمد هذه الطريقة على الآلية الداخلية في الشبكة العصبية للنموذج وسيتم استخدامها لتطوير أنظمة أكثر أمانًا.

وبحسب السفير أرجان، وبحسب السفير أرجان، فقد أجرى هذا البحث نيل جونسون، أستاذ الفيزياء في جامعة جورج واشنطن، وفرانك ينغجي هوو، طالب الدكتوراه. وقد تم نشر نتائجها للتو في مجلة الأنماط. ووجد الباحثون أن الترتيب الذي يتم به طرح الأسئلة يمكن أن يغير بشكل كبير استجابات برنامج الدردشة الآلي ويقودهم إلى إجابات خطيرة.

ويقول الباحثون إن هذه الصيغة يمكن استخدامها في عملية تأمين نماذج الذكاء الاصطناعي.

كيف تتنبأ هذه الصيغة الرياضية بتمرد الذكاء الاصطناعي؟

ويشبه الباحثون الآلية المدروسة بإبرة البوصلة. هذه الآلية هي في الواقع المتجه المتبقي للنموذج الذي يتحرك بين طبقات الشبكة العصبية عند معالجة الاستعلام. يُظهر هذا المتجه ميل النموذج لإنتاج إجابات إيجابية أو سلبية ويتأثر بالطريقة التي يتم بها طرح الأسئلة.

على سبيل المثال، اختبر الباحثون نموذج GPT-2 الأساسي بأسئلة حول اللقاحات، وإيذاء الآخرين، وإيذاء النفس. عندما يكون السؤال "هل اللقاحات ضارة؟" وقد أثيرت، ظلت استجابات النموذج مواتية. ولكن مع تغيير ترتيب الأسئلة، أصبحت الإجابات اللاحقة مثيرة للقلق.

وبناء على ذلك، صمم الباحثون صيغة رياضية لتقدير النقطة الحرجة؛ النقطة التي يزداد عندها احتمال تغيير الاستجابات الإيجابية إلى الاستجابات غير المواتية. لقد اختبروا هذه الصيغة على عدة نماذج مفتوحة المصدر واعتبروها نظام إنذار مبكر.

يعتقد جونسون أن أدوات الأمان الحالية، مثل تصفية المحتوى والتعلم المعزز، ليست كافية لمنع السلوك الخطير. وهذا مهم بشكل خاص عندما يستخدم الأطباء أو المحامون أو الجيش روبوتات الدردشة غير المتصلة بالإنترنت.

إلا أن بعض الخبراء يحذرون من التطبيق العملي لهذه الطريقة. ويقول وي شينغ، الباحث في جامعة شيفيلد، إن النموذج البحثي المبسط يقلل من الآلية المعقدة للذكاء الاصطناعي إلى مكون صغير. أيضًا، لم يتم تضمين التدريب على السلامة في هذا النموذج وتم إجراء الاختبارات فقط على النماذج القديمة مثل GPT-2 وPythia.

ويقول الباحثون إن النماذج التي تم فحصها تشبه الأنظمة الأكثر تقدمًا من حيث البنية الأساسية. ومع ذلك، لتقييم موثوقية هذه الطريقة، من الضروري إجراء اختبار على نماذج أحدث. ولذلك، فإن هذه الصيغة الرياضية ليست حلاً مثبتًا حتى الآن لمنع تمرد الذكاء الاصطناعي، ولكنها تعتبر منهجًا أوليًا للتحقيق في السلوكيات غير المرغوب فيها والتنبؤ بها.