تقرير جديد يكشف السباق السري لبناء ذكاء اصطناعي ذاتي التحسين

في وقت تحذر فيه شركات الذكاء الاصطناعي من مخاطر الذكاء الاصطناعي ذاتي التحسين، يقدم تقرير جديد نظرة نادرة على طريقة عملها لتحقيق ذلك.

لعدة أشهر، حذرت شركتا Anthropic وOpenAI من أن الذكاء الاصطناعي قد يكون على وشك تحسين نفسه.

قد يعني هذا الإنجاز، المعروف باسم "التحسين الذاتي العودي" أو RSI، أن قدرات الذكاء الاصطناعي الجديدة تأتي بشكل أسرع من أي وقت مضى. لكن صعود مؤشر القوة النسبية قد يكون أيضًا خطيرًا جدًا على البشرية، مما قد يمثل مرحلة يفقد فيها المطورون السيطرة على أنظمة الذكاء الاصطناعي بالكامل.

حتى عندما تحذر شركات الذكاء الاصطناعي من المخاطر المحتملة لمؤشر القوة النسبية، فقد كانت خجولة بشكل ملحوظ بشأن كيفية تتبعه. ويسعى تقرير جديد صدر يوم الأربعاء من قبل Gladstone AI إلى تغيير ذلك. يعد هذا أحد الرسوم التوضيحية الأكثر تفصيلاً لكيفية عمل مؤشر القوة النسبية (RSI) وكيف تتقدم شركات الذكاء الاصطناعي نحو ذلك. يستند التقرير إلى ما يقول المؤلفون إنها محادثات مع ستة باحثين في أفضل شركات الذكاء الاصطناعي.

ويؤكد التقرير، الذي تمت مشاركته حصريًا مع السفير أرجان قبل صدوره، على أن شركات الذكاء الاصطناعي "تعمل بنشاط" لأتمتة جميع أجزاء مسار تطوير الذكاء الاصطناعي، بما في ذلك توليد أفكار جديدة، وإجراء تجارب لاختبار تلك الأفكار وتفسير النتائج. وقال التقرير، وفقًا للعديد من المطلعين على جلادستون الذين تحدث إليهم: "بافتراض عدم وجود تدخل أو تباطؤ من الولايات المتحدة، فإن مؤشر القوة النسبية سيبدأ العمل في غضون 3 إلى 12 شهرًا وربما قبل ذلك".

يقول إدوارد هاريس، كبير مسؤولي التكنولوجيا في جلادستون: "هناك قدر لا بأس به من الاستعدادات [للكارثة] وشراء المأوى الحيوي بين هؤلاء الباحثين".

الهدف من التقرير، كما أخبر المسؤولون التنفيذيون في غولدستون السفير أرجان، هو إعطاء المشرعين فهمًا أفضل لكيفية عمل مؤشر القوة النسبية، وبالتالي قدرة أفضل على تنظيمه.

يقول جيريمي هاريس، الرئيس التنفيذي لشركة جلادستون: "كان هدفنا هنا هو تعريف التنمية الذاتية العكسية حتى يتمكن الناس من إجراء محادثة عقلانية حول هذا الموضوع، وخاصة في واشنطن". (هذان شقيقان.) "لقد تم اقتراح كل مشاريع القوانين هذه لحظر البيانات الفائقة، وهي محاولات مثيرة للاهتمام حقًا للتعامل مع هذه المشكلة. ولكن أكثر ما يهمنا هو: ما هي العملية التي تحتاج إلى تنظيم؟"

يقدم هذا التقرير نظرة عامة بسيطة على كيفية عمل مسار أبحاث الذكاء الاصطناعي حاليًا في شركات الذكاء الاصطناعي وكيف بدأت هذه الشركات في أتمتة العملية.

بالنسبة للمرحلة الأولى من تدريب نموذج الذكاء الاصطناعي، والمعروفة بالتدريب المسبق، ينصب التركيز على إيجاد طرق لاستخراج المزيد من الذكاء من نموذج يتمتع بقدرة حسابية أقل فأقل، والمعروف في الصناعة باسم "الحوسبة".

تستخدم شركات الذكاء الاصطناعي نهج المحفظة لاختبار هذه الأفكار. يخصص الباحثون كمية صغيرة من الحسابات لكل فكرة ويستخدمونها لتدريب سلسلة من النماذج. يتم اختيار النماذج ذات الأداء الأفضل بشكل موثوق لجولة أخرى من التدريب باستخدام كميات أكبر من العمليات الحسابية.

لا تمتلك الشركات حوسبة لا نهائية، مما يحد من عدد الأفكار الواعدة التي يمكنها اختبارها على نطاقات أوسع. وهذا يعني أنه حتى لو تمكنت شركات الذكاء الاصطناعي من تدريب ذكاء اصطناعي يمكنه توليد أفكار تبدو واعدة، فمن المهم تحديد عدد الأفكار السيئة التي يولدها في نفس الوقت. إذا كانت الشركات بحاجة إلى قضاء الكثير من الوقت أو إحصاء الأفكار الجيدة التي يولدها الذكاء الاصطناعي من الأفكار السيئة، فقد يكون من المنطقي الاستمرار في الثقة في الباحثين البشريين الذين يتمتعون بالحدس الصحيح.

وعلى العكس من ذلك، يمكن لشركات الذكاء الاصطناعي التي تتمتع بإمكانية الوصول إلى المزيد من الحوسبة اختبار المزيد من الأفكار، مما قد يسمح لها بالوصول إلى مؤشر القوة النسبية أولاً. مع المزيد من الحوسبة للتجارب، قد تحصل الشركات على الأفكار التي يصفها تقرير جلادستون بأنها أندر شركات الذكاء الاصطناعي وأكثرها مرغوبة: تلك التي تحقق أداء أفضل لأن المزيد من الحوسبة موجهة إليها، حتى لو كانت تبدو مثالية على نطاقات أصغر.

يقول جيريمي هاريس إن القدرة على التعرف على وقت العثور على هذه الأفكار، وخاصة ما إذا كان الذكاء الاصطناعي يساعد في العثور عليها، هو جزء مهم من العملية التي لا تتمتع الجهات التنظيمية برؤية واضحة عنها حاليًا.

إحدى الخصائص التي تجعل تعديل مؤشر القوة النسبية (RSI) صعبًا هي أنها عملية تدريجية. يقول إدوارد هاريس: "هذا في الواقع أحد الأسباب التي جعلتنا نبذل قصارى جهدنا لوصفها بمزيد من التفصيل". بحيث يمكن للمرء أن يشير إلى جزء من هذا التدفق ويقول: لا بد أن يكون الإنسان هناك.