OpenAI وAnthropic تخبران المشرّعين البريطانيين: نظّمونا

رَهْبَرانُ الذَّكاءِ الاصْطِناعِيِّ يَنْضَمُّونَ إِلى المُبَلِّغينَ عَنِ المَخالِفاتِ وَكِبارِ المَسؤولينَ الأَمْنِيِّينَ في جَلْسَةٍ بَرْلَمانِيَّةٍ واسِعَةٍ، فيما حَذَّرَ رَئيسُ الاسْتِخْباراتِ البِريطانِيَّةِ عَلى بُعْدِ بِضْعِ مِئاتِ الأَمْتارِ مِنْها مِنْ أَنَّهُ يُمْكِنُ اسْتِخْدامُ الذَّكاءِ الاصْطِناعِيِّ في تَطْوِيرِ أَسْلِحَةٍ بِيُولُوجِيَّةٍ جَدِيدَةٍ.

عقدت لجنة الأعمال والابتكار والعلوم والتجارة، وهي لجنة مكونة من أعضاء في البرلمان، اجتماعًا يوم الثلاثاء مع أربع شركات ذكاء اصطناعي حدودية وأربعة موظفين سابقين في الشركات وكبار موظفي الخدمة المدنية في المملكة المتحدة.

وقال ليام بوث سميث، رئيس أنثروبك أوروبا، للجنة عندما سئل عما إذا كانت الشركة ترى أن سلامة الذكاء الاصطناعي تحتاج الآن إلى إطار قانوني: "يجب أن تكون القوانين ملزمة". وقال إن الشركة "تعتقد باستمرار أنه يجب أن تكون هناك قواعد ملزمة للشركات وأن الالتزامات الطوعية ليست كافية".

وكان توم داف جوردون، نائب رئيس شركة OpenAI، أكثر حذراً، لكنه ظل داعماً، حيث دافع عن إطار قانوني واتفاقية دولية. وقال داف جوردون: "يجب أن يكون هناك بعض العناصر التي يجب أن تكون إلزامية"، بدءاً بالإبلاغ عن الحوادث. وقال: "لا نعتقد أن كل شيء يعتمد على التزامات طوعية فيما يتعلق بمخاطر الحدود يعد خطة جيدة طويلة المدى".

ومع ذلك، فإن منافسيهم لا يتبعونهم. وقال أوين لارتر من Google DeepMind عندما سئل عما إذا كان يدعم إطارًا قانونيًا: "التركيز على المعايير هو شيء سنفعله". وأشار روب شيرمان من ميتا إلى المنظمين الحاليين في المملكة المتحدة، قائلا للنواب إنهم "لا يكتبون على صفحة بيضاء".

كشف الاجتماع عن الانقسام التنظيمي ووضع النهج المتضارب لقادة الذكاء الاصطناعي على جدول أعمال برلمان المملكة المتحدة. كان الكشف عن الانقسام في الولاية القضائية الثانية نقطة رئيسية بالنسبة لرئيس اللجنة ليام بيرن، الذي قال لمجلة WIRED بعد جلسة الاستماع أن اللجنة شرعت في "تسليط الضوء على الاختلافات الواسعة في الرأي بين بعض أغنى الشركات على وجه الأرض وإظهار أنه لا يمكن الاعتماد على التنظيم الذاتي الطوعي".

وبينما قدم أربعة مديرين تنفيذيين أدلة إلى لجنة سلامة الذكاء الاصطناعي، على بعد بضع مئات من الأمتار فقط، حذر مدير جهاز الأمن البريطاني من مخاطر الذكاء الاصطناعي.

استخدم مدير MI5، كين ماكالوم، تحديثه السنوي للتهديدات للتحذير من إساءة استخدام الأسلحة البيولوجية كتهديد كبير من الذكاء الاصطناعي. يقول ماكالوم: "لم نكتشف ذلك بعد، لكن حالة الاستخدام التي أريد التركيز عليها بشكل أكبر هي إمكانية قيام الذكاء الاصطناعي بتغيير تهديدات الأسلحة البيولوجية الحالية أو حتى الجديدة".

ردًا على التعليق، قال بيرن لمجلة WIRED: "حقيقة أن رئيس MI5 يحذر في جزء من وايتهول من تطوير قدرات خطيرة بشكل لا يصدق للإرهابيين البيولوجيين، ثم في جزء آخر من وايتهول، فإن السكرتير الدائم لمكتب مجلس الوزراء يعترف بشكل أساسي بأن نظامنا التنظيمي للذكاء الاصطناعي هو كل ما يجب أن تخبرك به طوعًا".

وفي الجزء الأخير من جلسة الاستماع للأدلة، اعترف موظفو الخدمة المدنية أمام اللجنة بمدى يأس النظام الحالي. يقوم معهد أمن الذكاء الاصطناعي (AISI) في المملكة المتحدة باختبار النماذج الرائدة قبل إصدارها، ولكن فقط عندما تقرر الشركات تسليمها.

واعترف هنري دي زويت، مدير معهد AISI، بأن المعهد يعتمد بشكل كبير على تعاون الشركات والحكومات الأجنبية للوصول. تم الضغط على كات ليتل، أحد كبار الموظفين الحكوميين في مكتب مجلس الوزراء، الذي يضم AISI، للسؤال عما إذا كان النظام بأكمله طوعيًا. وقال: "في الوقت الحالي، نعم، إنه كذلك".

عندما سُئل عما سيحدث إذا اعتبرت AISI نموذجًا خطيرًا للغاية، لكن الشركة أطلقته على أي حال، أقر ديزويت بأن AISI ليس لديه القدرة على منعه من القيام بذلك.

وقال دي زويت، مستخدماً المصطلح الإنجليزي الذي يشير إلى شهادة السلامة: "ما لا نفعله هو وضع علامة على الطائرة الورقية". "نحن لا نقول نعم أو لا لأي نموذج." وأضاف: "إما الشركات الأمريكية أو الصينية هي التي تبني عبر الحدود... ليس هناك الكثير الذي يمكننا أن نفعله كبريطانيا حيال ذلك".

وأوضح مديرو الحدود أيضًا أن وصول المملكة المتحدة سيمر عبر واشنطن. وقال داف جوردون من OpenAI، في إشارة إلى نظير AISI الأمريكي: "نحن نقدم نشرًا مسبقًا لنماذجنا لـ CAISI". "سنستمر في تقديم نماذج ما قبل النشر الخاصة بنا إلى AISI في المملكة المتحدة... وسنواصل القيام بذلك طالما أمكننا القيام بذلك في ظل حكومة الولايات المتحدة."

تم توضيح التوتر في الترتيبات الحالية للسلطات البريطانية من خلال بوث سميث من أنثروبيك. وقال: "لسوء الحظ، لم نتمكن من توفير الوصول الكامل وغير المقيد إلى [Mythos 5.1] إلى AISI البريطاني في ذلك الوقت... هذا سؤال بالنسبة للحكومة الأمريكية"، قبل أن يضيف أن AISI لديه الآن حق الوصول.

استمعت الجلسة أيضًا إلى أربعة باحثين سابقين في المختبر، بما في ذلك دانييل كوكوتاجلو، الموظف السابق في OpenAI. "لا أعتقد أن شركاته أخبرت النواب أنه يمكن الوثوق بالتنظيم الذاتي. قال ستيفن أدلر، الذي ترك OpenAI في نهاية عام 2024، إنه "لا يثق بثقافة السلامة في جميع أنحاء الصناعة". وقال جيفري إيرفينغ إن المختبرات تعتقد أنها تخوض سباقًا لن تقاطعه الحكومات ولا يمكنها المغادرة. "كلاهما أكاذيب. لا يمكنهم سوى التوقف".

بعد جلسة الاستماع، أخبر بيرن مجلة WIRED أن لجنته ستقضي الآن الكثير من الوقت في دراسة الطريق إلى الأمام بالنسبة للمملكة المتحدة كقوة متوسطة في الذكاء الاصطناعي. وهو يريد من الوزراء أن يستغلوا رئاسة بريطانيا المقبلة لمجموعة العشرين، إلى جانب كوريا الجنوبية، التي يسعى لرئاستها، للتوسط في اتفاقية دولية مستقلة عن البيت الأبيض الحالي. وقال: "رئاسة مجموعة العشرين ستبقى في أمريكا لفترة أطول مما كانت عليه خلال رئاسة ترامب.

وأضاف أن "المخاطر تتزايد بشكل أسرع مما يستطيع نظام السلامة لدينا التعامل معه".