يرى مدققو Big Tech AI فقط ما يتم عرضه عليهم

إذا كان لعمليات تدقيق الامتثال في البيت الأبيض أي قيمة، فيجب أن يكون المدققون قادرين على اختيار ما يختبرونه، كما كتب صامويل فانس لوف، مدير الأبحاث في مركز أبحاث اللامركزية.

في الأسبوع الماضي، وعدت ست من أقوى شركات الذكاء الاصطناعي في العالم البيت الأبيض بأنها ستسمح للغرباء بمراجعة أعمالها.

في 29 سبتمبر، وقعت شركات Nvidia وOpenAI وAnthropic وGoogle وMeta وxAI اتفاقية بشأن نماذج الذكاء الاصطناعي الحديثة التي وصفها الرئيس الأمريكي دونالد ترامب بأنها "ملزمة أخلاقيا". وقد وعدت كل شركة "بالشراكة مع مدقق حسابات خارجي مستقل أو مقيم" وأعضاء مجلس إدارة مستقلين لمراجعة تقارير المدققين والتأكد من إصلاح المشاكل.

تعتبر عمليات التدقيق الخارجي فكرة جيدة، وأنا سعيد برؤيتها هناك. لكن الاتفاقية لا تنص على أي شيء حول من سيختار المدققين، أو ما يمكنهم مراجعته، أو ما إذا كانت النتائج التي سيتوصلون إليها سيتم نشرها على الملأ. ولا توجد عقوبة لتجاهل ذلك. في الوضع الحالي، تختار كل شركة مدقق حساباتها الخاص وتقرر ما الذي سينظر إليه المدقق.

في عام 2000، دفعت إنرون لشركة المحاسبة آرثر أندرسن - التي كانت ذات يوم جزءًا مما يسمى "الخمسة الكبار" من شركات المحاسبة الدولية، والآن بعد سقوط آرثر أندرسن في أيدي "الأربعة الكبار" - 25 مليون دولار لمراجعة دفاترها و27 مليون دولار أخرى للأعمال الضريبية والاستشارات. وفي غضون عامين، انهارت الشركتان. استجاب الكونجرس بإصدار قانون ساربينز-أوكسلي، الذي أبعد اختيار مراجعي الحسابات عن الإدارة، ومنع مراجعي الحسابات من المبالغة في بيع الخدمات للشركات التي قاموا بمراجعتها، وأنشأ مجلسا عاما لتفتيش مراجعي الحسابات أنفسهم.

فشل أندرسن ليس بسبب نقص الخبرة، ولكن بسبب الدافع لرعاية العميل الذي يدفع 52 مليون دولار. إن سنة واحدة من الالتزامات التطوعية ليست سجلًا جيدًا في صناعة الذكاء الاصطناعي أيضًا. في عام 2023، قدمت شركات الذكاء الاصطناعي الرائدة سلسلة من الالتزامات الطوعية للبيت الأبيض، بما في ذلك السماح للخبراء الخارجيين باختبار أنظمتها قبل إطلاقها. وعندما عاد الباحثون في جامعات ستانفورد وهارفارد وبراون وسجلوا آراء 16 شركة ضد هذه الالتزامات، وصل المتوسط ​​إلى 53%. ومع الوعد بمساعدة الغرباء في العثور على المشاكل والإبلاغ عنها، حصل ثمانية من أصل 16 على صفر.

وحتى عند إجراء الاختبار الخارجي، يقوم المطور بتحديد الشروط. كتبت METR، وهي منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي، أن اختبار نموذج o3 OpenAI قبل الإصدار تم "في ثلاثة أسابيع فقط" مع "وصول محدود إلى المعلومات حول النموذج" وعدم عرض المنطق خطوة بخطوة للنموذج.

لكي نكون منصفين لشركة OpenAI، فقد سمحت بالاختبار في المقام الأول. ولكنه يوضح مدى جودة استخدام الشركة لما تختار مشاركته.

نموذج الذكاء الاصطناعي المدرّب هو في الأساس ملف كبير جدًا من الأرقام، وغالبًا ما يكلف إنتاجه أكثر من 100 مليون دولار، وأي شخص لديه نسخة منه يمتلك النموذج. يمثل تسليم النسخ إلى الغرباء خطرًا أمنيًا. حتى وقت قريب، ترك هذا للمختبرين خيارًا محرجًا، وهو ما وصفه Google DeepMind جيدًا: إما أن يقوم المختبرون بتسليم أسئلتهم، حتى تتمكن الشركة من رؤية الاختبار مقدمًا، أو تقوم الشركة بتسليم نموذجها.

في شهر أغسطس، أظهرت شركة DeepMind طريقة للتغلب على هذه المشكلة. وأجرى المعهد، بالتعاون مع معهد سلامة الذكاء الاصطناعي في سنغافورة وثلاث مجموعات أجنبية أخرى، ما أسماه أول تجربة مزدوجة التعمية في العالم لنموذج الذكاء الاصطناعي، بناءً على نفس مبدأ تجربة الأدوية مزدوجة التعمية. تم إجراء الاختبار على أجهزة كمبيوتر مختومة، لذلك لم يتمكن المختبرون الخارجيون من رؤية النموذج مطلقًا ولم تتمكن Google من رؤية أسئلتهم مطلقًا. وتقول جوجل إن أي طرف يمكنه التحقق رياضيًا من أن محتواه يظل خاصًا.

كما أنه ينقل الثقة في الأجهزة. في العام الماضي، تمكن الباحثون من اختراق هذا النوع من الأجهزة المختومة بمعدات تقل قيمتها عن 1000 دولار، على الرغم من أنهم كانوا بحاجة إلى الوصول الفعلي إلى الخادم للقيام بذلك. الأمر يستحق أن نأخذه على محمل الجد. لكن هذه مشكلة أصغر بكثير من "لا يمكننا السماح لأي شخص بالاقتراب من النموذج" ويمكن إدارتها من خلال توخي الحذر بشأن من يتحكم في الآلات.

بالنسبة لتقريرنا، "بدائل الذكاء الاصطناعي المركزي"، الذي نشره هذا الأسبوع مركز أبحاث اللامركزية، أجريت أنا والمؤلف المشارك كايل بليجن مقابلات مع 36 شخصًا ورسمنا ما يقرب من 30 بديلاً للتحكم المركزي في الذكاء الاصطناعي. وكانت النتيجة الرئيسية التي توصلنا إليها هي أن الغرباء يمكنهم الآن التحقيق في الذكاء الاصطناعي المتقدم دون امتلاك النموذج أو بياناته.

إذا كان لعمليات تدقيق الاتفاقية أي قيمة، فيجب على المدققين اختيار ما يختبرونه الآن حيث يمكنهم القيام بذلك دون الحصول على نسخة من النموذج. ويجب على الشركات أيضًا أن تذكر من هم مدققوها وما الذي تغطيه عمليات التدقيق، حتى لو ظلت النتائج الدقيقة خاصة. لعقود من الزمن، قامت الشركات العامة بتسمية مدققي حساباتها دون الكشف عن الأسرار التجارية. ولجان مجلس الإدارة التي تقرأ هذه التقارير يجب أن تجيب على شخص من خارج الشركة. أنشأ ساربانيس أوكسلي أمينًا للمظالم للمدققين. وهذا الاتفاق لا يفعل شيئا من هذا القبيل، وسيتعين على الكونجرس أن يقرر ما الذي يسد هذه الفجوة.

ملحوظة: الآراء الواردة في هذا العمود هي آراء المؤلف ولا تعكس بالضرورة آراء شركة CoinDesk, Inc. أو مالكيها والشركات التابعة لها.

تحافظ العملات المستقرة RWA المتنوعة على عائد بنسبة 5-7٪ على الائتمان الحقيقي مع انخفاض رأس المال المشفر إلى 4٪. تعمل GENIUS على زيادة الأداء خارج السلسلة. يزيد TAM إلى 4 مليارات دولار في 3 سنوات.