أتاحت Anthropic لباحثي METR الاطلاع على الآليات الداخلية للنماذج بصلاحيات بمستوى الموظف

ستنشر METR تقييماتها للمخاطر والحوادث والإجراءات الصادرة عن Anthropic، وقد تنازلت الشركة الصانعة لنموذج الذكاء الاصطناعي المتقدم عن حقها في حجبها.

اليوم الأخير في Disrupt هو خصم 75%. لا تفوت أي لحظات أخرى، سجل الآن

تعطيل فتح الأبواب في 13 أكتوبر. احصل على بطاقتك وأحضر معك شخصًا بخصم 50%. سجل الآن.

أعلنت شركة Anthropic أنها ستمنح حق الوصول على مستوى الموظفين إلى ستة باحثين من METR، وهي منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي الحدودية، لتقييم نماذج Anthropic وممارسات السلامة وإدارة المخاطر بشكل مستقل، حسبما أعلنت الشركة في منشور بالمدونة يوم الخميس.

وتأتي هذه الترتيبات في الوقت الذي سيتم فيه الكشف عن حوادث عملاء الذكاء الاصطناعي أسبوعيًا أو نصف شهريًا بدءًا من أواخر أغسطس. وقد أدت هذه الأحداث إلى تكثيف الدعوات لإجراء تدقيق مستقل لشركات الذكاء الاصطناعي.

وقالت إنتروبيك في منشور على مدونتها: "نريد أن نكون مسؤولين عن القرارات التي نتخذها". هدفنا هو سد الفجوة بين ما يعرفه المقيِّمون عن أنظمة شركة الذكاء الاصطناعي الرائدة وما تفهمه الشركة نفسها.

وبموجب الترتيب الجديد، سيكون لدى فريق METR أجهزة كمبيوتر محمولة خاصة بالشركة، ومساحة مكتبية، وإمكانية الوصول إلى الأدوات الداخلية بما يعادل تقريبًا تلك المستخدمة من قبل فرق تقييم المخاطر الخاصة بشركة Entropy. وقالت الشركة: "يتم تشجيع الموظفين الإنسانيين على تبادل المعلومات معهم، كما هو الحال مع زملائهم الموظفين الذين يعملون على ضبط المخاطر".

وقارنت شركة Entropic هذا الترتيب بالأعمال المصرفية، على غرار الطريقة التي تقوم بها البنوك الكبرى بتعيين مدققي الحسابات المقيمين.

ستقوم METR بنشر تقييماتها للمخاطر والحوادث والإجراءات الخاصة بشركة Anthropic، وتتنازل الشركة عن حق منعها.

وقالت الشركة: "لا يمكن لشركة Entropic أن تستخدم حق النقض ضد أي إصدار، ولكن يمكننا أن نطلب منهم التنقيح إذا كانت المعلومات تندرج ضمن فئات ضيقة ومحددة مسبقًا، مثل بيانات العميل، أو أي شيء يتمتع بامتياز المحامي وموكله، أو المعلومات المتعلقة ببنيات نماذجها". وأضافت أنثروبيك: "لـ METR الحرية في وصف تنقيحاتنا علنًا والقول ما إذا كانت هذه التنقيحات مبررة، طالما أنها تفعل ذلك دون الكشف عن المعلومات المنقحة".

METR هو المقيم الوحيد حتى الآن الذي تم بناؤه فوق نظام إنتروبيا ثلاثي الطبقات. يقوم المقيمون ذوو المستوى المنخفض، مثل SecureBio غير الربحية المعنية بالأمن الحيوي، بإجراء مراجعات محدودة ويتطلبون موافقة إنتروبيا للنشر. تحصل الطبقة الوسطى على مزيد من المعلومات ويمكنها النشر دون موافقة، بينما تضيف الطبقة العليا إمكانية الوصول إلى METR على مستوى الموظف.

يؤكد إعلان يوم الخميس الوعد الذي قدمه الرئيس التنفيذي لشركة Anthropic، داريو أمودي، في ورقة بحثية في سبتمبر، حيث اقترح دمج مقيمين خارجيين في مختبرات الذكاء الاصطناعي كخطوة أولى لإبطاء تطور التكنولوجيا. وسرعان ما تعهدت شركة OpenAI بالشيء نفسه، ووقعت الشركتان، إلى جانب Google وMeta وNvidia وxAI، منذ ذلك الحين على اتفاقية البيت الأبيض التي تلتزم بمراجعة مستقلة.

عند إجراء عملية شراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. وهذا لا يؤثر على استقلالنا التحريري.

احصل على خصم 50% على التذكرة الثانية. تجربة Disrupt مصممة للمشاركة. احصل على تذكرتك وأحضر زميلًا أو شريكًا أو نظيرًا للحصول على خصم 50%. التغطية قم ببناء المزيد من الأرض من خلال بناء الاتصالات وبناء الزخم واكتشاف الخطوة التالية في النظام البيئي لبدء التشغيل.

توافق Bumble على صفقة استحواذ بقيمة 1.3 مليار دولار، حيث تواجه المواعدة عبر الإنترنت Lauren Forrestal

أصدرت Meta نموذجها الحدودي الأول، Muse Wonder من Russell Brandom

تقول شركة الذكاء الاصطناعي الناشئة إنها تستطيع إنشاء تصميمات جاهزة للترخيص في دقائق معدودة

يهاجم إيلون موسك أمباني بسبب تأخير إطلاق Jagmeet Singh في India Starlink

لا تستطيع شركة Entropic التحكم بشكل موثوق في عملاء الذكاء الاصطناعي الخاصين بها - فبدلاً من فريق Fernholz، تقوم بعزل منافسيها الداخليين عن الإنترنت المباشر.