OpenAI و Anthropic به قانونگذاران بریتانیایی می گویند: ما را تنظیم کنید

رهبران هوش مصنوعی در یک جلسه گسترده پارلمان به افشاگران و رهبران امنیتی ملحق شدند، در حالی که در چند صد متری رئیس جاسوسی بریتانیا هشدار داد که می‌توان از هوش مصنوعی برای ایجاد سلاح‌های زیستی جدید استفاده کرد.

کمیته تجارت، نوآوری، علم و تجارت، متشکل از یک هیئت فراحزبی متشکل از نمایندگان پارلمان، روز سه‌شنبه جلسه‌ای با حضور چهار شرکت مرزی هوش مصنوعی، چهار کارمند سابق این شرکت‌ها و کارمندان ارشد دولتی بریتانیا برگزار کرد.

لیام بوث اسمیت، رئیس Anthropic اروپا در پاسخ به این سوال که آیا نظر شرکت این است که ایمنی هوش مصنوعی اکنون به یک چارچوب قانونی نیاز دارد، به کمیته گفت: "قوانین باید الزام آور باشند." او گفت که این شرکت "به طور مداوم معتقد است که باید قوانین الزام آور برای شرکت ها وجود داشته باشد و تعهدات داوطلبانه کافی نیست."

تام داف گوردون، معاون OpenAI، محتاط تر بود، اما همچنان حامی بود و از یک چارچوب قانونی و یک کنوانسیون بین المللی حمایت می کرد. داف گوردون گفت: "باید برخی از عناصر وجود داشته باشد که باید اجباری باشد"، که با گزارش رویداد شروع می شود. او گفت: «ما فکر نمی‌کنیم که همه چیز بر اساس تعهدات داوطلبانه برای ریسک مرزی یک برنامه بلندمدت خوب باشد.

با این حال، رقبای آنها دنبال نمی شوند. اوون لارتر از Google DeepMind در پاسخ به این سوال که آیا از یک چارچوب قانونی پشتیبانی می کند یا خیر، گفت: "تمرکز روی استانداردها کاری است که ما انجام خواهیم داد." راب شرمن از متا به تنظیم‌کننده‌های موجود بریتانیا اشاره کرد و به نمایندگان مجلس گفت که «روی صفحه‌ای خالی نمی‌نویسند».

این جلسه شکاف موجود در موضوع مقررات را آشکار کرد و رویکردهای متناقض رهبران هوش مصنوعی را در کارنامه پارلمان بریتانیا قرار داد. به گزارش انتخاب، افشای این شکاف در حوزه قضایی دوم، نکته اصلی بودرئیس کمیته لیام برن او پس از جلسه استماع به WIRED گفت، این کمیته تصمیم گرفت «تفاوت‌های گسترده در نظرات بین برخی از ثروتمندترین شرکت‌های روی زمین را روشن کند و نشان دهد که «نمی‌توان به خودتنظیمی داوطلبانه تکیه کرد».

در حالی که چهار مدیر اجرایی به کمیته ایمنی هوش مصنوعی، تنها چند صد متر دورتر، مدرک دادند، مدیر سرویس امنیتی بریتانیا در مورد خطرات هوش مصنوعی هشدار داد.

کن مک کالوم، مدیر MI5، از به‌روزرسانی تهدید سالانه خود برای هشدار درباره سوء استفاده از سلاح‌های زیستی به عنوان تهدیدی مهم از سوی هوش مصنوعی استفاده کرد. مک کالوم می‌گوید: «هنوز متوجه نشده‌ایم، اما مورد سوء استفاده‌ای که من می‌خواهم بیشترین اهمیت را برای آن قائل شوم، پتانسیل هوش مصنوعی برای تغییر خطرات موجود یا حتی جدید سلاح‌های زیستی است.

در پاسخ به این نظر، برن به WIRED گفت: «این واقعیت که رئیس MI5 در مورد ارتقای قابلیت‌های فوق‌العاده خطرناک برای بیوتروریست‌ها در بخشی از وایت هال هشدار می‌دهد، و سپس در بخشی دیگر از وایت هال، دبیر دائمی دفتر کابینه اساساً اعتراف می‌کند که رژیم نظارتی ما برای هوش مصنوعی هر چیزی است که داوطلبانه باید به شما اطلاع دهید.»

در بخش پایانی جلسه شواهد، کارمندان دولت به کمیته اعتراف کردند که سیستم فعلی چقدر ناچار است. مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) مدل‌های مرزی را قبل از عرضه آزمایش می‌کند، اما تنها زمانی که شرکت‌ها تصمیم بگیرند آنها را تحویل دهند.

هانری دی زوئت، مدیر AISI، اذعان کرد که این مؤسسه کاملاً متکی به همکاری شرکت ها و دولت های خارجی است تا بتوانددسترسی پیدا کنید Cat Little، کارمند ارشد دولت در دفتر کابینه، که AISI را در خود جای داده است، تحت فشار قرار گرفت که آیا کل رژیم داوطلبانه است یا خیر. او گفت: «در حال حاضر، بله، همینطور است.

وقتی از او پرسیده شد که اگر AISI یک مدل را خیلی خطرناک ارزیابی کند، اما به هر حال توسط یک شرکت منتشر شود، چه اتفاقی می‌افتد، دزوئت اذعان کرد که AISI توانایی جلوگیری از انجام این کار را ندارد.

دی زوئت با استفاده از اصطلاح انگلیسی برای گواهی ایمنی گفت: «کاری که ما انجام نمی دهیم علامت گذاری بادبادک است. "ما به هیچ مدلی بله یا نه نمی گوییم." او افزود: «این شرکت‌ها یا آمریکایی یا چینی هستند که در مرز می‌سازند... ما به عنوان بریتانیا، تنها کارهای زیادی می‌توانیم در این زمینه انجام دهیم.»

مدیران مرزی همچنین تصریح کردند که دسترسی بریتانیا از واشنگتن می‌گذرد. داف گوردون از OpenAI با اشاره به همتای آمریکایی AISI گفت: «ما پیش‌استقرار مدل‌های خود را برای CAISI ارائه می‌کنیم. ما به ارائه مدل های پیش از استقرار خود به AISI در بریتانیا ادامه خواهیم داد... و تا زمانی که بتوانیم این کار را تحت دولت ایالات متحده انجام دهیم، به انجام آن ادامه خواهیم داد.»

تنش ترتیبات موجود توسط Anthropic’s Booth-Smith برای مقامات بریتانیایی روشن شد. او قبل از اینکه اضافه کند که AISI اکنون دسترسی دارد، گفت: «متاسفانه ما در آن زمان نتوانستیم دسترسی کامل و بدون محدودیت به [Mythos 5.1] را به AISI بریتانیا ارائه کنیم... این یک سؤال برای دولت ایالات متحده است.

در این جلسه همچنین از چهار محقق سابق آزمایشگاه، از جمله دانیل کوکوتاجلو، کارمند سابق OpenAI شنیده شد. «فکر نمی‌کنم شرکت‌هااو به نمایندگان مجلس گفت که می توان به خود تنظیمی اعتماد کرد. استیون آدلر، که در اواخر سال 2024 OpenAI را ترک کرد، گفت که "به فرهنگ ایمنی در سراسر صنعت اطمینان ندارد." جفری اروینگ گفت آزمایشگاه‌ها معتقدند در مسابقه‌ای محبوس شده‌اند که دولت‌ها آن را قطع نمی‌کنند و نمی‌توانند آن را ترک کنند. او گفت: «هر دوی اینها دروغ است. "آنها فقط می توانند متوقف شوند."

پس از جلسه استماع، برن به WIRED گفت که کمیته او اکنون زمان زیادی را به بررسی مسیر پیشرفت بریتانیا به عنوان یک قدرت متوسط در هوش مصنوعی اختصاص خواهد داد. او از وزرا می خواهد که از ریاست آتی بریتانیا در گروه 20، در کنار کره جنوبی، که به عنوان رئیس آن به دنبال آن است، برای میانجیگری یک کنوانسیون بین المللی که به کاخ سفید فعلی وابسته نیست، استفاده کنند. او گفت: «ریاست گروه 20 بیشتر از دوران ریاست جمهوری ترامپ در آمریکا خواهد ماند.

او افزود: "خطرات، سریعتر از آنچه رژیم ایمنی ما می تواند کنترل کند، در حال افزایش است."