حسابرسان هوش مصنوعی Big Tech فقط آنچه را که به آنها نشان داده می شود می بینند

ساموئل ونس لاو، سرپرست تحقیقات مرکز تحقیقات عدم تمرکز، می‌نویسد: اگر ممیزی‌های توافق کاخ سفید ارزشی داشته باشد، حسابرسان باید بتوانند آنچه را که آزمایش می‌کنند انتخاب کنند.

هفته گذشته، شش تا از قدرتمندترین شرکت‌های هوش مصنوعی در جهان به کاخ سفید قول دادند که به افراد خارجی اجازه خواهند داد تا کار آنها را بررسی کنند.

در 29 سپتامبر، Nvidia، OpenAI، Anthropic، Google، Meta و xAI توافقنامه‌ای را درباره پیشرفته‌ترین مدل‌های هوش مصنوعی امضا کردند که دونالد ترامپ، رئیس‌جمهور ایالات متحده آن را «اخلاقی الزام‌آور» خواند. هر شرکت قول داده است «با یک حسابرس یا ارزیاب خارجی مستقل شریک شود» و اعضای هیئت مدیره مستقل گزارش های حسابرسان را بررسی کرده و از رفع مشکلات اطمینان حاصل کنند.

ممیزی های بیرونی ایده خوبی هستند، و من خوشحالم که آنها را در آنجا می بینم. اما در این توافقنامه چیزی در مورد اینکه چه کسی حسابرسان را انتخاب می‌کند، چه چیزی را می‌توانند بررسی کنند یا اینکه آیا یافته‌های آن به اطلاع عموم می‌رسد، نمی‌گوید. هیچ مجازاتی برای نادیده گرفتن آن وجود ندارد. همانطور که وجود دارد، هر شرکت حسابرس خود را انتخاب می کند و تصمیم می گیرد که حسابرس به چه چیزی نگاه کند.

در سال 2000، انرون به شرکت حسابداری آرتور اندرسن - که زمانی بخشی از به اصطلاح "پنج بزرگ" شرکت های حسابداری بین المللی بود، اکنون پس از سقوط آرتور اندرسن به "چهار بزرگ" - 25 میلیون دلار برای حسابرسی کتاب هایش و 27 میلیون دلار دیگر برای کارهای مالیاتی و مشاوره پرداخت کرد. در عرض دو سال، هر دو شرکت سقوط کردند. کنگره با قانون Sarbanes-Oxley واکنش نشان داد، که انتخاب حسابرس را از مدیریت سلب کرد، حسابرسان را از فروش بیشتر خدمات به شرکت‌هایی که حسابرسی می‌کنند منع کرد و یک هیئت عمومی برای بازرسی خود حسابرسان ایجاد کرد.

اندرسن نه به دلیل کمبود تخصص، بلکه به دلیل انگیزه نگاه کردن به مشتری که 52 میلیون دلار آن را پرداخت می کند شکست خورد.یک سال تعهدات داوطلبانه در صنعت هوش مصنوعی نیز سابقه خوبی ندارد. در سال 2023، شرکت‌های پیشرو هوش مصنوعی مجموعه‌ای از تعهدات داوطلبانه را به کاخ سفید دادند، از جمله به کارشناسان خارجی اجازه دادند سیستم‌های خود را قبل از انتشار آزمایش کنند. هنگامی که محققان در استنفورد، هاروارد و براون به عقب برگشتند و 16 شرکت را در برابر این تعهدات امتیاز دادند، میانگین به 53 درصد رسید. با وعده کمک به افراد خارجی در یافتن و گزارش مشکلات، هشت نفر از 16 نفر امتیاز صفر گرفتند.

حتی زمانی که آزمایش خارجی انجام می شود، توسعه دهنده شرایط را تعیین می کند. METR، یک سازمان غیرانتفاعی که مدل‌های هوش مصنوعی را آزمایش می‌کند، نوشت که آزمایش مدل o3 OpenAI قبل از انتشار «فقط طی سه هفته» با «دسترسی محدود به اطلاعات مربوط به مدل» و هیچ دیدگاهی از استدلال گام‌به‌گام مدل انجام شد.

برای منصفانه بودن OpenAI، در وهله اول اجازه آزمایش را داد. اما این نشان می‌دهد که یک شرکت چقدر از آنچه برای اشتراک‌گذاری انتخاب می‌کند استفاده می‌کند.

یک مدل هوش مصنوعی آموزش دیده اساساً یک فایل بسیار بزرگ از اعداد است که اغلب بیش از 100 میلیون دلار هزینه برای تولید دارد و هر کسی که یک نسخه از آن داشته باشد، مدل را دارد. تحویل کپی به افراد خارجی یک خطر امنیتی است. تا همین اواخر، آزمایش‌کنندگان را با انتخاب ناخوشایندی مواجه می‌کرد، که Google DeepMind آن را به خوبی توصیف کرده است: یا آزمایش‌کنندگان سؤالات خود را تحویل می‌دهند، بنابراین شرکت امتحان را از قبل می‌بیند، یا شرکت مدل خود را تحویل می‌دهد.

در ماه اوت، DeepMind راهی برای دور زدن آن نشان داد. این موسسه با همکاری موسسه ایمنی هوش مصنوعی سنگاپور و سه گروه خارجی دیگر، آنچه را که اولین موسسه در جهان نامید اجرا کرد.آزمایش دوسوکور یک مدل هوش مصنوعی، بر اساس همان اصل آزمایش داروی دوسوکور. این آزمایش روی سخت‌افزار کامپیوتر مهر و موم شده انجام شد، بنابراین آزمایش‌کنندگان خارجی هرگز مدل را ندیدند و Google هرگز سؤالات آنها را ندید. گوگل می‌گوید هر طرف می‌تواند از نظر ریاضی بررسی کند که مطالبش خصوصی مانده است.

همچنین اعتماد را به سخت افزار منتقل می کند. سال گذشته، محققان به این نوع سخت افزار مهر و موم شده با تجهیزات کمتر از 1000 دلار نفوذ کردند، اگرچه برای انجام آن نیاز به دسترسی فیزیکی به سرور داشتند. ارزش جدی گرفتن را دارد. اما این یک مشکل بسیار کوچکتر از «ما نمی‌توانیم اجازه دهیم کسی به مدل نزدیک شود» است و می‌توان آن را با دقت در مورد اینکه چه کسی ماشین‌ها را کنترل می‌کند مدیریت کرد.

برای گزارش ما، «جایگزین‌هایی برای هوش مصنوعی متمرکز» که این هفته توسط مرکز تحقیقات عدم تمرکز منتشر شد، من و کایل بلیگن، نویسنده همکارم با 36 نفر مصاحبه کردیم و نزدیک به 30 گزینه جایگزین برای کنترل متمرکز بر هوش مصنوعی ترسیم کردیم. یافته اصلی ما این بود: افراد خارجی اکنون می توانند هوش مصنوعی پیشرفته را بدون در اختیار داشتن مدل یا داده های آن بررسی کنند.

اگر ممیزی‌های توافقنامه ارزشی داشته باشد، حسابرسان باید آنچه را که آزمایش می‌کنند انتخاب کنند، حالا که می‌توانند این کار را بدون گرفتن نسخه‌ای از مدل انجام دهند. شرکت‌ها همچنین باید بگویند که حسابرسان آنها چه کسانی هستند و ممیزی‌ها چه مواردی را پوشش می‌دهند، حتی اگر یافته‌های دقیق خصوصی بماند. شرکت های دولتی چندین دهه است که حسابرسان خود را بدون افشای اسرار تجاری نامگذاری کرده اند. و کمیته‌های هیئت مدیره که این گزارش‌ها را می‌خوانند باید به فردی خارج از شرکت پاسخ دهند.Sarbanes-Oxley یک بازرس برای بازرسان ایجاد کرد. این توافق چیزی شبیه به آن ندارد و کنگره باید تصمیم بگیرد که چه چیزی این شکاف را پر می کند.

توجه: نظرات بیان شده در این ستون متعلق به نویسنده است و لزوماً منعکس کننده نظرات CoinDesk, Inc. یا صاحبان و شرکت های وابسته آن نیست.

استیبل کوین‌های RWA متنوع، بازدهی 5-7 درصدی را از اعتبار واقعی حفظ می‌کنند، زیرا سرمایه ارزهای دیجیتال به 4 درصد کاهش می‌یابد. GENIUS عملکرد را خارج از زنجیره افزایش می دهد. TAM در 3 سال به 4 میلیارد دلار افزایش می یابد.