جلسات خصوصی مدیران ارشد شرکت آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی برای بررسی سناریوهای پس از وقوع یک فاجعه ناشی از هوش مصنوعی / محتمل‌ترین شکل این فاجعه، یک حمله سایبری است؛ حمله‌ای که می‌تواند دسترسی به خدمات مالی، اتصال به اینترنت یا حتی برق و آب را مختل کند / بسیاری از فعالان معتقدند یک حادثه بزرگ طی شش تا ۱۲ ماه آینده رخ خواهد داد
مدیران ارشد شرکت آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی، در جلسات خصوصی در حال بررسی سناریوهای احتمالی برای مواجهه با شورش افکار عمومی و واکنش‌های سیاسی پس از وقوع یک فاجعه ناشی از هوش مصنوعی هستند.
اکسیوس نوشت: مدیران ارشد شرکت آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی، در جلسات خصوصی در حال بررسی سناریوهای احتمالی برای مواجهه با شورش افکار عمومی و واکنش‌های سیاسی پس از وقوع یک فاجعه ناشی از هوش مصنوعی هستند.
به گزارش «انتخاب»؛ در ادامه این مطلب آمده است: چرا مهم است؟ این مدیران وقوع حادثه‌ای در مقیاس گسترده را پیش‌بینی می‌کنند که محتمل‌ترین شکل آن، یک حمله سایبری است؛ حمله‌ای که می‌تواند دسترسی به خدمات مالی، اتصال به اینترنت یا حتی برق و آب را مختل کند.
نخستین حادثه جدی در دنیای واقعی که آسیب ناشی از استفاده ناایمن از هوش مصنوعی را آشکار کند، می‌تواند افکار عمومی را که هم‌اکنون نیز با تردید به این فناوری می‌نگرد، بیش از پیش علیه هوش مصنوعی و رهبران آن موضع‌گیری کند. این واکنش‌ها ممکن است چهره‌هایی همچون داریو آمودی، مدیرعامل آنتروپیک، سم آلتمن، مدیرعامل اوپن‌ای‌آی و همچنین دونالد ترامپ، رئیس‌جمهور آمریکا، را هدف قرار دهد؛ ترامپی که به دلیل بی‌میلی به وضع مقررات برای این فناوری مورد انتقاد قرار گرفته است.
سناریونویسی و برنامه‌ریزی برای شرایط بحرانی در بسیاری از شرکت‌ها و نهادهای امنیت ملی امری رایج است؛ پنتاگون نیز دهه‌هاست رزمایش‌های شبیه‌سازی جنگ برگزار می‌کند. اما تفاوت در اینجاست که بسیاری از پژوهشگران و مدیران ارشد صنعت هوش مصنوعی معتقدند وقوع یک حادثه بزرگ در این حوزه اجتناب‌ناپذیر است.
سخنگوی اوپن‌ای‌آی گفت: «اوپن‌ای‌آی تمرین‌های آمادگی برگزار می‌کند که در جریان آن‌ها، تیم‌ها درباره طیفی از سناریوهای احتمالی بحث می‌کنند و راه‌های مواجهه با آن‌ها را می‌سنجند. این سناریوها اجتناب‌ناپذیر تلقی نمی‌شوند، بلکه هدف از آن‌ها کمک به آمادگی برای شرایط گوناگون است.»
شرکت آنتروپیک از اظهارنظر در این‌باره خودداری کرد.
صرف‌نظر از اینکه یک گروه از عامل‌های خودمختار هوش مصنوعی از محیط آزمایشی داخلی یک شرکت خارج از کنترل شود یا یک بازیگر مخرب راه‌های غیرمنتظره‌ای برای سوءاستفاده از مدل‌های موجود پیدا کند، رقابت برای مقصر شناختن یکدیگر آغاز خواهد شد.
یک کارزار سایبری اخیر علیه نهادهای مالی کره جنوبی، از جمله گزارش‌هایی درباره نفوذ به دو بانک، نشان می‌دهد که یک فرد به‌تنهایی نیز می‌تواند چه خسارت‌هایی به بار آورد.
بر اساس گزارش‌ها، یک هکر مستقر در چین با استفاده از ابزارهای هوش مصنوعی، از جمله مدل دیپ‌سیک که در چین توسعه یافته است، اطلاعات ده‌ها هزار مشتری بانک را سرقت کرده است. شرکت امنیت سایبری کراوداسترایک اعلام کرد که این مهاجم برای یافتن محل‌هایی جهت فروش اطلاعات سرقت‌شده، از ابزار Claude Code کمک گرفته است.
برنامه‌ریزان ارشد صنعت هوش مصنوعی فرض را بر این گذاشته‌اند که دموکرات‌ها، پس از تقویت موقعیت خود در انتخابات میان‌دوره‌ای، برای محدود کردن این فناوری به‌سرعت اقدام خواهند کرد؛ هرچند با موانع جدی روبه‌رو خواهند شد.
کنگره‌ای که اعضای آن عمدتاً سالخورده‌اند و از تحولات انقلاب هوش مصنوعی فاصله دارند، ممکن است در مواجهه با این بحران با مشکلاتی جدی روبه‌رو شود.
اقتصاد جهانی اکنون به‌شدت با سرمایه‌گذاری گسترده در زیرساخت‌های هوش مصنوعی درهم‌تنیده شده است. کند کردن این روند می‌تواند ضربه سنگینی به اقتصادی وارد کند که از پیش نیز شکننده است.
از سوی دیگر، شمار زیادی از مدل‌های هوش مصنوعی با وزن‌های باز (Open-weight) هم‌اکنون به‌صورت رایگان قابل دانلود و استفاده‌اند و می‌توان از آن‌ها برای اهداف مخرب بهره برد. بسیاری از متخصصان امنیت سایبری معتقدند که مقابله با این مشکل تنها با استفاده از هوش مصنوعی برای مبارزه با هوش مصنوعی سرکش امکان‌پذیر است.
این برنامه‌ریزی‌ها شامل انجام ارزیابی‌های امنیتی تهاجمی، موسوم به «ردتیمینگ» (Red-teaming)، برای بررسی بدترین سناریوهای ممکن است. تمرکز اصلی این تلاش‌ها بر آموزش سریع اعضای کنگره و آگاه کردن آن‌ها از خطرات احتمالی است.
مدیران شرکت‌های هوش مصنوعی می‌دانند که در شرایط فعلی، تصویب مقررات جدید تقریباً شانسی ندارد؛ با این حال، می‌خواهند بر شکل‌گیری قوانین و سیاست‌هایی تأثیر بگذارند که رهبران آمریکا پس از وقوع نخستین فاجعه بزرگ به آن‌ها روی خواهند آورد.
بسیاری از فعالان و افراد مطلع در صنعت هوش مصنوعی به آکسیوس گفته‌اند که معتقدند یک حادثه بزرگ طی شش تا ۱۲ ماه آینده رخ خواهد داد.
حتی در صورت تسلط دموکرات‌ها بر هر دو مجلس نمایندگان و سنا، شرکت‌های هوش مصنوعی انتظار دارند که اختلافات سیاسی همچنان ادامه یابد؛ اختلافاتی که در داخل حزب دموکرات نیز وجود دارد.
برخی از پیشنهادهای سخت‌گیرانه‌تر دموکرات‌ها شامل ممنوعیت توسعه هوش مصنوعی اَبَرهوشمند (Superintelligence) یا توقف موقت توسعه هوش مصنوعی پیشرفته است.
در مقابل، برخی پیشنهادها از حمایت دوحزبی برخوردارند و حتی بخشی از صنعت هوش مصنوعی نیز با آن‌ها موافق است؛ از جمله الزام به تعبیه یک کلید خاموش اضطراری در سامانه‌های پیشرفته هوش مصنوعی. با این حال، کارشناسان درباره عملی بودن تلاش برای خاموش کردن تمام سامانه‌های هوش مصنوعی تردیدهایی مطرح کرده‌اند.
در صورت وقوع یک بحران واقعی، واشنگتن ممکن است اختلافات حزبی را کنار بگذارد و برای مقابله با آن همکاری کند.
یکی از دستیاران دموکرات کنگره در این زمینه به همکاری میان دو حزب در جریان همه‌گیری کووید-۱۹ و بحران مالی سال ۲۰۰۸ اشاره کرده است.