گزارش: مدیر فناوری می گوید اتحادیه اروپا می تواند از خطر AI سرکش جلوگیری کند
نگرانی‌های جهانی به دنبال حوادث OpenAI و Anthropic وجود دارد، و این نگرانی وجود دارد که عوامل سرکش هوش مصنوعی ممکن است خارج از کنترل انسان باشند.
نگرانی‌های جهانی به دنبال حوادث OpenAI و Anthropic وجود دارد، و این نگرانی وجود دارد که عوامل سرکش هوش مصنوعی ممکن است خارج از کنترل انسان باشند.
هنا ویرکونن، مدیر فناوری اتحادیه اروپا گفت: قوانین اتحادیه اروپا در مورد استفاده از هوش مصنوعی بیش از توانایی مقابله با عوامل سرکش است.
قانون هوش مصنوعی اتحادیه اروپا که بر اساس سطح ریسک تنظیم می‌کند، یکی از سخت‌گیرانه‌ترین قوانین هوش مصنوعی در جهان است. دو سال پیش به تصویب رسید.
ویرکونن منتقدانی را که مدعی هستند قوانین هوش مصنوعی بلوک منسوخ شده است را رد کرد.
او گفت: «ما قانون هوش مصنوعی خود را داریم و قانون هوش مصنوعی کل چرخه عمر این مدل‌ها را پوشش می‌دهد،» و افزود که تنظیم‌کننده‌ها در حال ارائه راهنمایی به شرکت‌ها در مورد نحوه ارزیابی مدل‌هایشان با در نظر گرفتن توصیه‌های 60 متخصص هوش مصنوعی هستند.
کمیسیون اروپا در اواخر ماه اوت اطلاعاتی را از بیش از 30 شرکت ناشناس هوش مصنوعی درخواست کرد و جزئیات اقدامات ایمنی و امنیتی آنها را جویا شد.
Virkkunen گفت که او اکنون در حال ارزیابی پاسخ ها است.
کوین تلگراف ۱۳ سپتامبر گزارش داد که داریو آمودی، مدیر عامل آنتروپیک، در یک پست وبلاگی گفته است که سرعت توسعه هوش مصنوعی بسیار سریع است و این که کنترل نشود ممکن است «توانایی ما برای درک و کنترل این سیستم‌ها را بیشتر کند».
او گفت که پیشرفت چشمگیر هوش مصنوعی ناشی از توانایی فزاینده خود در ساخت نسل بعدی هوش مصنوعی یا خود-بهبودی بازگشتی است.