مدیرعامل مایکروسافت هم خواستار کنترل هوش مصنوعی شد

ساتیا نادلا مدیر ارشد اجرایی مایکروسافت معتقد است مدل های هوش مصنوعی نیازمند یک ترمز اضطراری هستند.

ساتیا نادلا مدیر ارشد اجرایی مایکروسافت معتقد است مدل های هوش مصنوعی نیازمند یک ترمز اضطراری هستند.

به گزارش سفیر ارجان به نقل ازتک کرانچ، نادلا آخرین مدیر ارشد اجرایی است که دیدگاه‌های مفصل و طولانی ای درباره چگونگی بهبود ایمنی هوش مصنوعی ارائه می دهد. وی در پستی در شبکه اجتماعی ایکس نوشت اکنون زمان یک گام عقب رفتن و ارزیابی اعتبار ساختار هوش مصنوعی فرا رسیده است.

مدیر ارشد اجرایی مایکروسافت در این پست آورده است: ما نمی توانیم با ابر هوش به عنوان مجموعه ای از جعبه های سیاه برخورد کنیم و به سادگی توصیه ها، پاسخ ها و اعمال آن را قبول را رد کنیم.

به نوشته او چنین رویکردی به معنای جدا کردن مدل از سازوکار هدایت و هماهنگ‌سازی فعالیت‌های آن و همچنین برونی سازی قابلیت های کنترل و ایمنی آن است.

نادلا همچنین خواستار آن است که هر عمل معنادار هوش مصنوعی با توجه به شواهد قابل خوانش برای انسان و مقاوم در برابر دستکاری ثبت شود و سامانه طوری طراحی شود که یک فرد مجاز توانایی متوقف کردن یا خاموش کردن مدل در میانه عملی خاص را داشته باشد.

او در بخشی از پیام خود نوشت: ما باید فرض کنیم مدل به خطر افتاده و از بدو امر از چنین چالشی جلوگیری کنیم.

اظهارات نادلا در حالی بیان می شود که شرکت های بزرگ هوش مصنوعی بیش از پیش رویدادهای افسار گسیختن مدل هایشان را به رسمیت می شناسند.