ساتیا نادلا از مایکروسافت می گوید مدل های هوش مصنوعی به ترمز اضطراری نیاز دارند

مدیر عامل مایکروسافت در یک پست صبح شنبه نوشت که زمان آن فرا رسیده است که «به عقب برگردیم و معماری اعتماد» هوش مصنوعی را ارزیابی کنیم.

آخرین روز برای نمایش پیشرفت خود به بیش از 10000 رهبر فناوری در Disrupt در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

باز شدن درها را در 13 اکتبر مختل کنید. کارت خود را بگیرید و با 50 درصد تخفیف یک نفر را همراه خود بیاورید. هم اکنون ثبت نام کنید.

ساتیا نادلا، مدیر عامل مایکروسافت، آخرین مدیر فنی است که افکار طولانی در مورد چگونگی بهبود ایمنی هوش مصنوعی ارائه کرده است.

نادلا در یک پست صبح روز شنبه در X نوشت که وقت آن است که «به عقب برگردیم و معماری اعتماد» هوش مصنوعی را ارزیابی کنیم.

نادلا با استفاده از اصطلاح ترجیحی دولت ترامپ برای هوش مصنوعی نوشت: «ما نمی‌توانیم ابر هوش را به عنوان مجموعه‌ای از جعبه‌های سیاه تودرتو در نظر بگیریم و به سادگی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.

همانطور که توسط نادلا بیان شد، این رویکرد "به معنای جدا کردن مدل از مهاری است که کار آن را هماهنگ می کند" و همچنین "برونی سازی کنترل ها و پادمان ها". او همچنین خواستار این شد که «هر اقدام مدل معنادار» با «شواهد قابل خواندن انسان ضد دستکاری» مستند شود، و برای سیستم‌هایی که «یک فرد مجاز» همیشه توانایی «مکث کردن یا خاموش کردن یک مدل در میان کار» را دارد.

او گفت: «ما باید فرض کنیم که یک مدل به خطر افتاده است و از همان ابتدا آن را مهار کنیم. "به آن مانند یک ترمز اضطراری فکر کنید."

اظهارات نادلا در حالی بیان می شود که شرکت های پیشرو هوش مصنوعی به اتفاقات بیشتری اذعان می کنند که به نظر می رسید کنترل مدل های خود را از دست می دهند، و پس از آن که داریو آمودی، مدیر عامل آنتروپیک، طرحی را برای توسعه هوش مصنوعی محتاطانه تر منتشر کرد.

50% تخفیف برای پاس دوم دریافت کنید تجربه Disrupt قرار است به اشتراک گذاشته شود. پاس خود را بگیرید و الف بیاوریدهمکار، شریک یا همتا با 50 درصد تخفیف. با ایجاد ارتباطات، ایجاد شتاب و کشف آنچه در اکوسیستم استارتاپی در آینده وجود دارد، زمینه بیشتری را پوشش دهید.