ساتیا نادلا می گوید ما باید فرض کنیم که همه مدل های هوش مصنوعی "به خطر افتاده" هستند

پست های این موضوع به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

مدیر عامل مایکروسافت خواستار ایجاد «ترمز اضطراری» برای هوش مصنوعی است.

پست های این نویسنده به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

ویرایشگر آخر هفته Verge است. او بیش از 18 سال است که صنعت فناوری را تحت پوشش قرار داده است و یک یا دو چیز در مورد مصنوعی می داند.

مدیر عامل مایکروسافت در یک پست طولانی در X نظرات خود را در مورد خطرات ناشی از مدل های بسیار پیشرفته هوش مصنوعی و نحوه مقابله با این خطرات بیان کرد. نادلا می‌گوید ما دیگر نمی‌توانیم دنیایی را بپذیریم که در آن هوش مصنوعی به عنوان «مجموعه‌ای از جعبه‌های سیاه تودرتو» در نظر گرفته شود که توصیه‌ها و اقدامات آن‌ها را به سادگی می‌پذیریم یا رد می‌کنیم. او خواستار ایجاد یک سیستم شفاف‌تر است که در آن مدل‌ها می‌توانند حاوی، مشاهده شوند و "شواهد قابل خواندن انسان ضد دستکاری" را پشت سر بگذارند.

بسیاری از توصیه‌های او با آنچه از دیگران در صنعت شنیده‌ایم مطابقت دارد: افشای به موقع حادثه، ممیزی مستقل، داده‌های قابل تأیید و مهار. در آخرین نقطه است که به نظر می رسد او کمی دورتر از برخی دیگر در میدان پیش می رود و می گوید:

ما باید فرض کنیم که یک مدل به خطر افتاده است و آن را از ابتدا در نظر بگیریم. به آن مانند یک ترمز اضطراری فکر کنید. یک فرد مجاز همیشه باید بتواند یک مدل در میان کار را متوقف یا خاموش کند. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز دارند که باید آنها را استاندارد کنیم.

متأسفانه، نادلا همچنین از هوش مصنوعی به عنوان «هوش فوق العاده» در سراسر پست یاد می کند.

اطلاعات بیشتر در: کاهش سرعت هوش مصنوعی

آنتروپیک ارزیابی های داخلی خود را از اینترنت قطع می کند

آنتروپیک گزارشی درباره بررسی "اقدامات مدل ناخواسته" در طول "ارزیابی ها و استفاده داخلی" منتشر کرد.

هوش مصنوعی آنتروپیک به پلیس فیلادلفیا اطلاعاتی جعلی درباره یک قتل حل نشده داد

"جنون محض": ریاضیدانان سالها نیاز دارند تا آخرین سقوط OpenAI را درک کنند

فاش شدن GTA VI با یک ویدیوی گیم پلی طولانی (و بسیار برهنه) ادامه دارد

Telo MT1 یک کامیون بزرگ است که در بدنه یک کامیون کوچک به دام افتاده است

گوگل از راه اندازی Fitbit Edge در هفته آینده خبر می دهد

خلاصه روزانه رایگان از اخباری که بیشترین اهمیت را دارند.

با ارائه اطلاعات خود، با شرایط استفاده و سیاست حفظ حریم خصوصی ما موافقت می کنید. ما از فروشندگانی استفاده می کنیم که ممکن است اطلاعات شما را نیز پردازش کنند تا به ارائه خدمات ما کمک کنند. این سایت توسط reCAPTCHA محافظت می شود و خط مشی رازداری Google و شرایط خدمات اعمال می شود.