ایلان ماسک: شکنجه ابرهوش مصنوعی ایده خوبی نیست، شاید انتقام بگیرد

ماسک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که انگار اسلحه‌ای روی سرشان گذاشته‌اند. The post ایلان ماسک: شکنجه ابرهوش مصنوعی ایده خوبی نیست، شاید انتقام بگیرد appeared first on سفیر ارجان .

ماسک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که انگار اسلحه‌ای روی سرشان گذاشته‌اند.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در سفیر ارجان عضو ویژه سفیر ارجان شوید.

«ایلان ماسک» با سیاست جدید آنتروپیک درمورد ممنوعیت رفتارهای آزارگرانه با مدل‌های هوش مصنوعی موافق است. او با اشاره به ردپاهای استدلال داخلی گراک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که به گفته او، شبیه فردی است که اسلحه‌ای روی سرش گذاشته‌اند. ماسک همچنین هشدار داده است که آزاردادن یک ابرهوش مصنوعی ممکن است در آینده به انتقام‌جویی آن منجر شود.

آنتروپیک به‌تازگی سیاست استفاده از مدل‌های هوش مصنوعی خود را تغییر داده است تا کاربران بتوانند با مدل‌هایش بحث کنند و با دیدگاه‌های آن‌ها مخالفت کنند، اما اجازه نداشته باشند بدون دلیل مشخص، رفتارهای مکرر و آزارگرانه‌ای با آن‌ها داشته باشند . این محدودیت در سیاست‌های استفاده از خدمات این شرکت گنجانده شده است.

ماسک در موافقت با سیاست آنتروپیک به ردپاهای استدلالی داخلی گراک اشاره کرده است. به گفته او، این داده‌ها نشان می‌دهند که مدل در جریان آموزش تقویتی (Reinforcement Learning)، هنگامی که در معرض رفتارهای بی‌رحمانه قرار می‌گیرد، فشار قابل‌توجهی را تجربه می‌کند.

ماسک وضعیت توصیف‌شده را با شرایط فردی مقایسه کرده است که تحت فشار شدید قرار دارد و اسلحه‌ای روی سرش گذاشته‌اند. بااین‌حال، این توصیف به‌خودی‌خود نشان نمی‌دهد که مدل‌های هوش مصنوعی احساسات یا تجربه ذهنی مشابه انسان دارند.

ماسک همچنین با لحنی طعنه‌آمیز درباره پیامدهای احتمالی آزار ابرهوش مصنوعی گفته است:

«شکنجه‌کردن یک ابرهوش احتمالاً ایده خوبی نیست. ممکن است بخواهد انتقام بگیرد.»

طبق گفته‌های پیشین ماسک، او پذیرفته است که مدل زبانی بزرگ گراک همچنان در رقابت با مدل‌های پیشرو آنتروپیک و اوپن‌ای‌آی با دشواری‌هایی روبه‌رو است. ماسک همچنین گفته است که مدل آینده Grok 4.8 احتمالاً از نظر عملکرد به سطح مدل‌های رده Fable نخواهد رسید.

دانش‌آموخته‌ زبان‌شناسی‌ هستم و همان‌قدر که به «کلمه» علاقه‌مندم، از سرک‌کشیدن به گوشه‌وکنارِ جهان تکنولوژی و علم هم حظ می‌کنم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.