یک گزارش جدید، مسابقه مخفیانه برای ساخت هوش مصنوعی خود-بهبود را روشن می کند

همانطور که شرکت‌های هوش مصنوعی در مورد خطرات هوش مصنوعی خود-بهبود هشدار می‌دهند، گزارش جدیدی نگاه نادری به نحوه کار آنها برای تحقق بخشیدن به آن ارائه می‌دهد.

برای ماه‌ها، Anthropic و OpenAI هشدار داده‌اند که هوش مصنوعی ممکن است در آستانه بهبود خود باشد.

این نقطه عطف که به عنوان «بهبود بازگشتی خود» یا RSI شناخته می‌شود، می‌تواند به این معنی باشد که قابلیت‌های جدید هوش مصنوعی سریع‌تر از همیشه به دست می‌آیند. اما ظهور RSI ممکن است برای بشریت نیز بسیار خطرناک باشد و به طور بالقوه مرحله ای را نشان دهد که توسعه دهندگان کنترل سیستم های هوش مصنوعی را به طور کامل از دست می دهند.

حتی زمانی که شرکت‌های هوش مصنوعی در مورد خطرات احتمالی RSI هشدار می‌دهند، آن‌ها به طور قابل‌توجهی درباره نحوه پیگیری آن به اشتراک گذاشته‌اند. گزارش جدیدی که روز چهارشنبه توسط شرکت Gladstone AI منتشر شد، سعی در تغییر آن دارد. این یکی از دقیق‌ترین تصاویری است که نشان می‌دهد چگونه RSI می‌تواند کار کند و چگونه شرکت‌های هوش مصنوعی به سمت آن پیشرفت می‌کنند. این گزارش بر اساس آنچه نویسندگان می گویند مکالمه با نیم دوجین محقق در شرکت های برتر هوش مصنوعی است.

این گزارش که پیش از انتشار به طور انحصاری با سفیر ارجان به اشتراک گذاشته شده است، تأکید می‌کند که شرکت‌های هوش مصنوعی «فعالانه روی» خودکارسازی تمام بخش‌های خط لوله توسعه هوش مصنوعی، از جمله تولید ایده‌های جدید، اجرای آزمایش‌ها برای آزمایش این ایده‌ها و تفسیر نتایج، کار می‌کنند. در این گزارش آمده است: بسیاری از خودی‌های گلادستون با آنها صحبت کردند: «با این فرض که هیچ مداخله یا کاهش سرعت ایالات متحده وجود نداشته باشد، RSI طی 3 تا 12 ماه آینده و احتمالاً زودتر شروع خواهد شد».

ادوارد هریس، مدیر ارشد فناوری گلادستون، می‌گوید: «مقدار مناسبی از آماده‌سازی [فاجعه] و خرید پناهگاه‌های زیستی در میان این محققان در حال انجام است».

هدف ازگزارش، مدیران گلدستون به سفیر ارجان می گویند، این است که به قانونگذاران درک بهتری از نحوه عملکرد RSI بدهد و به نوبه خود، توانایی بیشتری برای تنظیم آن داشته باشد.

جرمی هریس، مدیر عامل گلادستون، می‌گوید: «هدف ما در اینجا این بود که خودسازی بازگشتی را به‌خوبی تعریف کنیم تا مردم بتوانند گفتگوی منطقی در مورد آن داشته باشند، به‌ویژه در واشنگتن». (این دو برادر هستند.) "همه این لایحه ها برای ممنوعیت ابراطلاعات پیشنهاد شده است، که واقعاً تلاش های جالبی برای مقابله با این مشکل است. اما چیزی که ما بیشتر به آن علاقه مندیم این است: فرآیندی که باید تنظیم شود چیست؟"

این گزارش یک طرح کلی ساده از نحوه عملکرد خط لوله تحقیقاتی هوش مصنوعی در حال حاضر در شرکت‌های هوش مصنوعی و اینکه چگونه آن شرکت‌ها شروع به خودکارسازی فرآیند می‌کنند، ارائه می‌دهد.

برای مرحله اول آموزش یک مدل هوش مصنوعی، که به عنوان پیش‌آموزش شناخته می‌شود، بیشتر تأکید بر یافتن راه‌هایی برای استخراج هوش بیشتر از مدلی با قدرت محاسباتی کمتر و کمتر است که در صنعت به عنوان «محاسبات» شناخته می‌شود.

شرکت‌های هوش مصنوعی برای آزمایش این ایده‌ها از رویکرد نمونه کارها استفاده می‌کنند. محققان مقدار کمی از محاسبات را به هر ایده اختصاص می دهند و از آن برای آموزش یک سری مدل استفاده می کنند. مدل‌هایی که به‌طور قابل‌اطمینانی عملکرد بهتری دارند، با استفاده از مقادیر بیشتری از محاسبات، برای دور دیگری از آموزش انتخاب می‌شوند.

شرکت‌ها محاسبات بی‌نهایتی ندارند، که تعداد ایده‌های امیدوارکننده‌ای را که می‌توانند در مقیاس‌های بزرگ‌تر آزمایش کنند، محدود می‌کند. این بدان معناست که حتی اگر شرکت‌های هوش مصنوعی بتوانند هوش مصنوعی را تربیت کنند که بتواند ایده‌هایی را تولید کند که به نظر می‌رسدامیدوار کننده، بسیار مهم است که چه تعداد ایده بد به طور همزمان ایجاد می کند. اگر شرکت‌ها نیاز به صرف زمان زیادی داشته باشند یا ایده‌های خوب تولید شده توسط هوش مصنوعی را از ایده‌های بد محاسبه کنند، ممکن است منطقی باشد که همچنان به محققان انسانی با شهود صحیح اعتماد کنند.

برعکس، شرکت‌های هوش مصنوعی که به محاسبات بیشتری دسترسی دارند، می‌توانند ایده‌های بیشتری را آزمایش کنند - به طور بالقوه به آنها اجازه می‌دهند ابتدا به RSI برسند. با محاسبات بیشتر برای آزمایش‌ها، ممکن است شرکت‌ها ایده‌هایی را که گزارش گلادستون به‌عنوان نادرترین و مطلوب‌ترین شرکت‌های هوش مصنوعی توصیف می‌کند، دریافت کنند: آن‌هایی که عملکرد بهتری دارند زیرا محاسبات بیشتر به سمت آنها می‌رود، حتی اگر در مقیاس‌های کوچک‌تر به نظر بی‌نقص باشند.

جرمی هریس می‌گوید توانایی تشخیص اینکه چه زمانی این ایده‌ها پیدا می‌شوند و به ویژه اینکه آیا هوش مصنوعی به یافتن آن‌ها کمک می‌کند یا خیر، بخش مهمی از این فرآیند است که در حال حاضر قانون‌گذاران اساساً دید ندارند.

یکی از ویژگی هایی که تنظیم RSI را مشکل می کند این است که یک فرآیند تدریجی است. ادوارد هریس می‌گوید: «این در واقع یکی از دلایلی است که ما برای توصیف آن با جزئیات بسیار تلاش کردیم. به طوری که می توان به بخشی از این جریان اشاره کرد و گفت: انسان باید آنجا باشد.