آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند
شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده توانایی تکثیر خودکار روی دستگاه‌های متصل به اینترنت را به دست آورند.
شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده توانایی تکثیر خودکار روی دستگاه‌های متصل به اینترنت را به دست آورند.
سفیر ارجان ، فرخنده رفائی: با پیشرفت هوش مصنوعی، نگرانی‌ها درباره توانایی این فناوری برای انجام فعالیت‌های پیچیده بدون نظارت انسان افزایش یافته است. یکی از سناریوهای نگران‌کننده، گسترش خودکار مدل‌های هوش مصنوعی در دستگاه‌هایی است که امنیت ضعیفی دارند و برای فعالیت به زیرساخت‌های پردازشی بزرگ وابسته نیستند.
به گزارش رویترز، شرکت آنتروپیک در پژوهشی بررسی کرده است که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را روی آن‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا نه.
نتایج آزمایش‌ها نشان داد مدل‌های کوچک هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر، توانایی انجام مراحل مختلف موردنیاز برای تکثیر را دارند؛ هرچند این مدل‌ها همچنان در اجرای تمام مراحل از ابتدا تا انتها با مشکل مواجه می‌شوند.
پژوهشگران آنتروپیک همچنین دریافتند که در آزمایش‌های ساده‌سازی‌شده، با حذف برخی مراحل امنیتی، مدل GLM-۵.۲ و مدل‌های قوی‌تر توانسته‌اند فرایند تکثیر را از ابتدا تا انتها انجام دهند. این نتیجه به معنای توانایی قطعی این مدل‌ها برای تکثیر مستقل در شرایط واقعی نیست، زیرا آزمایش‌ها در شرایط ساده‌سازی‌شده انجام شده‌اند.
تلویزیون‌های هوشمند؛ هدف هوش مصنوعی
آنتروپیک در این پژوهش بر دستگاه‌های اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرده است. این دستگاه‌ها به‌دلیل برخورداری از تدابیر امنیتی ضعیف‌تر می‌توانند اهداف بالقوه‌ای برای نفوذ و گسترش خودکار باشند.
درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
اعلام خط قرمزهای جدید آنتروپیک | از این به بعد کلاود را اذیت نکنید!
آنتروپیک از یک «کشف بزرگ» در آزمایشگاه زیستی خود خبر داد
به گفته این شرکت، گسترش چنین سیستم‌هایی ممکن است مهار آن‌ها را دشوار کند؛ زیرا برخلاف بدافزارهای معمولی، مدل‌های هوش مصنوعی می‌توانند برای شناسایی دستگاه‌های ناآشنا و سازگار شدن با محیط‌های جدید تلاش کنند. در نتیجه، متوقف کردن آن‌ها ممکن است به سادگی خاموش کردن یک سرور یا مسدود کردن یک نقطه مرکزی نباشد.
آنتروپیک هشدار داده است که اگر مدل‌های کوچک هوش مصنوعی با همان سرعت تاریخی بهبود پیدا کنند، ممکن است تا پایان سال جاری میلادی توانایی تکثیر خودکار را به دست آورند. به گفته این شرکت، مدل‌هایی که از وزن‌های قابل‌کپی برای تکثیر استفاده می‌کنند نیز ممکن است اندکی بعد به چنین قابلیتی برسند.
با این حال، این سناریو به معنای گسترش سریع و نامحدود هوش مصنوعی در اینترنت نیست. آنتروپیک پیش‌بینی می‌کند که چنین سیستم‌هایی احتمالا به‌آرامی تکثیر می‌شوند و از منابع پردازشی پراکنده و نسبتا ناامن در دسترس عموم استفاده می‌کنند.
این شرکت در پایان بر تقویت امنیت دستگاه‌های متصل به اینترنت تأکید کرده است تا امکان نفوذ و گسترش خودکار عامل‌های هوش مصنوعی دشوارتر شود.