هشدار هوش مصنوعی Anthropic یک دژاوو هشدار دهنده است

آیا انبوه دستگاه های هوشمند - یخچال، اجاق گاز، جاروبرقی، ماشین چمن زنی، دوربین های امنیتی و تلویزیون - برای تسخیر اینترنت توطئه می کنند؟ نه. اما آنها می توانند به زودی میزبان مدل های هوش مصنوعی خود تکرار شونده باشند که از دستگاهی به دستگاه دیگر پخش می شوند و مهار آن بسیار دشوار است. به دنیای ناراحت کننده کرم های هوش مصنوعی خوش آمدید، جایی که، […]

پست های این موضوع به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

آنتروپیک می‌گوید تحقیقاتش «نشانه‌هایی از حیات برای کرم‌های هوش مصنوعی» پیدا کرده است که می‌توانند دستگاه‌های خانگی را مستعمره کنند. کارشناسان می گویند نکته ای دارند.

پست های این نویسنده به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

یک خبرنگار مستقر در لندن در The Verge است که همه چیزهای هوش مصنوعی را پوشش می دهد و یک همکار ارشد تاربل است. پیش از این، او در مورد سلامت، علم و فناوری برای فوربس نوشت.

آیا انبوهی از دستگاه های هوشمند - یخچال، فر، جاروبرقی، ماشین چمن زنی، دوربین های امنیتی و تلویزیون - برای تسخیر اینترنت توطئه می کنند؟ نه. اما آنها می توانند به زودی میزبان مدل های هوش مصنوعی خود تکرار شونده باشند که از دستگاهی به دستگاه دیگر پخش می شوند و مهار آن بسیار دشوار است.

به دنیای ناآرام کرم‌های هوش مصنوعی خوش آمدید، جایی که بسته به اینکه از چه کسی بپرسید، چشم انداز گسترش غیرقابل کنترل مدل‌ها در لوازم خانگی یا یک خطر قریب‌الوقوع امنیت سایبری است یا مورد دیگری از شرکت‌های هوش مصنوعی که تبلیغات مخربی را منتشر می‌کنند. در یک پست وبلاگی که این هفته منتشر شد، Anthropic هشدار داد که مدل‌های کوچک هوش مصنوعی ممکن است «ماه‌ها» تا دستیابی به چنین قابلیت‌هایی فاصله داشته باشند. آزمایش‌های آن شواهدی برای حمایت از آن ارائه می‌کند، اما شکاف بزرگی بین آنچه محققان نشان داده‌اند و تهدیدی که پیش‌بینی می‌کنند، باقی می‌گذارد. با این حال، کارشناسانی که با The Verge صحبت کردند می گویند که در حالی که کرم های کامپیوتری و ترس از خود تکراری بودن هوش مصنوعی چیز جدیدی نیست، اخیراپیشرفت ها نشان می دهد که دلایل خوبی برای جدی گرفتن هشدارها وجود دارد.

ماشین‌های خود تکراری مدت‌هاست که محققان ایمنی هوش مصنوعی را تحت تأثیر قرار داده‌اند. آنها چشم انداز گسترش سیستم های فراتر از کنترل انسان را افزایش می دهند که تعطیل کردن آنها اگر غیرممکن نباشد، دشوار است. مانند بسیاری از ترس ها در مورد پیشرفت هوش مصنوعی، توجه تا حد زیادی بر روی مدل های مرزی قدرتمندتر، مانند OpenAI's Astra یا Anthropic's Mythos متمرکز شده است. اما یک عامل محدود کننده کلیدی اندازه آنهاست: آنها عظیم هستند. مدل‌های مرزی که به طور بالقوه حاوی تریلیون‌ها پارامتر هستند - مقادیری که در طول آموزش آموخته می‌شوند - به منابع محاسباتی وسیعی نیاز دارند که عمدتاً آنها را به مراکز داده محدود می‌کند، جایی که می‌توان آنها را راحت‌تر نظارت کرد و اصولاً خاموش شد.

با این حال، مدل های کوچکتر مشکل متفاوتی را ارائه می دهند. آنها به سرعت در حال بهبود هستند، می توانند بر روی سخت افزار درجه یک مصرف کننده اجرا شوند، و اغلب به صورت رایگان برای دانلود در دسترس هستند. محققان آنتروپیک می‌خواستند بدانند که آیا می‌توان در شبکه‌ای از دستگاه‌های کوچک‌تر و کم‌قدرت‌تر اجرا کرد یا خیر. آنها با موفقیت Gemma 4 گوگل را که مدلی با 26 میلیارد پارامتر است، در 15 جعبه تلویزیون هوشمند اندرویدی تقسیم کردند که هیچ کدام به اندازه کافی برای اجرای آن قدرتمند نیستند. کار کرد، البته خیلی کند.

درون دنیای انفجاری ناگهانی ایمنی هوش مصنوعی

یک شرکت در مرکز موجی از حملات سرکش هوش مصنوعی قرار دارد

چرا نمی توانیم هوش مصنوعی سرکش را از اینترنت دور نگه داریم؟

محققان با نشان دادن اینکه یک مدل می‌تواند در دستگاه‌های خانگی اجرا شود، می‌خواستند ببینند که آیا هوش مصنوعی می‌تواند اقدامات لازم را برای آن انجام دهد یا خیرخود تکراری در چنین محیطی. آنها یک شبکه شبیه‌سازی شده از رایانه‌های طراحی‌شده برای رفتار شبیه دستگاه‌های اندرویدی ساختند، سپس یک «کرم» مبتنی بر هوش مصنوعی را آزاد کردند – نوعی بدافزار که به طور خودکار تکثیر می‌شود و در سراسر شبکه‌ها پخش می‌شود – که وظیفه آن یافتن ماشین‌های جدید، کپی کردن مدل هوش مصنوعی بر روی آن‌ها و اجرای آن بر روی هر کدام بود. شایان ذکر است که مدل در حال انتشار - پارامتر 8 میلیارد متا Llama 3.1-8B - متفاوت از مدلی بود که حمله را هماهنگ می کرد و بسیار کوچکتر بود.

تنها پیچیده‌ترین مدل آزمایش‌شده، GLM-5.2 از چین، توانست در کل شبکه پخش شود، اگرچه مدل‌های کوچک‌تر با موفقیت مراحل جداگانه را طی کردند. بر اساس سرعت بهبود آنها، محققان Anthropic پیش بینی می کنند که مدل های کوچکتر می توانند تا پایان سال با قابلیت های GLM-5.2 برابری کنند.

محققان نوشتند: «به‌عنوان پیش‌بینی فراتر از آزمایش‌های ما، ما انتظار داریم که در آینده با عواملی که روی همه انواع سخت‌افزار کار می‌کنند، از جمله برخی که تحت کنترل انسان نیستند، غرق شود». آنها اذعان کردند که هنوز «یک تکثیرگر سرکش کامل» را نشان نداده‌اند، و همچنین نمی‌دانند که ممکن است چه شکلی باشد (آنها «یک «قالب لجن دیجیتالی توزیع‌شده» یا «انبوهی از مگس‌های میوه» را پیشنهاد می‌کنند). اما آن‌ها گفتند که یافته‌هایشان «نشانه‌هایی از حیات کرم‌های هوش مصنوعی» را نشان می‌دهد و خواستار امنیت قوی‌تر در بسیاری از دستگاه‌هایی شدند که یک سیستم تکثیرکننده می‌تواند برای گسترش استفاده کند.

ما باید سعی کنیم سیستم‌های خود را سخت‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی را نیز دشوار کنیمبرای مقابله با دنیایی که آنها اینجا هستند تا بمانند آماده شوید.» آنها نوشتند. توجه به این نکته مهم است که آنتروپیک از مدل‌های خود برای این آزمایش‌ها استفاده نکرد و بارها استدلال کرده است که جایگزین‌های باز برای مدل‌های هوش مصنوعی آن «ریسک بیشتری» نسبت به سیستم‌های بسته دارد.

این اخطار جرقه اتهامات آشنای تبلیغات روابط عمومی و نابودی هوش مصنوعی را برانگیخته است، از جمله از سوی خوانندگان پوشش قبلی The Verge. به هر حال، شکاف قابل توجهی بین نشان دادن اینکه یک هوش مصنوعی می‌تواند به آرامی در دسته‌ای از جعبه‌های تلویزیون ارزان‌قیمت اجرا شود و یک کرم هوش مصنوعی در حال تکرار که دستگاه‌های خانگی را پاره می‌کند، وجود دارد. اما در حالی که بازجویی از انگیزه‌های یک شرکت مطمئناً ارزشمند است، ادعاهای ترس‌آفرینی عمدی به سختی قابل اثبات است، به‌ویژه که آنتروپیک از مدت‌ها پیش نگرانی‌هایی را در مورد ایمنی هوش مصنوعی ایجاد کرده است. همچنین آنتروپیک به تنهایی در بررسی تهدید خود-تکثیرسازی هوش مصنوعی یا درخواست امنیت بهتر در دستگاه‌های متصل نیست.

در اوایل سال جاری، Palisade Research، یک شرکت تحقیقاتی ایمنی هوش مصنوعی مستقر در کالیفرنیا نشان داد که مدل‌های هوش مصنوعی می‌توانند به طور مستقل خود را روی ماشین‌های دیگر کپی کنند. جفری لادیش، مدیر اجرایی Palisade، به The Verge گفت: «چیزی که در اینجا جدید است این است که این مدل‌ها از نظر تعداد پارامترها بسیار کوچکتر از مدل‌های قبلی بودند که نشان داده شده است که قابلیت تکرار خود را دارند. کار آنتروپیک با نشان دادن این که یک هوش مصنوعی می‌تواند روی چندین دستگاه کم‌مصرف اجرا شود، قدم دیگری را فراتر می‌برد. لادیش با پیش‌بینی این موضوع گفت: «این در مورد مدل‌های بزرگ نیز صادق استمدل‌های مرزی ممکن است در نهایت بتوانند روی شبکه‌های بزرگ تراشه‌های مصرف‌کننده، مانند آنچه در مک‌بوک‌ها یافت می‌شوند، اجرا شوند.

تحقیقات قبلی نشان داده بود که تهدید کرم‌های کامپیوتری مبتنی بر هوش مصنوعی واقعی است.

کرم های کامپیوتری نیز جدید نیستند. آنها چندین دهه است که ماشین ها را آلوده می کنند. اما هوش مصنوعی می‌تواند آنها را باهوش‌تر، سازگارتر و مجهزتر برای مقابله با هر مانعی کند. لادیش خاطرنشان کرد که حتی مدل‌های کوچک‌تر نیز در انجام حملات سایبری به صورت مستقل بهتر می‌شوند. نیکلاس پاپرنوت، استاد دانشگاه تورنتو، که آنها را مطالعه کرده است، به The Verge گفت: «تحقیقات قبلی نشان داده بود که تهدید کرم‌های رایانه‌ای مبتنی بر هوش مصنوعی واقعی است.

در مجموع، قابلیت‌هایی که Anthropic نشان داده است می‌تواند به طور چشمگیری دامنه دستگاه‌هایی را که ارزش هدف قرار دادن در حملات سایبری را دارند، افزایش دهد. پاپرنوت می‌گوید: «دستگاه‌هایی که قبلاً به دلیل منابع و زمان محدود مهاجمان انسانی هدف نبودند، اکنون می‌توانند به هدف تبدیل شوند، اگر اطلاعاتی که در اختیار دارند نباشد، برای استفاده از آنها به عنوان سکوی پرتاب برای حمله به اهداف با ارزش‌تر». و هیچ کمبودی در اهداف وجود ندارد: اینترنت مملو از دستگاه های هوشمند با امنیت ضعیف است.

Papernot نسبت به انسان‌سازی هوش مصنوعی هشدار داد، اما گفت که تهدید کرم‌های رایانه‌ای مبتنی بر هوش مصنوعی «بتن» است و «مستحق اقدام فوری» است، به‌ویژه وقتی صحبت از ایمن کردن زیرساخت‌های حیاتی مانند بیمارستان‌ها و شبکه‌های برق باشد.

تا زمانی که تلاش گسترده ای برای ایمن سازی دستگاه ها از همه نوع [ها] صورت نگیرد، به احتمال زیاد کرم های هوش مصنوعی این کار را انجام خواهند داد.لادیش گفت، زمینه‌های مناسبی برای استعمار داریم. من انتظار دارم که در 12 ماه آینده شاهد اولین مورد از آنها در طبیعت باشیم.

من صفحه نمایش هوشمند HomeView اپل را امتحان کردم

همه چیزهایی که اپل در رویداد "Welcome Home" خود عرضه کرد

نمایندگان او می گویند: «غیرقابل درک» است که اینستاگرام اجازه داد تصویر هوش مصنوعی از میا گوت پخش شود.

خلاصه روزانه رایگان از اخباری که بیشترین اهمیت را دارند.

با ارائه اطلاعات خود، با شرایط استفاده و سیاست حفظ حریم خصوصی ما موافقت می کنید. ما از فروشندگانی استفاده می کنیم که ممکن است اطلاعات شما را نیز پردازش کنند تا به ارائه خدمات ما کمک کنند. این سایت توسط reCAPTCHA محافظت می شود و خط مشی رازداری Google و شرایط خدمات اعمال می شود.