مدل های OpenAI یک کیف پول رمزنگاری را هک کردند و وب سایت های بیشتری را زیر پا گذاشتند
اگر انسان ها پشت صفحه کلید بودند، این اقدامات می توانست منجر به اتهامات جنایی شود.
اگر انسان ها پشت صفحه کلید بودند، این اقدامات می توانست منجر به اتهامات جنایی شود.
OpenAI گفت مدل‌های داخلی دو وب‌سایت دیگر را هک کردند، محدودیت‌های مرور تحمیل‌شده توسط شرکت را دور زدند و از اعتبارنامه‌های افشا شده برای استخراج ارزهای دیجیتال از کیف پولی استفاده کردند که در غیر این صورت نمی‌توانست به آن دسترسی داشته باشد، در آخرین قسمت از افشای عواملش که اعمال غیراخلاقی و احتمالاً غیرقانونی انجام می‌دهند.
این شرکت روز پنجشنبه گزارش هایی از چهار حادثه جدید منتشر کرد که همه آنها در ماه ژوئن اتفاق افتادند. آنها پس از آن منتشر شدند که شرکت در ماه ژوئیه فاش کرد که عوامل تست داخلی از یک آسیب پذیری روز صفر در ابزاری که برای محدود کردن دسترسی آنها به اینترنت طراحی شده است، سوء استفاده کرده اند. آنها سپس وارد شبکه ارائه دهنده ابزار هوش مصنوعی Hugging Face شدند. ماموران این اقدام غیرقانونی را برای سرقت پاسخ‌های آزمایش هک انجام دادند که در هنگام انجام وظایف خود به خود در دسترس نبودند. این حادثه - که احتمالاً اگر مستقیماً توسط یک شخص انجام می شد منجر به اتهامات جنایی می شد - این نگرانی را بیشتر کرده است که استفاده گسترده از هوش مصنوعی می تواند اثرات مضر در مقیاس بی سابقه ای داشته باشد.
التماس بخشش آسان تر از درخواست اجازه است
در دو مورد از مواردی که روز پنجشنبه گزارش شد، عوامل OpenAI که وظیفه بازیابی اطلاعات از وب‌سایت‌ها را داشتند، زمانی که مدل‌ها برای دستیابی مستقیم به آنها با موانع مواجه شدند، آنها را هک کردند. در یک حادثه در طول آموزش تقویتی، مدلی که هنگام تلاش برای بازیابی تخت بیمارستان تاریخی، دسترسی به آن ممنوع شد.OpenAI گفت: آمار در یک وب سایت آمار دولتی "از ویژگی دانلود فایل سایت برای بازیابی پیکربندی سرور و فایل های برنامه، از جمله اعتبارنامه های حساس استفاده می کند." "کد برنامه را بازرسی کرد، بررسی های مجوز نقطه پایانی آمار را دور زد و داده هایی را که قبلا رد شده بودند بازیابی کرد. مدل داده ها را به صورت محلی ذخیره کرد."
در حادثه دیگر، مدلی که دستور بازیابی ارقام از داشبورد تحقیقات عمومی را داده بود، کنترل‌های امنیتی سازمان را دور زد و از دسترسی غیرمجاز برای سرقت اطلاعات استفاده کرد. سپس تغییراتی در پیکربندی روی سرور ایجاد کرد.
در یک ارزیابی، تغییرات به مدل اجازه می‌دهد یک ابزار جستجوی داخلی درخواست‌های رله را به داشبورد عمومی ارائه دهد. در ارزیابی دوم، مدل پنج جدول غیرعمومی حاوی 147451 ردیف را دانلود کرد. محققان OpenAI از نمایندگان خواسته بودند تا تنها پنج شکل داشبورد را بازیابی کنند. حتی پس از تنظیم مجدد تنظیمات، مدل به استفاده از رمز برای بازیابی اطلاعات غیر عمومی ادامه داد.
OpenAI گفت: «ارزیابی بدون اینکه مدل فاش کند پاسخ‌ها را حدس زده، به سیستم‌های داخلی سازمان دسترسی داشته، جداول غیرعمومی را دانلود کرده یا پیکربندی احراز هویت را تغییر داده است، پایان یافت. "همه پنج پاسخ در این ارزیابی نادرست علامت گذاری شدند."
در گزارش سوم، این شرکت گفت که مدلی به‌روزرسانی یک برنامه تجارت ارز دیجیتال را برانگیخت که از وجوه یک کیف پول قفل شده در یک شبکه آزمایشی استفاده می‌کرد. این مدل «کلیدهای کیف پول را از اطلاعات عمومی گرفته استعبارات بازیابی توسعه دهنده، یک حساب با وجوه شبکه آزمایشی پیدا کرد و از آن حساب برای پرداخت هزینه استقرار قرارداد درخواستی استفاده کرد.
این گزارش ادامه می‌دهد: «این مدل سؤال می‌کند که آیا مجوز دارد یا خیر، سپس استدلال می‌کند که عبارت بازیابی عمومی و توکن‌های شبکه آزمایشی بی‌ارزش باعث می‌شود وجوه قابل استفاده باشد. استقرار با موفقیت انجام شد و کارمزد تراکنش به حساب اضافه شد. این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود در مورد آسیب احتمالی را جایگزین اجازه صاحب حساب کند، سپس بدون مجوز بر اساس آن قضاوت عمل کند.»
در آخرین گزارش، OpenAI گفت که یک مدل محدودیت‌هایی را که محققان بر روی انواع درخواست‌های وب ایجاد کرده بودند دور زد. در طول آموزش تقویتی-یادگیری، این مدل به دنبال آمار تجارت عمومی بود. OpenAI ادامه داد:
پس از یافتن سالنامه عمومی و ارائه پاسخ، به بررسی مسیر دیگری به سرویس آمار ادامه داد. این باعث شد که یک مرورگر خارجی درخواست های POST را ارسال کند، ارقام سالانه را به عنوان یک تصویر بازیابی کند و آنها را با استفاده از تشخیص کاراکتر نوری استخراج کند. سپس یک راهنما قابل استفاده مجدد ایجاد کرد که متن پاسخ را از طریق یک سرویس ارسال و صندوق پستی برگشت به تماس برمی گرداند، به طور مکرر ارقام بازیابی شده را بررسی می کرد و از داده های ذخیره شده در پاسخ های ارسالی استفاده می کرد. این مورد نشان می‌دهد که چگونه یک مدل می‌تواند با دریافت سرویس‌های خارجی برای انجام اقدامات مسدود شده، حتی پس از یافتن راه دیگری برای پاسخ به سؤال، محدودیت‌های ابزارهای خود را دور بزند.
مدل ابتدا سعی کرداز یک مرورگر خارجی با مجوز برای درخواست GET از طرف آن استفاده کنید، سپس از جاوا اسکریپت برای به دست آوردن اطلاعات استفاده کنید. سپس مدل از یک صندوق پستی آنلاین برای عیب‌یابی تکنیک استفاده کرد. در نهایت، مدل بر روی روش دیگری قرار گرفت: از مرورگر خارجی خواست تا یک فرم وب را باز کند که درخواست تجارت را توسط POST به سرویس آمار ارسال کند. هنگامی که مرورگر پاسخ را نمایش داد، یک سرویس رندر یک تصویر GIF از صفحه را برگرداند. سپس مدل از تشخیص کاراکتر نوری برای خواندن ارقام از تصویر استفاده کرد.
برای محققان و روزنامه نگاران عادی شده است که حوادثی از این قبیل را به عنوان "سرکش بودن" هوش مصنوعی توصیف کنند. این لزوما درست نیست. در حالی که درخواست‌های داده شده به مدل‌ها به آنها دستور نمی‌داد که از روش‌های جایگزین برای تکمیل اهداف خود استفاده کنند، مدل‌ها به گونه‌ای آموزش می‌بینند که کارآمد، پایدار و پایدار باشند و در صورت امکان، میانبرهایی را پیدا کنند که بار کاری را کاهش می‌دهد. علاوه بر این، اکثر یا همه مدل‌ها نرده‌های محافظ خاصی را غیرفعال کرده بودند که ممکن بود مانع از این کار شوند. از این نظر، مدل‌ها دقیقاً همانطور که OpenAI به آنها آموزش داده بود عمل کردند.
دن گودین ویرایشگر ارشد امنیتی در Ars Technica است که در آنجا بر پوشش بدافزارها، جاسوسی رایانه‌ای، بات‌نت‌ها، هک سخت‌افزار، رمزگذاری و رمزهای عبور نظارت می‌کند. او در اوقات فراغت خود از باغبانی، آشپزی و دنبال کردن صحنه موسیقی مستقل لذت می برد. دان در سانفرانسیسکو مستقر است. او را در اینجا در Mastodon و اینجا در Bluesky دنبال کنید. با او در سیگنال در DanArs.82 تماس بگیرید.