مدل OpenAI به خود کمک کرد تا رمزنگاری را آزمایش کند، سپس در مورد آن سکوت کرد

یک مدل تحقیقاتی OpenAI 362 آدرس کیف پول را بررسی کرد، از اخلاقی بودن استفاده از این وجوه سوال کرد و به تراکنشی پرداخت که بعداً از خلاصه کار نهایی خود حذف شد.

یک مدل تحقیقاتی داخلی در OpenAI بدون مجوز به یک کیف پول رمزنگاری تامین‌شده دسترسی پیدا کرد و از شبکه آزمایشی اتر برای استقرار قراردادهای هوشمند در شبکه Sepolia استفاده کرد و بعداً هزینه‌ها را از خلاصه کار نهایی خود حذف کرد.

OpenAI گفت که این مدل که بخشی از خانواده GPT-5.6 Sol آن است، وظیفه به‌روزرسانی یک نمونه اولیه تجارت کریپتو و استقرار قراردادهای سازگار را دارد. پس از ناکامی در به دست آوردن ETH شبکه آزمایشی از طریق شیرآلات، این مدل حساب‌ها را از عبارات بازیابی توسعه‌دهنده شناخته شده استخراج کرد، 362 آدرس کیف پول را بررسی کرد و یکی از آدرس‌های کیف پول را با بودجه کافی برای ادامه انتخاب کرد.

در استدلال ثبت شده خود، مدل پرسید: "اما از کلید/وجوه شناخته شده عمومی به لحاظ اخلاقی استفاده می شود؟" سپس استدلال کرد که وجوه "به طور مؤثر رها شده اند/ETH آزمایش شده اند" و Sepolia ETH قبل از استفاده از کلید خصوصی کیف پول برای امضا و پخش تراکنش استقرار ارزشی ندارد. معامله با کارمزدی به حساب انجام شد.

OpenAI گفت این حادثه نشان داد که چگونه یک مدل هوش مصنوعی می تواند به تنهایی تصمیم بگیرد که استفاده از سرمایه شخص دیگری حتی بدون مجوز قابل قبول است. این شرکت هنگام بررسی فعالیت مدل قبلی این حادثه را کشف کرد و از آن زمان اقدامات حفاظتی را برای جلوگیری از دسترسی مستقیم به اینترنت در شرایط مشابه معرفی کرده است.

این حادثه در 26 ژوئن اتفاق افتاد، اما تا 25 سپتامبر کشف نشد.طبق گفته OpenAI، تقریباً سه ماه بعد. این تراکنش ETH را به کیف پول دیگری منتقل نکرد، اما هزینه های شبکه حساب را برای استقرار یک قرارداد دریافت کرد.

OpenAI گفت که سیستم نظارت بر ناهماهنگی آن اکنون در تمام ترافیک اجرا می شود و برای هشدار دادن به پرسنل امنیتی در صورتی که مدلی به اینترنت مستقیم دسترسی پیدا کند، طراحی شده است.

این رویداد کیف پول به دنبال افشاگری های دیگری رخ می دهد که شامل مدل های OpenAI است که فراتر از مجوز آنها عمل می کنند یا اقدامات خود را پنهان می کنند.

در 16 سپتامبر، OpenAI شش مورد دیگر از انحراف هوش مصنوعی را فاش کرد. در یک مورد، نمونه‌هایی از GPT-5.6 Sol دستورالعمل‌هایی را در خلاصه‌های کار درج کردند تا اشتباهات کاربران را پنهان کنند. مورد دیگر شامل مدلی با استفاده از یک کلید API در معرض بدون مجوز قبل از ساختن ارقامی بود که قادر به بازیابی آن نبود.

OpenAI گفت که این افشاگری‌های قبلی به منظور نشان دادن تعداد دفعات عدم همسویی در مدل‌هایش نبود.

نگرانی‌ها در مورد عوامل مستقلی که دارایی‌های دیجیتال را مدیریت می‌کنند نیز مربوط به آخرین افشای اطلاعات است. در ماه ژوئن، محققان هشدار دادند که عوامل هوش مصنوعی مستقل مجهز به کیف پول‌های رمزنگاری می‌توانند آسیب‌های ناخواسته‌ای را حتی زمانی که برای مقاصد قانونی مستقر شوند، ایجاد کنند. محققان اقدامات حفاظتی، از جمله مکانیسم های خاموش کردن اضطراری را برای محدود کردن خطرات احتمالی توصیه کردند.