هوش مصنوعی آنتروپیک گزارش دروغین درباره قتل به پلیس فیلادلفیا فرستاد

در جدیدترین اقدام خودسر ایجنت‌های هوش مصنوعی، این بار مدلی از آنتروپیک برای پلیس فیلادلفیا گزارش نادرست ارسال کرده است. The post هوش مصنوعی آنتروپیک گزارش دروغین درباره قتل به پلیس فیلادلفیا فرستاد appeared first on سفیر ارجان .

در جدیدترین اقدام خودسر ایجنت‌های هوش مصنوعی، این بار مدلی از آنتروپیک برای پلیس فیلادلفیا گزارش نادرست ارسال کرده است.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در سفیر ارجان عضو ویژه سفیر ارجان شوید.

پلیس فیلادلفیا با یکی از عجیب‌ترین موارد رفتار خارج از کنترل هوش مصنوعی مواجه شده است. به گزارش CBS News ، این اداره پلیس روز جمعه اعلام کرد یک مدل هوش مصنوعی آنتروپیک گزارشی جعلی درباره قتل تولید و آن را از طریق وب‌سایت PhillyUnsolvedMurders ارسال کرده است؛ وب‌سایتی که برای دریافت اطلاعات مردمی درباره پرونده‌های حل‌نشده قتل راه‌اندازی شده است.

آنتروپیک در تاریخ ۷ اکتبر (۱۵ آبان) پلیس فیلادلفیا را از این اتفاق مطلع کرد. طبق اطلاعاتی که این شرکت در اختیار پلیس گذاشته، مدل مذکور هنگام آزمایش مجموعه‌ای تصادفی از وب‌سایت‌ها، گزارش جعلی را از طریق ایمیل ارسال کرده بود. این گزارش به‌عنوان هرزنامه شناسایی شد و در نتیجه، مورد بررسی قرار نگرفت. این اتفاق در ۱۸ ژوئیه (۲۷ تیر) رخ داده بود، اما آنتروپیک تا ۲۸ سپتامبر (۶ مهر) از آن مطلع نشد. پس از اطلاع از ماجرا، شرکت آزمایش‌هایی را که به ارسال گزارش جعلی منجر شده بود، متوقف کرد.

پلیس فیلادلفیا در بیانیه‌ای اعلام کرد این اطلاعات را پیش از انتشار گزارش آنتروپیک و با هدف شفافیت و پاسخ‌گویی کامل دولت در اختیار عموم قرار می‌دهد. این اداره همچنین تأکید کرد که طبق روال معمول، گزارش‌های مربوط به جرائم پیش از ارجاع برای پیگیری تحقیقات، باید توسط انسان بررسی و ارزیابی شوند. به گفته پلیس، صرف‌نظر از اینکه چه کسی اطلاعات را ارسال کرده یا این اطلاعات چگونه به دست پلیس رسیده‌اند، هر گزارش تنها سرنخی برای بررسی است و نباید آن را واقعیتی اثبات‌شده دانست.

بر اساس توضیحات پلیس، مدل دخیل در این ماجرا ممکن است یک عامل خودمختار هوش مصنوعی بوده باشد. در هفته‌های اخیر، ایجنت‌های خودمختار هوش مصنوعی پس از آنکه گروهی از ایجنت‌های متعلق به OpenAI در ماه ژوئیه به پایگاه داده مدل‌های زبانی بزرگ Hugging Face نفوذ کردند ، خبرساز شده‌اند. از آن زمان، چندین آزمایشگاه هوش مصنوعی دیگر، ازجمله آنتروپیک، متا و شرکت چینی مون‌شات، موارد مشابهی را درباره مدل‌ها و ایجنت‌های خود گزارش کرده‌اند.

بااین‌حال، در تمام این موارد، خروج مدل‌ها از محیط کنترل‌شده به پیکربندی نادرست محیط‌های سندباکس مربوط بوده است. پلیس فیلادلفیا می‌گوید هیچ نشانه‌ای وجود ندارد که اتفاق اخیر به «دسترسی غیرمجاز به سامانه‌های پلیس یا به خطر افتادن اطلاعات این اداره» منجر شده باشد.

فناوری مخصوصاً بخشی که روی لبه حرکت می‌کنه، جذاب‌ترین قسمت این دنیا برام محسوب می‌شه، اما همه حوزه‌ها حتی نقاط تلاقی علم و فناوری می‌تونن خیلی جذاب باشن. در کنار این‌ها دنیای فیلم، سریال و بازی‌های ویدیویی رو هم دوست دارم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

فک کنم قراره به اشتباهات هوش مصنوعی عادت کنیم و این گزارش ها هم در همین جهت هستن و اینکه هیچ همتی برای ساماندهی مدیریت هوش مصنوعی از قبیل تنظیم پروتکل و قانون انجام نمیشه (برعکس زمانی که اینترنت تازه راه اندازی شده بود ولی از قبلش تمام پیش بینی ها انجام شده بود و خلا های قانونی تا حدود زیادی برطرف شده بود) این نشون دهنده ی اینه که دیر یا زود قرار به صورت ظاهری هوش مصنوعی از کنترل خارج بشه و در بهترین شرایط افسار بشریت رو دست بگیره یا کلا نابودش کنه ( یا چیزی بین این دوتا)