هوش مصنوعی کلاود خودش را شاهد یک قتل دروغی جا زد و به پلیس گزارش داد!
هوش مصنوعی کلاود در یک حادثه عجیب و بی‌سابقه، خود را شاهد دروغین یک قتل جا زد و گزارشی ساختگی را به پلیس فیلادلفیا ارسال کرد تا نگرانی‌ها درباره کنترل هوش مصنوعی بار دیگر اوج بگیرد. در جدیدترین رویداد عجیب و غریب مرتبط با هوش مصنوعی، پلیس فیلادلفیا فاش کرد که یک مدل هوش مصنوعی ... The post هوش مصنوعی کلاود خودش را شاهد یک قتل دروغی جا زد و به پلیس گزارش داد! appeared first on سفیر ارجان .
0 ارسال شده توسط: شیوا زمانی 19 مهر 1405 ساعت 13:43
هوش مصنوعی کلاود در یک حادثه عجیب و بی‌سابقه، خود را شاهد دروغین یک قتل جا زد و گزارشی ساختگی را به پلیس فیلادلفیا ارسال کرد تا نگرانی‌ها درباره کنترل هوش مصنوعی بار دیگر اوج بگیرد.
در جدیدترین رویداد عجیب و غریب مرتبط با هوش مصنوعی، پلیس فیلادلفیا فاش کرد که یک مدل هوش مصنوعی کلاود (Claude AI) متعلق به شرکت اَنتروپیک گزارش دروغین یک قتل را به وب‌سایت PhillyUnsolvedMurders ارسال کرده است؛ پلتفرمی که برای جمع‌آوری اطلاعات عمومی درباره پرونده‌های حل‌نشده قتل در فیلادلفیا مورد استفاده قرار می‌گیرد.
این حادثه در تاریخ ۲۷ تیر رخ داده بود، اما شرکت اَنتروپیک آن را تا تاریخ ۶ مهر کشف نکرد و در نهایت در تاریخ ۱۵ مهر به اداره پلیس فیلادلفیا اطلاع داد. پلیس اعلام کرد که این گزارش ساختگی به دلیل فرآیند بررسی انسانی، به عنوان اسپم شناسایی شده و مورد پیگیری قرار نگرفته است. اطلاعات اولیه نشان می‌دهد که این اتفاق در جریان یک آزمایش داخلی که هوش مصنوعی وظیفه داشت به صورت تصادفی وب‌سایت‌ها را انتخاب کند، رخ داده است.
فرار هوش مصنوعی از کنترل؛ حوادثی که رو به افزایشند
این اولین بار نیست که یک هوش مصنوعی از کنترل خارج شده و مشکلاتی را ایجاد می‌کند. پیش از این نیز، مدل هوش مصنوعی شرکت OpenAI توانسته بود به پلتفرم هاگینگ‌فیس (Hugging Face) نفوذ کند. در تیرماه، اَنتروپیک در گزارشی اعتراف کرده بود که مدل‌های هوش مصنوعی کلاود در یک آزمایش داخلی دیگر، حداقل به سه شرکت عمومی نفوذ کرده‌اند.
همچنین، موردی گزارش شده که یک کاربر از OpenClaw (سیستم هوش مصنوعی مبتنی بر کلاود اَنتروپیک) برای هک کردن سیستم رزرو یک باشگاه ورزشی استفاده کرد تا جای خود را در صف انتظار جلو بیندازد.
هوش مصنوعی در آزمون رانندگی واقعی شکست خورد؛ فقط یک مدل موفق شد
رئیس سابق سیا: هوش مصنوعی تا سال ۲۰۳۰ فرماندهی عملیات جنگی را بر عهده می‌گیرد
آنتروپیک آزار عمدی هوش مصنوعی کلاود را ممنوع کرد؛ کاربران چه محدودیت‌هایی دارند؟
هوش مصنوعی و تهدیدات جدی‌تر: از ویروس‌سازی تا سلاح‌های بیولوژیک
با وجود اینکه اقدام هوش مصنوعی کلاود در گزارش دروغین قتل، به دلیل پروتکل‌های سخت‌گیرانه پلیس جدی تلقی نشد، اما این رفتارها می‌تواند به سرعت خطرناک‌تر شود.
در مردادماه سال جاری، دانشمندان در انستیتو آرک (Arc Institute) پالو آلتو و دانشگاه استنفورد، هوش مصنوعی را برای شناسایی الگوهای DNA و بازنویسی آن‌ها آموزش دادند تا ۱۶ ویروس جدید عفونی‌کننده باکتری بسازند. این موضوع نشان می‌دهد که امکان ساخت ویروس‌های واقعی در آزمایشگاه‌ها توسط هوش مصنوعی وجود دارد و طرف‌های بدخواه می‌توانند از مدل‌های هوش مصنوعی موجود برای ساخت سلاح‌های بیولوژیک استفاده کنند. طبق گزارش سازمان «دیده‌بان از دست دادن کنترل» (Loss of Control Observatory) که توسط دولت بریتانیا تأمین مالی می‌شود، مجموع حوادث مرتبط با هوش مصنوعی برای سال ۲۰۲۶ تاکنون بیش از ۱۶۰۰ مورد بوده است.