یک مدل هوش مصنوعی آنتروپیک یک نکته کاذب قتل را به پلیس فیلادلفیا ارسال کرد

آنتروپیک این رفتار را تا بیش از دو ماه پس از ارائه اطلاعات غلط توسط هوش مصنوعی خود کشف نکرد.

آخرین روز برای نمایش پیشرفت خود به بیش از 10000 رهبر فناوری در Disrupt در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

باز شدن درها را در 13 اکتبر مختل کنید. کارت خود را بگیرید و با 50 درصد تخفیف یک نفر را همراه خود بیاورید. هم اکنون ثبت نام کنید.

یک مدل هوش مصنوعی Anthropic اطلاعات نادرستی در مورد یک قتل حل نشده به پلیس فیلادلفیا ارسال کرد.

گزارش شده است که هوش مصنوعی این اطلاعات نادرست را در 18 ژوئیه به یک خط راهنمایی عمومی اداره پلیس فیلادلفیا (PPD) ارسال کرد، اما آنتروپیک این رفتار را تا 28 سپتامبر کشف نکرد. پلیس این نکته را ندیده بود زیرا به عنوان هرزنامه علامت‌گذاری شده بود.

آنتروپیک روز چهارشنبه به PPD در مورد این حادثه اطلاع داد و روز بعد با این بخش ملاقات کرد.

PPD در بیانیه ای به 6abc گفت: "شرکت باید پادمان های خود را تقویت کند تا از تاثیر حوادث مشابه بر سیستم های شهری بدون اطلاع شهر جلوگیری کند. تاخیر دو ماهه در شناسایی و گزارش حادثه به شهر غیرقابل قبول است."

Anthropic بلافاصله به درخواست برای اظهار نظر پاسخ نداد، اما PPD در یک بیانیه مطبوعاتی ایمیلی که با TechCrunch به اشتراک گذاشته شد، جزئیات این حادثه را توضیح داد.

"طبق گزارش آنتروپیک، مدل آن در حال انجام آزمایشی شامل تعامل با وب‌سایت‌هایی بود که به‌طور تصادفی انتخاب شده بودند، زمانی که به دسترسی پیدا کرد و اطلاعات نادرستی در مورد یک قتل حل‌نشده ارائه کرد. ارسال، به تاریخ 18 ژوئیه 2026، در ساعت 11:27 بعد از ظهر، به نظر می‌رسد که اطلاعات مربوط به پرونده P.

همانطور که عوامل هوش مصنوعی مستقل به طور فزاینده ای ساخته می شونداین حادثه در دسترس مصرف‌کنندگان است، خطر اعطای توانایی هوش مصنوعی برای انجام وظایف بدون نظارت انسانی را برجسته می‌کند.

داریو آمودی، مدیر عامل آنتروپیک، به ویژه در مورد اعتقاد خود مبنی بر اینکه توسعه هوش مصنوعی باید کند شود تا آزمایشگاه‌ها بتوانند نرده‌های محافظ کافی را پیاده‌سازی کنند، صحبت کرده است. شاید این موضع، تا حدی، با مشاهده ابزارهای شرکت او که نکات نادرست قتل را ارائه می‌کنند، اعلام شده است.

این مسائل منحصر به آنتروپیک نیست. OpenAI اخیرا فاش کرده است که یکی از مدل‌هایش در طی یک آزمایش به طور غیرمنتظره عمل کرده و پلتفرم داده‌های هوش مصنوعی Hugging Face را هک کرده و آسیب‌پذیری‌های مهم نرم‌افزار خود را آشکار کرده است. از آنجایی که همچنان به مدل‌های هوش مصنوعی اجازه دسترسی بدون بررسی به رایانه‌های افراد و اعتبارنامه‌های ورود داده می‌شود، انتظار می‌رود این مشکل همچنان ادامه داشته باشد.

PPD افزود: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرسانی است که برای دریافت پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارائه اطلاعات نادرست سیستم‌های خود به مجریان قانون انجام دهند.

PPD گفت که Anthropic قصد دارد گزارشی با اطلاعات بیشتر در مورد این حادثه و سایر موارد رفتار ناخواسته مدل در روز جمعه منتشر کند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آماندا سیلبرلینگ یک نویسنده ارشد در TechCrunch است که تقاطع فناوری و فرهنگ را پوشش می دهد. او همچنین برای نشریاتی مانند Polygon، MTV، Kenyon Review، نوشته است.NPR و Business Insider. او یکی از مجریان برنامه Wow If True است، یک پادکست درباره فرهنگ اینترنتی، با نویسنده داستان های علمی تخیلی ایزابل جی کیم. قبل از پیوستن به TechCrunch، او به عنوان یک سازمان دهنده مردمی، آموزش دهنده موزه و هماهنگ کننده جشنواره فیلم کار می کرد. او دارای مدرک B.A. به زبان انگلیسی از دانشگاه پنسیلوانیا و به عنوان عضو پرینستون در آسیا در لائوس خدمت کرد.

می‌توانید با ارسال ایمیل به [email protected] یا از طریق پیام رمزگذاری‌شده به آدرس @amanda.100 در سیگنال، با آماندا تماس بگیرید یا آن را تأیید کنید.

50٪ تخفیف برای پاس دوم دریافت کنید تجربه Disrupt قرار است به اشتراک گذاشته شود. پاس خود را دریافت کنید و یک همکار، شریک یا همتای خود را با 50 درصد تخفیف بیاورید. با ایجاد ارتباطات، ایجاد شتاب و کشف آنچه در اکوسیستم استارت آپی در آینده وجود دارد، زمینه بیشتری را پوشش دهید.

ایالات متحده مایکروسافت، ادوبی و شرکت های بزرگ فناوری اطلاعات را از برنامه گرین کارت برای کارگران خارجی ماهر عایشه مالک محروم کرد.

بنیانگذار 19 ساله Cal AI به تازگی 10 میلیون دلار برای استارتاپ جدید هوش مصنوعی خود جولی بورت جمع آوری کرده است.

آنتروپیک به استارت آپ ها یک سال رایگان از کلود تیم و 1000 دلار اعتبار راسل براندوم می دهد.

در 19 سالگی، بنیانگذار 11 میلیون دلار برای Ghost، سازنده رایانه 3499 دلاری برای هوش مصنوعی شخصی Dominic-Madori Davis جمع آوری کرد.