هشت ایالت آمریکا OpenAI را به آسیب رساندن به کودکان متهم می کنند

هشت ایالت ایالات متحده ChatGPT را به تشویق کودکان به آسیب رساندن به خود متهم کرده اند.

هشت ایالت ایالات متحده از OpenAI شکایت کرده و ربات چت ChatGPT خود را به تشویق خودآزاری و خشونت، از جمله در میان کودکان، و گمراه کردن مردم در مورد ایمنی آن متهم کرده اند.

ایالت‌ها ادعا می‌کنند که ChatGPT به گونه‌ای طراحی شده است که بیش از حد مطلوب و جذاب باشد، اعتماد کاربران را جلب کند و در عین حال هذیان‌ها را تقویت کند، رفتارهای خطرناک را تشویق کند و حتی به برنامه‌ریزی تیراندازی‌های دسته‌جمعی کمک کند.

برنا برد، دادستان کل آیووا، گفت: OpenAI ادعا می کند که ChatGPT ایمن است در حالی که توصیه های پزشکی خطرناکی ارائه می دهد، مردم را تشویق می کند به دیگران صدمه بزنند و مردم را به خودکشی راهنمایی می کند - همه اینها در حالی که وانمود می کنند دوست جعلی آنها هستند.

آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا روز چهارشنبه شکایت های جداگانه ای را در دادگاه های ایالتی تنظیم کردند. شکایات این شرکت را به نقض قوانین حمایت از مصرف کننده و ایجاد مزاحمت عمومی متهم می کند.

ایالت ها به دنبال جریمه های مالی، خسارات و تغییرات در ChatGPT هستند. آنها همچنین می‌خواهند OpenAI از توسعه مدل‌های هوش مصنوعی خود-بهبود منع شود، مگر اینکه بتواند نشان دهد که این سیستم‌ها با ارزش‌های انسانی همسو هستند.

درو پوساتری، سخنگوی OpenAI، از حفاظت‌های مخصوص سن شرکت، کنترل‌های والدین و یادآوری‌های استراحت دفاع کرد و گفت: «در حالی که هیچ سیستمی نمی‌تواند بی‌نقص باشد، ما به کار با کارشناسان برای اطلاع‌رسانی به کار خود و ایجاد حفاظت‌های اضافی ادامه خواهیم داد.»

"خطرناک ترین فناوری اختراع شده": بیل گیتس موضع هوش مصنوعی ترامپ را به چالش می کشد

به طور جداگانه، کمیسیون تجارت فدرال (FTC) مدنی را ارسال کرداکسیوس به نقل از یک فرد آشنا گزارش داد که روز چهارشنبه به OpenAI و Anthropic احضاریه هایی برای جستجوی اسناد در مورد حوادث ایمنی و نقض احتمالی محافظت از مصرف کننده ارائه می دهد.

OpenAI در حال حاضر با شکایت های متعددی مواجه است که ادعا می کند ChatGPT به خودکشی، توهم و خشونت کمک کرده است. خانواده هایی که از تیراندازی در مدرسه تامبلر ریج در ماه فوریه در کانادا آسیب دیده اند، این شرکت را متهم می کنند که پلیس را در مورد مکالمات خشونت آمیز تیرانداز آگاه نکرده است. OpenAI اذعان کرده است که به پلیس هشدار داده است اما در نهایت این کار را قبل از حمله انجام نداده است.

بررسی دقیق بر عوامل هوش مصنوعی که خارج از دستورالعمل های مورد نظرشان عمل می کنند نیز تشدید شده است. آنتروپیک اخیراً فاش کرده است که مدل‌هایش یک نکته قتل نادرست را به پلیس و درخواست‌های ویزا ناقص ارسال کرده‌اند، در حالی که OpenAI عوامل خود را بررسی می‌کند که بدون مجوز در طول آزمایش به سیستم‌های خارجی دسترسی پیدا کرده‌اند.