فحش دادن به کلاود ممنوع شد
آنتروپیک حالا برای چیزی که شاید در نگاه اول عجیب به نظر برسد، خط قرمز کشیده؛ کاربران از این به بعد نمی‌توانند هر طور که می‌خواهند با مدل‌هایش رفتار کنند. پست فحش دادن به کلاود ممنوع شد اولین بار در سفیر ارجان ظاهر شد.
به گزارش سفیر ارجان ، شرکت انتر و پیک روز پنجشنبه ۱۶ مهر ۱۴۰۵ سیاست‌های استفاده از محصولاتش را به‌روزرسانی کرد و محدودیت‌های جدیدی برای استفاده از مدل‌های هوش مصنوعی خود، از جمله کلاود، تعیین کرد. در این قوانین، استفاده از کلاود برای دخالت در انتخابات، تولید نرم‌افزارهای مرتبط با تسلیحات و انجام فعالیت‌های نظارتی ممنوع شده است. اما یکی از جالب‌ترین تغییرات این است که آزار کلامی طولانی‌مدت و عمدی مدل نیز حالا به‌طور صریح ممنوع شده است.
انتروپیک از مرداد امسال کلاود را طوری آموزش داده بود که در صورت مواجهه با تعاملات «به‌طور مداوم آسیب‌زا یا توهین‌آمیز»، مکالمه را متوقف کند؛ اما در قوانین جدید، کاربران صراحتاً از ادامه دادن چنین مکالماتی منع شده‌اند. البته این قانون قرار نیست شامل ناراحتی یا عصبانیت معمول کاربران، مخالفت با پاسخ‌های کلاود، موضوعات تاریک در آثار خلاقانه یا آزمایش و پژوهش روی مدل شود. انتروپیک تأکید کرده این محدودیت فقط در موارد افراطی اعمال می‌شود؛ یعنی زمانی که کاربر به‌طور مکرر و بدون هدف مشخص با مدل رفتار آزاردهنده و بی‌رحمانه داشته باشد.
در بخش دیگری از قوانین جدید، استفاده از کلاود برای اجرای کارزارهای فریبکارانه گسترده نیز ممنوع شده است؛ برای مثال ساخت حساب‌های جعلی یا راه‌اندازی رسانه‌های خبری جعلی. همچنین بخشی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» به‌طور مشخص استفاده از کلاود برای فریب رأی‌دهندگان یا ایجاد اختلال در انتخابات را ممنوع می‌کند. این تغییرات در حالی انجام شده که انتروپیک در ماه‌های اخیر با برخی پژوهشگران و چهره‌های برجسته مذهبی همکاری کرده و در بعضی موارد تلاش کرده آنها را متقاعد کند که کلاود ممکن است دارای آگاهی یا حتی روح باشد.