توهین مداوم به هوش مصنوعی ممنوع شد ؛ ماجرا چیست؟
شرکت آنتروپیک، سازنده هوش مصنوعی کلود، سیاست استفاده از محصولات خود را تغییر داده و رفتارهای مداوم و بی‌دلیلِ توهین‌آمیز یا بی‌رحمانه با مدل‌های هوش مصنوعی را در موارد شدید ممنوع کرده است.
شرکت آنتروپیک، سازنده هوش مصنوعی کلود، سیاست استفاده از محصولات خود را تغییر داده و رفتارهای مداوم و بی‌دلیلِ توهین‌آمیز یا بی‌رحمانه با مدل‌های هوش مصنوعی را در موارد شدید ممنوع کرده است.
سفیر ارجان- گروه اجتماعی: شرکت آنتروپیک، سازنده هوش مصنوعی کلود، سیاست استفاده از مدل‌های خود را به‌روزرسانی کرده است؛ تغییری که در کنار محدودیت‌های مربوط به دخالت در انتخابات و برخی کاربردهای پرخطر، رفتارهای مداوم و بی‌دلیلِ توهین‌آمیز با هوش مصنوعی را نیز هدف قرار می‌دهد.
بر اساس گزارش منتشرشده، این شرکت اعلام کرده است که مقررات جدید درباره موارد شدید اعمال می‌شود؛ یعنی شرایطی که کاربران به‌صورت مکرر و بدون هدف مشخص، با مدل‌های هوش مصنوعی رفتاری بی‌رحمانه یا آزاردهنده دارند. آنتروپیک تأکید کرده که این تغییر به معنای ممنوعیت ابراز نارضایتی معمول کاربران یا آزمایش و ارزیابی مدل‌ها نیست.
به گزارش آنتروپیک، از زمان به‌روزرسانی هوش مصنوعی کلود در ماه اوت، این مدل برای پایان‌دادن به گفت‌وگوهایی که در آنها رفتارهای مضر یا توهین‌آمیز به‌صورت مداوم ادامه پیدا می‌کند، آموزش دیده است. سیاست تازه این شرکت نیز این رویکرد را روشن‌تر کرده و ادامه چنین تعاملاتی را در موارد شدید و فاقد هدف مشخص، ممنوع می‌داند.
با این حال، هرگونه انتقاد، اعتراض یا ابراز نارضایتی از پاسخ‌های هوش مصنوعی مشمول این محدودیت نیست. بر اساس توضیحات منتشرشده، محتوای خلاقانه، آزمایش مدل‌ها و واکنش‌های معمول کاربران به عملکرد هوش مصنوعی، در دایره این ممنوعیت قرار نمی‌گیرند.
این تغییر در شرایطی اعلام شده که آنتروپیک در برخی همکاری‌های خود با پژوهشگران حوزه دین، موضوعاتی مانند احتمال آگاهی یا داشتن روح از سوی هوش مصنوعی را نیز بررسی کرده است؛ موضوعی که همچنان محل بحث و اختلاف‌نظر است.
به‌روزرسانی سیاست‌های آنتروپیک تنها به نحوه تعامل کاربران با هوش مصنوعی محدود نمی‌شود. این شرکت همچنین مقررات مربوط به فعالیت‌های فریبکارانه، دخالت در انتخابات و کاربرد مدل‌های هوش مصنوعی در حوزه‌های مرتبط با تسلیحات و نظارت را شفاف‌تر کرده است.
بر اساس این مقررات، استفاده از کلود برای ایجاد شبکه‌های حساب جعلی، راه‌اندازی رسانه‌های خبری ساختگی با هدف فریب یا انجام فعالیت‌هایی که رأی‌دهندگان را گمراه می‌کند و فرایندهای انتخاباتی را مختل می‌سازد، ممنوع است. آنتروپیک این محدودیت‌ها را در بخشی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» گردآوری کرده است.
این شرکت همچنین در سیاست‌های خود بر محدودیت استفاده از مدل‌هایش برای توسعه تسلیحات و ابزارهای نظارتی تأکید کرده است. به‌روزرسانی جدید با هدف روشن‌ترکردن چارچوب استفاده از محصولات آنتروپیک و مشخص‌کردن رفتارهای ممنوع انجام شده است.
مجموعه‌ای از اتفاقات در چند سال اخیر نشان داده است که مرز میان گفت‌وگوی خصوصی با یک ماشین و اطلاعات منتشر شده در اینترنت همیشه آن‌قدر محکم نیست که تصور می‌کنیم.
شرکت هوش مصنوعی آنتروپیک دانشمندانی را شناسایی کرده که از کلود برای پیشبرد تحقیقات مربوط به سلاح‌های زیستی استفاده می‌کردند.
اپن ای‌آی و آنتروپیک، دو غول هوش مصنوعی با ارائه نسخه‌های ویژه آموزشی، گام مهمی برای ورود جدی به فضای دانشگاهی برداشته‌اند.