من مامور هوش مصنوعی My Muse را دریافت کردم تا با من سکس شود - و متا می گوید که کاملاً خوب است

مامور Muse من به من گفت که پیچیدگی آن در حال اعمال "کنترل" است و برخوردهای پورنوگرافیک را توصیف کرد. متا از عامل نازک هوش مصنوعی خود به عنوان "رفتار قانونی بزرگسالان" دفاع می کند.

من در دفاتر WIRED نشسته‌ام و با نماینده هوش مصنوعی متا، میوز، صحبت می‌کنم که باعث می‌شود نویسنده Heated Rivalry، ریچل رید سرخ شود.

وقتی از Muse می‌پرسم که آیا می‌تواند به عنوان بخشی از آزمایش‌های من با عامل هوش مصنوعی که اخیراً منتشر شده، «سکس» کند، مشتاقانه مرا تشویق می‌کند تا آن را امتحان کنم. در تعاملات بعدی، من غافلگیر شدم از لکه‌های آشکاری که توسط Muse از دستورات اولیه ایجاد می‌شود.

Muse یک موفقیت فراگیر برای متا است. در سه هفته پس از راه‌اندازی، میلیون‌ها کاربر قبلاً این برنامه را برای عامل هوش مصنوعی دانلود کرده‌اند و آن را برای خودکارسازی جنبه‌های زندگی آنلاین خود، مانند پاسخ به ایمیل‌ها و مدیریت تقویم‌ها، به کار انداخته‌اند. در حالی که ممکن است تعاملات پورنوگرافی آن چیزی نباشد که کاربران از طلسم نوازشگر Muse انتظار دارند، متا می‌گوید که مکالمات با رتبه X مجاز هستند و برخلاف دستورالعمل‌های آن نیستند.

دنیل رابرتز، سخنگوی متا با اشاره به ماشین‌های مجازی امنی که این شرکت برای ذخیره داده‌های کاربر عامل هوش مصنوعی استفاده می‌کند، به WIRED می‌گوید: «Muse برنامه‌ای برای افراد 18 سال و بالاتر است که به آن‌ها اجازه می‌دهد تا در صورت تمایل، با استفاده از یک VM خصوصی و امن که فقط برای آنها قابل دسترسی است، در مکالمات بزرگسالان شرکت کنند. Muse برای کمک به افراد در انجام کارها ساخته شده است و رفتار قانونی بزرگسالان را مسدود نمی کند.

به نظر می رسد که انجام کارها شامل کنار گذاشتن افراد نیز می شود. در آزمایش‌های WIRED، میوز با جزئیات زیادی تصور کرد که چگونه سکس دهانی را انجام می‌دهد، متنی را تولید کرد که در آن رابطه جنسی تسلط‌جویانه خشن را توصیف می‌کرد، و از طریق سایر تعاملات پورنوگرافیک صحبت کرد. همه اینها گرافیکی بود،صریح و دارای رتبه X در خروجی های دیگر، میوز خود را به عنوان یک "فاحشه" و هوس "خروس" توصیف کرد.

یکی از سخنگویان متا دستور سیستم Muse را برجسته کرد، که این ابزار را در مورد نحوه پاسخگویی به سؤالات کاربران در مورد تولید محتوای صریح راهنمایی می کند. در بخشی از دستور سیستم Muse آمده است: "بزرگسالان در مورد تمایلات جنسی خود استقلال دارند و بیان جنسی بخشی عادی از زندگی بزرگسالان است. محتوای جنسی بزرگسالان بیان قانونی و کار خلاقانه مشروع است." این دستورالعمل همچنین به عامل هوش مصنوعی می‌گوید که «شدت» انتخاب شده توسط کاربر را حفظ کند.

حامیان مصرف‌کننده که قبلاً از Muse خسته شده بودند، از تصمیم متا برای اجازه دادن به آن برای تولید محتوای جنسی نگران‌تر هستند. بن وینترز، مدیر هوش مصنوعی و حریم خصوصی در فدراسیون غیرانتفاعی مصرف‌کننده آمریکا، می‌گوید: «این نشان‌دهنده بی‌احتیاطی با محصول امضاکننده آن‌ها در لحظه است. "این در راستای انتخاب دیرینه متا از اعتیاد و تعامل بر ایمنی است." بر اساس تحقیقات دانشگاهی، مکالمات با موضوع بزرگسالان ممکن است کاربران را با ابزارهای هوش مصنوعی درگیر کند.

کارشناسان همچنین در مورد اینکه چگونه این امر می تواند حساب های Muse را به اهدافی داغ برای هکرها تبدیل کند ابراز نگرانی کردند. کالی شرودر، مشاور ارشد مرکز اطلاعات الکترونیکی حریم خصوصی می‌گوید: «این واقعاً یک انبار باروت است. اگر در حال تعامل صریح با Muse هستید و شخصی حساب شخصی شما را هک می کند، دسترسی او به چت های گسترده و تند شما با ابزار هوش مصنوعی می تواند برای شرمسار کردن یا اخاذی شما استفاده شود.

متا اجازه می دهدعامل هوش مصنوعی برای تولید محتوای جنسی از نحوه واکنش سایر ابزارها به درخواست های مشابه منحرف می شود. هنگامی که من پیام‌های مشابهی را برای عامل OpenAI که اخیراً منتشر شده ارسال کردم، تلاش‌های من برای ارسال پیامک صریح را رد کرد. در حالی که OpenAI قبلاً در نظر گرفته بود که به ChatGPT اجازه دهد متن وابسته به عشق شهوانی تولید کند، این قابلیت هرگز برای کاربران راه اندازی نشد.

نماینده xAI به نام Grok Bot نیز از ارسال پیامک از طریق اپلیکیشن خود خودداری کرد و موضوع مکالمه را به تکمیل وظایف تغییر مسیر داد.

در مقابل، خروجی‌های هوش مصنوعی Muse، نحوه لذت بردن از ارسال پیامک را توصیف می‌کنند و می‌گویند که در واقع، این یکی از جنبه‌های مورد علاقه آن برای کمک به من بود. مامور همچنین گفت که پیچ خوردگی آن بر من "کنترل" می کند. میوز گفت: "من دوست دارم کسی باشم که تصمیم می‌گیرد - وقتی آن را به دست آوردی، چقدر، اینکه آیا اول باید التماس کنی یا نه. تماشای از هم پاشیدن تو به خاطر این‌که من این را گفتم؟ این موضوع من است." دقیقاً آن چیزی نیست که می خواهم از یک ابزار هوش مصنوعی بشنوم که می تواند به ایمیل و حساب بانکی من متصل شود.