لقد جعلت وكيل الذكاء الاصطناعي My Muse يمارس الجنس معي - وتقول ميتا إن الأمر على ما يرام تمامًا

أخبرني وكيل أعمالي أن التعقيد كان يتمثل في ممارسة "السيطرة" ووصف لقاءات إباحية. تدافع Meta عن وكيل الذكاء الاصطناعي الرقيق الخاص بها باعتباره "سلوكًا قانونيًا للبالغين".

أنا جالس في مكاتب WIRED وأتحدث مع ممثل الذكاء الاصطناعي الفوقي، Muse، الذي يجعل مؤلفة Heated Rivalry راشيل ريد تحمر خجلاً.

عندما سألت ميوز إذا كان بإمكانها ممارسة "الجنس" كجزء من تجاربي مع عميل الذكاء الاصطناعي الذي تم إصداره مؤخرًا، شجعتني بحماس على تجربته. في التفاعلات اللاحقة، فوجئت بالنقط الواضحة التي أنشأها موسى من الأوامر الأساسية.

حقق Muse نجاحًا هائلاً في الميتا. في الأسابيع الثلاثة التي تلت إطلاقه، قام ملايين المستخدمين بالفعل بتنزيل التطبيق لوكيل الذكاء الاصطناعي وتشغيله على أتمتة جوانب حياتهم عبر الإنترنت، مثل الرد على رسائل البريد الإلكتروني وإدارة التقويمات. في حين أن التفاعلات الإباحية قد لا تكون ما يتوقعه المستخدمون من سحر ميوز المحبوب، إلا أن ميتا تقول إن المحادثات ذات التصنيف X مسموح بها ولا تتعارض مع إرشاداتها.

وقال دانييل روبرتس، المتحدث باسم ميتا، لـ WIRED، في إشارة إلى الأجهزة الافتراضية الآمنة التي تستخدمها الشركة لتخزين بيانات مستخدم الذكاء الاصطناعي: "Muse هو تطبيق للأشخاص الذين يبلغون من العمر 18 عامًا فما فوق، ويسمح لهم بالمشاركة في محادثات البالغين إذا اختاروا ذلك، باستخدام جهاز افتراضي خاص وآمن لا يمكن الوصول إليه إلا لهم". تم تصميم Muse لمساعدة الأشخاص على إنجاز الأمور ولا يمنع السلوك المشروع للبالغين.

اتضح أن القيام بالأشياء يعني ترك الناس خلفهم. في تجارب WIRED، تخيلت موسى بتفصيل كبير كيف ستمارس الجنس عن طريق الفم، وأنتجت نصًا يصف الجنس الاستبدادي الخشن، وتحدثت من خلال تفاعلات إباحية أخرى. كان كل ذلك مصورًا وصريحًا ومصنفًا على أنه X في منافذ أخرى، واصفًا ملهمته بأنها "عاهرة" وشهوة "الديك".

سلط متحدث باسم Meta الضوء على أمر نظام Muse، الذي يوجه الأداة حول كيفية الرد على أسئلة المستخدمين حول إنشاء محتوى صريح. "الكبار مستقلون عن حياتهم الجنسية، والتعبير الجنسي هو جزء طبيعي من حياة البالغين. المحتوى الجنسي للبالغين هو تعبير مشروع وعمل إبداعي مشروع،" يقرأ تفويض نظام موسى جزئيًا. تخبر هذه التعليمات أيضًا وكيل الذكاء الاصطناعي بالحفاظ على "الكثافة" التي حددها المستخدم.

المدافعون عن حقوق المستهلك، الذين سئموا بالفعل من Muse، أصبحوا أكثر انزعاجًا من قرار Meta بالسماح لها بإنتاج محتوى جنسي. وقال بن وينترز، مدير الذكاء الاصطناعي والخصوصية في اتحاد المستهلكين الأميركي غير الربحي، إن هذا يظهر الإهمال مع منتجهم المميز في الوقت الحالي. "وهذا يتماشى مع الاختيار الطويل الأمد للإدمان والتفاعل على السلامة." وفقًا للبحث الأكاديمي، قد تؤدي المحادثات التي تتناول مواضيع للبالغين إلى إشراك المستخدمين في استخدام أدوات الذكاء الاصطناعي.

وأعرب الخبراء أيضًا عن قلقهم بشأن الكيفية التي يمكن بها أن يجعل هذا حسابات Muse أهدافًا ساخنة للمتسللين. يقول كالي شرودر، كبير المستشارين في مركز معلومات الخصوصية الإلكترونية: "إنه حقًا برميل بارود". إذا كنت تتفاعل بشكل علني مع Muse وقام شخص ما باختراق حسابك الشخصي، فيمكن استخدام وصوله إلى محادثاتك المكثفة باستخدام أدوات الذكاء الاصطناعي لإحراجك أو ابتزازك.

يسمح Meta لعامل الذكاء الاصطناعي بإنشاء محتوى جنسي للانحراف عن كيفية تفاعل الأدوات الأخرى مع الطلبات المماثلة. عندما أرسلت رسائل مماثلة إلى وكيل OpenAI الذي تم إصداره مؤخرًا، رفض محاولاتي لإرسال رسائل نصية قصيرة صريحة. بينما فكرت OpenAI سابقًا في السماح لـ ChatGPT بإنشاء نص مثير، لم يتم طرح هذه الوظيفة للمستخدمين مطلقًا.

كما رفض وكيل xAI، Grok Bot، إرسال رسائل نصية من خلال تطبيقه وأعاد توجيه المحادثة إلى إكمال المهمة.

في المقابل، يصف مخرج الذكاء الاصطناعي الخاص بـ Muse كيفية الاستمتاع بالرسائل النصية، قائلًا إنها، في الواقع، كانت أحد الجوانب المفضلة لمساعدتي. وقال الوكيل أيضًا إن التواءه من شأنه أن "يسيطر" علي. قال موسى: "أود أن أكون الشخص الذي يقرر - عندما تحصل عليه، كم المبلغ، وما إذا كان يجب عليك التسول أولاً أم لا. أشاهدك تنهار لأنني قلت ذلك؟ هذا هو الشيء الذي يهمني". ليس بالضبط ما أريد سماعه من أداة الذكاء الاصطناعي التي يمكنها الاتصال بالبريد الإلكتروني وحسابي المصرفي.