هیچ کس از دستکاری های عمیق هوش مصنوعی افراد مشهور در امان نیست

در گذشته، پست در اینستاگرام باید پرچم‌های قرمز بیشتری را برافراشته می‌کرد. این تصویر ظاهراً نشان می‌دهد که میا گوث، بازیگر زن، تنها چند روز پس از درخواست طلاق از بازیگر و فیلم‌ساز شیا لابوف، در حال عکس گرفتن در تی‌شرتی با این پیام: سابق من بزرگترین طرفدار من است. برای اینکه واقعاً موضوع را به خانه برسانیم، آهنگ "Single […]

در گذشته، پست در اینستاگرام باید پرچم‌های قرمز بیشتری را برافراشته می‌کرد. این تصویر ظاهراً نشان می‌دهد که میا گوث، بازیگر زن، تنها چند روز پس از درخواست طلاق از بازیگر و فیلم‌ساز شیا لابوف، در حال عکس گرفتن در تی‌شرتی با این پیام: سابق من بزرگترین طرفدار من است. برای اینکه واقعاً به این موضوع توجه شود، آهنگ "خانم‌های مجرد (انگلیسی در آن قرار دهید)" از بیانسه به این پست اضافه شد.

برای ستاره مروارید، که در شبکه های اجتماعی چندان حضور ندارد، شخصیتی غیرممکن بود. اما اکانت اینستاگرامی که آن را پست کرد، @miagoth_، بیش از یک میلیون دنبال کننده داشت و با علامت آبی "تأیید شده" مشخص شده بود. در عرض چند روز، این تصویر نزدیک به 500000 لایک از جمله همتایان در صنعت سرگرمی را به خود اختصاص داد، علیرغم اینکه صفحه به عنوان حساب طرفداران برچسب خورده بود.

همانطور که The Verge گزارش داد، این تصویر توسط هوش مصنوعی ساخته شده است و توسط یک حساب کاربری ارسال شده است که نماینده Goth گفته است که قبلاً به دلیل ارسال "تصاویر تقلبی و هوش مصنوعی" از Goth به اینستاگرام شکایت کرده اند. متا به کاربران این امکان را می دهد که چک مارک های آبی رنگ "تأیید شده" را خریداری کنند، حتی اگر حساب توسط یک چهره برجسته اجرا نشود یا یک صفحه رسمی نباشد.

کریستین تریپیکیو، نماینده Goth در ایمیلی به The Verge گفت: «این واقعیت که این حساب طرفداران معیارهای اینستاگرام را برای واجد شرایط بودن برای «چک آبی» برآورده می‌کند، در سطح بنیادی نگران‌کننده است. فراتر از آن، غیرقابل درک است که اینستاگرام آشکارا انتشار تصاویر جعلی و دستکاری شده را بر حفاظت و یکپارچگی یک شخصیت عمومی اولویت دهد.شباهت.»

به دلیل خبر طلاق او، این پست در رسانه های شایعه سازی مشهور منتشر شد و این پوشش به نوبه خود این پست را از طریق جستجوی گوگل منتشر کرد. جستجوها برای یافتن بازیگر زن و پیراهن باعث شد تا یک مرور کلی ایجاد شده توسط هوش مصنوعی ایجاد شود که گوث به نوبه خود با استناد به وبلاگ‌های فوق‌الذکر، «یک تند تند تند تند به شیعه لبوف سابق خود، شیا لابوف، پس از پرونده طلاق اخیرشان را انجام می‌داد». بخشی در نتایج جستجوی گوگل با عنوان "Mia Goth با پوشیدن یک تی شرت گستاخانه "قبلی من بزرگترین طرفدار من است" سر در اینستاگرام را برمیگرداند" به همراه پیوندهایی به پست های رسانه های اجتماعی که در مورد این تصویر بحث می کنند به طور برجسته نشان داده شده است. اینستاگرام در نهایت این حساب کاربری را به دلیل جعل هویت یک شخصیت عمومی حذف کرد.

از زمانی که چندین سال پیش ابزارهای هوش مصنوعی مولد مصرف کننده در دسترس قرار گرفتند، برخی از موارد استفاده به یاد ماندنی - و بحث برانگیز - شامل افراد مشهور شده است. سوژه های انسانی مورد بحث از لحاظ تاریخی به شبیه سازی دیجیتالی و استفاده به عنوان اسباب بازی واکنش خوبی نشان نداده اند: آهنگی شبیه صدای Drake که توسط هوش مصنوعی تولید شده بود به دنبال اعتصابات حق نسخه برداری از YouTube پاک شد. اسکارلت جوهانسون پس از اینکه OpenAI صدایی را برای ChatGPT منتشر کرد که بدون رضایت او شبیه او بود، یک تیم حقوقی استخدام کرد. گفته می‌شود که آریانا گرانده حسابی را مسدود کرده است که محتوای تولید شده توسط هوش مصنوعی سال گذشته خود را ارسال می‌کرد. تیلور سوئیفت به طور علنی از کامالا هریس برای ریاست جمهوری در سال 2024 حمایت کرد و گفت که پس از انتشار تصاویر جعلی دونالد ترامپ که نشان می دهد او از او حمایت می کند، او را برای روشن کردن موضع خود تشویق کرد.

لحظه ای بود که همه، حتیثروتمند و مشهور، با هنجارهای پیرامون یک فناوری جدید دست و پنجه نرم می کرد. اکنون، سطح محتوای آنلاین هوش مصنوعی در حال افزایش است – و مشخص نیست که آیا کسی تلاش می‌کند یا قادر به توقف آن است.

محتوای هوش مصنوعی که چهره های عمومی زن را به تصویر می کشد اغلب آشکارا جنسی است. نمایه ای که به طور انحصاری تصاویر جوهانسون تولید شده توسط هوش مصنوعی را منتشر می کند - اغلب با پاهای برهنه به طور برجسته نشان داده می شود - شامل اطلاعات تماس است تا شرکت ها بتوانند در حساب خود تبلیغ کنند، همراه با پیوندهایی به کانال های Patreon و تلگرام که اشتراک می فروشند. محتوای خارج از پلتفرم از نام جوهانسون و تصویر (AI) برای تبلیغ محتوای بزرگسالان استفاده کرد. حساب دیگری تصاویر واقعی ساخته شده توسط هوش مصنوعی از بازیگران و نوازندگانی مانند میلی بابی براون، زندایا و گرانده را منتشر می‌کند که همیشه لباس‌های نیمه برهنه یا در موقعیت‌های جنسی دارند. برخی از حساب‌ها جایگاه خاص خود را دارند، مانند «بازیگران چیزهای عجیب و غریب که با یکدیگر ازدواج می‌کنند».

پس از اینکه The Verge از متا در مورد هشت حساب که محتوای دیپ‌فیک افراد مشهور را ارسال می‌کردند، پرسید، سخنگوی الکس دزیدزان گفت که این شرکت برخی از حساب‌ها را حذف کرده است. به نظر می رسد دو تا از آنها - یکی گوت و دیگری جوهانسون - حذف شده اند.

Dziedzan در ایمیلی گفت: «ما به حساب‌ها اجازه نمی‌دهیم از شباهت شخصی برای ظاهر شدن به عنوان آن فرد استفاده کنند، صرف نظر از اینکه محتوا معتبر است یا توسط هوش مصنوعی تولید شده است.

تیلور سوئیفت یک نوشیدنی در دست دارد، در کنار آهنگ «Burning Bridges» دریک رپ می‌زند، هجوم می‌آورد و همه چیز. او با پوشیدن لباسی از VMAهای سرنوشت‌ساز 2009 می‌خواند: «من از [Quaalude] خارج می‌شوم/بدنم را گزگز می‌کند».لحظه واضح است که ویدیو هوش مصنوعی است. 1.8 میلیون بازدید در اینستاگرام دارد.

شخصی در این مورد نظر داد: «فکر نمی‌کنم تیم روابط عمومی او دوست داشته باشند که او کلمه N را بگوید.

اینستاگرام پر از ویدئوهایی از این دست است که اغلب به شکل غیرقابل توضیحی از فرمت های بسیار خاصی پیروی می کنند. کلیپی از AI Shrek که همان کاری را انجام می دهد که AI Swift انجام می دهد 3.1 میلیون بازدید دارد. اینجا استیو جابز است که با یک بطری شامپاین در دست (371000 بازدید) آهنگ متفاوتی از دریک را دنبال می کند. همچنین یک نسخه مشابه لیونل مسی (2.1 میلیون بازدید) توسط حساب دیگری ارسال شده است. در اینجا رانندگان فرمول 1 لوئیس همیلتون و مکس ورشتاپن در حال همگام سازی با "APT" توسط برونو مارس و رزه (2.9 میلیون بازدید) هستند. یک کلیپ دیگر عروسی هوش مصنوعی سوئیفت با هوش مصنوعی تراویس کلسه را در AI Madison Square Garden نشان می دهد.

یکی از طرفداران با کمک حقیقت بررسی کرد: «آی او لباس پوشیدنی سفید پوشیده بود».

در غیاب قوانین ملی حق تبلیغات، محتوای تولید شده توسط هوش مصنوعی که افراد واقعی را نشان می دهد در سطح پلتفرم مورد اعتراض قرار می گیرد. (قانون برداشتن آن در ایالات متحده، که در سال 2025 به تصویب رسید، به طور خاص توزیع تصاویر محرمانه غیر توافقی، از جمله محتوای تولید شده توسط هوش مصنوعی را جرم می‌داند و پلتفرم‌ها را مجبور می‌کند ظرف 48 ساعت آن را حذف کنند.)

یوتیوب دارای تشخیص شباهت است، شاید قوی ترین سیستم نظارت و حذف دیپ فیک باشد. تحت این برنامه، یوتیوب پلتفرم خود را برای تطابق تصویری برای یک شخص - و اخیراً مشابه صداها - اسکن می‌کند و به آنها اجازه می‌دهد تا درخواست حذف محتوا را داشته باشند.هر درخواست حذف پذیرفته نمی شود. این شرکت می‌گوید که منافع عمومی، ارزش خبری و رضایت را در ارزیابی حذف‌ها در نظر می‌گیرد. این برنامه در ابتدا برای افراد عمومی مانند افراد مشهور، سازندگان محتوا، سیاستمداران و روزنامه نگاران باز بود، اما اکنون هر بزرگسالی را با یک حساب YouTube پوشش می دهد. در گذشته، این شرکت گفته بود که تعداد درخواست‌های حذف دریافتی نسبتاً کم است. امجد حنیف، معاون محصولات سازندگان، در یک نشست مطبوعاتی در ماه مارس گفت که سازندگان می‌خواهند از آنچه در یوتیوب از آنها پست شده است آگاه باشند، اما اغلب به "بسیار خوش‌خیم یا افزودنی برای کسب و کار کلی آنها" می‌رسد.

جک مالون، سخنگوی یوتیوب، در ایمیلی به The Verge اشاره کرد که تشخیص شباهت این شرکت با همکاری صنعت سرگرمی توسعه یافته است. مالون گفت که در نیمه اول سال 2026، یوتیوب بیش از 95 درصد از ویدیوهایی را که از طریق این برنامه گزارش شده بودند را برای حذف حذف کرد.

محتوای تولید شده توسط هوش مصنوعی در پلتفرم های متا اغلب دارای برچسب هایی است که آن را به این شکل مشخص می کند. برخی از محتواها، مانند ویدیوهای واقعی افراد یا صدای صداهای تولید شده توسط هوش مصنوعی، باید دارای برچسب هوش مصنوعی باشند. از سوی دیگر، تصاویر ثابت از الزام برچسب‌گذاری مستثنی هستند - به این معنی که تصویر جعلی Mia Goth طبق قوانین متا نیازی به افشا ندارد. این شرکت همچنین برچسب‌های "نمایه تولید شده توسط هوش مصنوعی" را معرفی کرد که برای کل حساب کاربری که در آن آواتار به تصویر کشیده شده در دنیای واقعی پس از هجوم اینفلوئنسرهای هوش مصنوعی وجود ندارد اعمال می‌شود.انواع سکو را آب گرفت.

اما یک صنعت کلبه از حساب‌های کاربری وجود دارد که تصاویری از افراد واقعی ایجاد شده توسط هوش مصنوعی را منتشر می‌کند که به نظر می‌رسد الگوریتم آن را دوست دارد. برخی از محتواها آشکارا شرورانه نیستند، فقط به نوعی عجیب هستند: یک ژانر در فیس بوک وجود دارد، به عنوان مثال، ویدیوهای اولین فیلم تولید شده توسط هوش مصنوعی که در آن بازیگران اصلی (با لباس) روی فرش قرمز در کنار بازیگران برای نسخه بازسازی شده راه می روند. یک نمایه دوره های آنلاین ماهانه 29 دلاری را در مورد نحوه کسب درآمد از طریق محتوای هوش مصنوعی تبلیغ می کند.

محتوای افراد مشهور تولید شده توسط هوش مصنوعی همچنین این ظرفیت را دارد که واقعاً مردم را فریب دهد تا فکر کنند واقعی است، مانند تصویر (و حساب) که گوت را به تصویر می‌کشد. پست خاصی که در فضای مجازی منتشر شد نشان می‌دهد که این بازیگر در حال تمسخر لابوف است که توسط شریک سابق دیگری متهم به آزار و اذیت شده است و در سال 2015 فیلم‌برداری شده است و می‌گوید اگر به بحث کردن با او ادامه می‌داد، «اگر [گوت] را می‌کشت». تصویر جعلی جلب توجه، مبهم و به موقع بود - به عبارت دیگر، برای ویروسی شدن رسانه های اجتماعی عالی بود اما مسئولیتی بالقوه برای طرفین درگیر بود. این حادثه نشان دهنده عدم موفقیت در مقررات ایمنی و اعتماد است که قرار است از این نوع سردرگمی محافظت کند.

در رسانه‌های اجتماعی، محتوای هوش مصنوعی آزادانه با بازپست‌های استاندارد تصاویر واقعی ترکیب می‌شود. و حتی زمانی که یک صفحه حذف می‌شود، صفحه‌های دیگری وجود دارند که به انتشار محتوا ادامه می‌دهند: یک حساب کاربری دیگر در اینستاگرام - هنوز زنده - با بیش از 300000 دنبال کننده، جریان ثابتی از عکس‌ها و ویدیوهای یوهانسون را منتشر می‌کند که به نظر می‌رسدترکیبی از تصاویر معتبر و محتوای تولید شده توسط هوش مصنوعی. یکی از محبوب ترین پست های آن چیزی است که به نظر می رسد یک تصویر هوش مصنوعی از جوهانسون با نزدیک به نیم میلیون لایک باشد. هیچ افشای هوش مصنوعی، مطابق با قوانین متا وجود ندارد. جوهانسون دیپ فیک روی یک کاناپه دراز کشیده و پاهای برهنه به طور برجسته نشان داده شده است. بدیهی است که او نیست - اما طرفداران او در نظرات یا نمی دانند یا برایشان مهم نیست.