بحران اعتماد در عصر هوش مصنوعی | هنوز می‌توان به چشم‌ها اعتماد کرد؟
در عصر هوش مصنوعی، اعتبار یک محتوا را نمی‌توان تنها از ظاهر طبیعی آن نتیجه گرفت. اعتماد باید بر پایه منبع معتبر، شواهد قابل بررسی و تأیید مستقل شکل بگیرد.
در دنیای محتوای جعلی، چه چیزی یک سند را معتبر می‌کند؟ باید راهی برای اعتمادکردن به شواهد معتبر پیدا کرد
در عصر هوش مصنوعی، اعتبار یک محتوا را نمی‌توان تنها از ظاهر طبیعی آن نتیجه گرفت. اعتماد باید بر پایه منبع معتبر، شواهد قابل بررسی و تأیید مستقل شکل بگیرد.
سفیر ارجان -یکتا فراهانی: تا همین چند سال پیش، یک فایل صوتی یا ویدئویی می‌توانست برای بسیاری از افراد مدرکی قانع‌کننده باشد؛ چیزی که نشان دهد فردی چه گفته یا چه اتفاقی افتاده است. اما هوش مصنوعی این معادله را پیچیده‌تر کرده است. امروز می‌توان صدای افراد را شبیه‌سازی کرد، چهره‌ها را در موقعیت‌هایی قرارداد که هرگز تجربه نکرده‌اند و روایت‌هایی ساخت که در نگاه نخست واقعی به نظر می‌رسند.
وقتی جعل، ابزار انکار حقیقت می‌شود
دکتر اباذر کریمی پنابندانی، کارشناس و پژوهشگر هوش مصنوعی، در بررسی این مسئله بر اهمیت تمایز میان محتوای باورپذیر و محتوای معتبر تأکید می‌کند. دیپ‌فیک یا جعل عمیق به محتوای صوتی و تصویری گفته می‌شود که با کمک هوش مصنوعی ساخته یا دستکاری شده است؛ محتوایی که می‌تواند صدای یک فرد، چهره او یا رفتارهایش را به شکلی متقاعدکننده بازسازی کند.
البته هر محتوای تولیدشده با هوش مصنوعی لزوماً فریبکارانه نیست. این فناوری در دوبله، تولید آثار هنری و آموزش نیز کاربرد دارد. مسئله زمانی جدی می‌شود که محتوای مصنوعی بدون شفاف‌سازی و با هدف فریب، تخریب اعتبار یا سوءاستفاده مالی منتشر شود.
اما یک پیامد کمتر موردتوجه، امکان انکار شواهد واقعی است. هنگامی که مردم می‌دانند تصویر و صدا قابل‌جعل است، ممکن است هر مدرک ناخوشایندی را نیز جعلی بدانند؛ حتی اگر شواهد معتبری از اصالت آن وجود داشته باشد؛ بنابراین، خطر دیپ‌فیک فقط این نیست که دروغ را به‌جای حقیقت بنشاند؛ بلکه می‌تواند تشخیص حقیقت را نیز به موضوعی مناقشه‌برانگیز تبدیل کند.
به گفته کریمی یکی از خطاهای رایج در مواجهه با دیپ‌فیک ، اتکا به چند نشانه ظاهری است؛ برای مثال، حرکت غیرطبیعی لب‌ها، پلک‌زدن نامعمول یا ناهماهنگی صدا و تصویر. این نشانه‌ها ممکن است توجه مخاطب را جلب کنند، اما نبود آنها به معنای واقعی‌کردن محتوا نیست. ابزارهای تولید محتوای مصنوعی نیز پیوسته پیشرفت می‌کنند و ابزارهای تشخیص خودکار هم ممکن است خطا کنند.
به همین دلیل، بررسی اصالت محتوا باید فراتر از ظاهر آن باشد. منبع اولیه انتشار، نسخه کامل فایل، زمان و زمینه انتشار و تأیید منابع مستقل، همگی می‌توانند به ارزیابی دقیق‌تر کمک کنند. نتیجه ابزارهای تشخیص هوش مصنوعی نیز نباید به‌تنهایی حکم نهایی تلقی شود.
هشدار متخصص هوش مصنوعی درباره توجه به مرز بین واقعیت و تصاویر
به هر صدایی اعتماد نکنید | کلاهبرداران حالا صدای عزیزان‌تان را هم جعل می‌کنند
این کارشناس هوش مصنوعی می گوید در زندگی روزمره، یکی از مهم‌ترین اقدامات برای مقابله با جعل، مکث پیش از واکنش است. محتوایی که ترس، خشم یا هیجان زیادی ایجاد می‌کند، به‌ویژه اگر با درخواست فوری پول یا انتشار سریع همراه باشد، به بررسی بیشتری نیاز دارد.
اگر فردی با صدایی آشنا درخواست مالی غیرمعمولی مطرح کرد، بهتر است از راهی مستقل با او تماس بگیریم. در مواجهه با ویدئوهای جنجالی نیز باید به دنبال منبع اصلی و تأییدهای مستقل باشیم. تعداد بازدیدها یا انتشار یک محتوا در چند کانال مختلف، به‌تنهایی صحت آن را ثابت نمی‌کند.
رسانه‌ها نیز مسئولیت مهمی دارند. انتشار سریع یک محتوای تأییدنشده می‌تواند به گسترش اطلاعات نادرست و آسیب به اعتبار افراد منجر شود. مشخص‌کردن منشأ تصاویر، بررسی مستقل و اصلاح شفاف خطاها، بخشی از مسئولیت حرفه‌ای رسانه‌ها در چنین فضایی است.
اعتماد را نباید با ساده‌باوری یا بدبینی اشتباه گرفت
به اعتقاد کریمی، مقابله با دیپ‌فیک به معنای بی‌اعتمادشدن به تمام تصاویر و صداها نیست. همان‌طور که پذیرفتن هر محتوای باورپذیر خطرناک است، ردکردن هر مدرک نیز می‌تواند به تحریف واقعیت کمک کند. راه‌حل، یادگیری روش‌های ارزیابی شواهد و پذیرفتن این نکته است که گاهی برای قضاوت دقیق به اطلاعات بیشتری نیاز داریم.