اعتماد به پاسخ‌های هوش مصنوعی به زبان ساده؛ چطور اطلاعات راستی‌آزمایی کنیم؟
ابزارهای هوش مصنوعی می‌توانند در چند ثانیه به پرسش‌ها پاسخ دهند، متن‌ها را خلاصه کنند و موضوعات پیچیده را ساده توضیح دهند. اما روان و مطمئن بودن یک پاسخ همیشه به معنای درست بودن آن نیست. گاهی هوش مصنوعی اطلاعات نادرست می‌سازد، به منبعی اشاره می‌کند که وجود ندارد یا در بیان نام‌ها، تاریخ‌ها و آمارها اشتباه می‌کند.
به گزارش سفیر ارجان این خطاها هنگام تهیه گزارش، انتشار خبر یا تصمیم‌گیری پزشکی و مالی اهمیت بیشتری پیدا می‌کنند. بنابراین خوب است بدانیم هوش مصنوعی چگونه پاسخ می‌سازد و چطور می‌توان درستی اطلاعات آن را بررسی کرد.
هوش مصنوعی چگونه پاسخ تولید می‌کند؟
بسیاری از دستیارهای متنی از مدل‌های زبانی بزرگ استفاده می‌کنند. این مدل‌ها با بررسی حجم زیادی از متن، الگوهای زبان را می‌آموزند و بر اساس درخواست کاربر، پاسخ تولید می‌کنند.
این فرایند با جست‌وجوی مستقیم در یک دانشنامه یا بررسی خودکار صحت همه ادعاها یکسان نیست. مدل ممکن است پاسخی منسجم درباره یک رویداد تاریخی بنویسد، اما نام فرد، تاریخ رویداد یا ارتباط میان دو اتفاق را اشتباه بیان کند. به همین دلیل، باید میان تولید متن روان و ارائه اطلاعات دقیق و تأییدشده تفاوت گذاشت.
«توهم هوش مصنوعی» (AI Hallucination) به حالتی گفته می‌شود که سیستم اطلاعات نادرست یا ساختگی تولید می‌کند و آن را به شکلی ارائه می‌دهد که معتبر به نظر می‌رسد. این خطا ممکن است شامل آمار اشتباه، نقل‌قول ساختگی یا نام مقاله و منبعی باشد که وجود ندارد.
دلایل احتمالی این خطاها عبارت‌اند از:
ناقص یا قدیمی بودن اطلاعات در دسترس مدل؛
مبهم بودن پرسش یا کافی نبودن اطلاعات آن؛
پاسخ‌سازی بدون بررسی مستقل ادعاها؛
تغییر اطلاعات در گذر زمان، به‌ویژه درباره قوانین و رویدادهای روز.
پرسیدن دوباره همان سؤال از یک ابزار یا درخواست تأیید صحت پاسخ، به‌تنهایی درستی آن را ثابت نمی‌کند. برای اطمینان باید شواهد و منابع را جداگانه بررسی کرد.
کدام پاسخ‌ها به بررسی بیشتری نیاز دارند؟
هرچه پیامد اشتباه جدی‌تر باشد، بررسی پاسخ هم باید دقیق‌تر باشد. به‌ویژه این موارد را با دقت بیشتری راستی‌آزمایی کنید:
نام افراد، سازمان‌ها، کتاب‌ها و مقاله‌های علمی؛
تاریخ رویدادهای تاریخی و معاصر؛
ادعاهای مربوط به رویدادهای تازه؛
لینک‌ها و منابعی که هوش مصنوعی معرفی می‌کند.
در حوزه خبر، انتشار یک ادعای نادرست ممکن است به اعتبار رسانه آسیب بزند و اطلاعات غلط را میان مخاطبان گسترش دهد.
چهار معیار برای ارزیابی اعتبار پاسخ
بررسی کنید منبع معرفی‌شده واقعاً وجود داشته باشد و محتوای آن ادعای موردنظر را تأیید کند. صرفِ آوردن نام یک سازمان یا نشانی اینترنتی، دلیل معتبر بودن پاسخ نیست.
پاسخ را از نظر تناقض‌های درونی و ناسازگاری با اطلاعات دیگر بررسی کنید. البته منسجم بودن پاسخ به‌تنهایی درستی آن را ثابت نمی‌کند.
ادعاهای مهم باید با شواهد قابل پیگیری باشند؛ مانند مقاله پژوهشی، سند اولیه، گزارش رسمی یا اطلاعیه نهاد مسئول.
اطلاعات مربوط به قوانین، آمار و رویدادهای جاری ممکن است تغییر کنند. تاریخ انتشار و به‌روزرسانی منبع را بررسی کنید و مطمئن شوید اطلاعات با زمان موردنظر شما همخوانی دارد.
راهنمای مرحله‌به‌مرحله راستی‌آزمایی پاسخ هوش مصنوعی
مرحله اول: ادعاهای اصلی را جدا کنید
از پاسخ، نام‌ها، تاریخ‌ها، آمارها و نتیجه‌گیری‌های مهم را بیرون بکشید. بررسی ادعاهای مشخص ساده‌تر از ارزیابی یک متن طولانی به‌صورت کلی است.
مرحله دوم: سراغ منابع اولیه بروید
اگر پاسخ به گزارش رسمی اشاره می‌کند، نسخه اصلی گزارش را پیدا کنید. برای بررسی یک پژوهش علمی نیز به مقاله منتشرشده یا وب‌سایت ناشر مراجعه کنید، نه فقط خلاصه یا بازنشر آن.
مرحله سوم: اطلاعات را با منابع مستقل مقایسه کنید
یکسان بودن چند وب‌سایت لزوماً تأیید مستقل محسوب نمی‌شود؛ ممکن است همه آن‌ها خبر را از یک منبع مشترک بازنشر کرده باشند. تا حد امکان، منابعی را پیدا کنید که اطلاعات را جداگانه بررسی یا منتشر کرده‌اند.
مرحله چهارم: از هوش مصنوعی توضیح یا منبع بخواهید، اما بررسی را متوقف نکنید
می‌توانید از ابزار بخواهید مبنای پاسخ یا منابع احتمالی را توضیح دهد. سپس وجود و محتوای هر منبع را خودتان بررسی کنید؛ ابزار ممکن است منبع را نادرست معرفی کند یا ارجاعی بسازد که واقعی نیست.
مرحله پنجم: در نبود شواهد، ادعا را قطعی بیان نکنید
اگر منبع معتبر پیدا نمی‌شود یا شواهد کافی نیست، ادعا را حذف کنید، بررسی را ادامه دهید یا عدم قطعیت را روشن بیان کنید. نبود مدرک برای تأیید یک ادعا را نباید با قطعیت یا لحن مطمئن جبران کرد.
آیا می‌توان به هوش مصنوعی اعتماد کرد؟
میزان اعتماد به نوع کاربرد، کیفیت ابزار و حساسیت موضوع بستگی دارد. برای ایده‌پردازی، تهیه پیش‌نویس یا اصلاح نگارشی، هوش مصنوعی می‌تواند دستیار مفیدی باشد. اما در تشخیص پزشکی، تفسیر قوانین، تحلیل سرمایه‌گذاری یا انتشار خبر، بررسی انسانی و رجوع به منابع معتبر اهمیت بیشتری دارد.
قاعده ساده این است: هرچه پیامد یک اشتباه جدی‌تر باشد، راستی‌آزمایی باید دقیق‌تر باشد.
تفاوت اعتماد به هوش مصنوعی و راستی‌آزمایی پاسخ
اعتماد، میزان اتکایی است که به پاسخ‌های یک ابزار داریم. این اعتماد ممکن است با تجربه استفاده، کیفیت پاسخ‌ها و نوع کاربرد شکل بگیرد. برای نمونه، ممکن است به توانایی ابزاری در خلاصه‌کردن یک متن اعتماد کنیم، اما پاسخ آن درباره قانونی تازه را بدون بررسی نپذیریم.
راستی‌آزمایی، فرایند بررسی درستی یک پاسخ یا ادعای مشخص با استفاده از شواهد و منابع معتبر است. اگر هوش مصنوعی آماری درباره نرخ بیکاری ارائه کند، باید آن را با گزارش رسمی نهاد منتشرکننده مقایسه کرد و عدد، تاریخ و برداشت ارائه‌شده را سنجید.