اعتماد بر پاسخ‌های هوش مصنوعی به زبان ساده؛ چگونه اطلاعات را راستی‌آزمایی کنیم؟
ابزارهای هوش مصنوعی می‌توانند در چند ثانیه به پرسش‌ها پاسخ دهند، متن‌ها را خلاصه کنند و موضوعات پیچیده را ساده توضیح دهند. اما روان و مطمئن بودن یک پاسخ همیشه به معنای درست بودن آن نیست. گاهی هوش مصنوعی اطلاعات نادرست می‌سازد، به منبعی اشاره می‌کند که وجود ندارد یا در بیان نام‌ها، تاریخ‌ها و آمارها اشتباه می‌کند.
وبحسب السفير أرجان، فإن هذه الأخطاء تصبح أكثر أهمية عند إعداد التقارير أو نشر الأخبار أو اتخاذ القرارات الطبية والمالية. لذلك، من الجيد معرفة كيف يقوم الذكاء الاصطناعي بتقديم الإجابات وكيفية التحقق من صحة معلوماته.
كيف يولد الذكاء الاصطناعي الإجابات؟
يستخدم العديد من مساعدي النصوص نماذج لغوية كبيرة. تتعلم هذه النماذج أنماط اللغة من خلال فحص كميات كبيرة من النص وإنشاء استجابات بناءً على طلبات المستخدم.
هذه العملية ليست مثل البحث المباشر في الموسوعة أو التحقق تلقائيًا من دقة جميع المطالبات. قد يكتب النموذج إجابة متماسكة حول حدث تاريخي، لكنه يخطئ في كتابة اسم الشخص، أو تاريخ الحدث، أو العلاقة بين الحدثين. ولهذا السبب، لا بد من التمييز بين إنتاج نص بطلاقة وتقديم معلومات دقيقة ومتحقق منها.
"هلوسة الذكاء الاصطناعي" هي حالة يقوم فيها النظام بإنشاء معلومات كاذبة أو وهمية وتقديمها في شكل يبدو صحيحا. قد يتضمن هذا الخطأ إحصائيات غير صحيحة، أو استشهادات زائفة، أو أسماء مقالات ومصادر مفقودة.
الأسباب المحتملة لهذه الأخطاء هي:
المعلومات غير الكاملة أو القديمة المتوفرة في النموذج؛
غموض السؤال أو نقص المعلومات؛
الاستجابة دون مراجعة مستقلة للمطالبات؛
تغير المعلومات بمرور الوقت، خاصة فيما يتعلق بالقوانين والأحداث اليومية.
إن طرح نفس السؤال على الأداة مرة أخرى أو طلب تأكيد الإجابة لا يثبت في حد ذاته صحتها. وللتأكد من ذلك، ينبغي التحقق من الأدلة والمصادر بشكل منفصل.
ما هي الإجابات التي تحتاج إلى مزيد من التحقيق؟
كلما كانت عواقب الخطأ أكثر خطورة، كلما كانت الإجابة أكثر دقة. وعلى وجه الخصوص، تحقق مما يلي:
أسماء الأشخاص والمنظمات والكتب والمقالات العلمية؛
تاريخ الأحداث التاريخية والمعاصرة؛
المطالبات المتعلقة بالأحداث الجديدة؛
الروابط والموارد التي يقدمها الذكاء الاصطناعي.
وفي مجال الأخبار، قد يؤدي نشر ادعاء كاذب إلى الإضرار بمصداقية وسائل الإعلام ونشر معلومات مغلوطة بين الجمهور.
أربعة معايير لتقييم صلاحية الاستجابة
تأكد من أن المصدر المشار إليه موجود بالفعل وأن محتواه يدعم المطالبة المقصودة. مجرد ذكر اسم المنظمة أو عنوان الويب لا يجعل الإجابة صحيحة.
تحقق من الإجابة عن التناقضات الداخلية والتناقضات مع المعلومات الأخرى. وبطبيعة الحال، فإن تماسك الإجابة وحده لا يثبت صحتها.
يجب أن تكون الادعاءات المهمة قابلة للتتبع بالأدلة؛ مثل ورقة بحثية أو وثيقة أولية أو تقرير رسمي أو إخطار الجهة المسؤولة.
المعلومات المتعلقة بالقوانين والإحصاءات والأحداث الجارية عرضة للتغيير. تأكد من تاريخ النشر والتحديث للمصدر وتأكد من مطابقة المعلومات للوقت الذي تبحث عنه.
دليل خطوة بخطوة للتحقق من إجابة الذكاء الاصطناعي
الخطوة 1: فصل المطالبات الرئيسية
استخرج الأسماء والتواريخ والإحصائيات والاستنتاجات المهمة من الإجابة. من الأسهل تقييم ادعاءات محددة بدلاً من تقييم نص طويل ككل.
الخطوة 2: انتقل إلى المصادر الأولية
إذا كانت الإجابة تشير إلى تقرير رسمي، ابحث عن النسخة الأصلية للتقرير. لمراجعة دراسة علمية، يرجى الرجوع إلى المقالة المنشورة أو موقع الناشر، وليس فقط الملخص أو إعادة الطبع.
الخطوة 3: مقارنة المعلومات مع مصادر مستقلة
إن تشابه مواقع الويب المتعددة لا يشكل بالضرورة تحققًا مستقلاً؛ ولعلهم جميعا أعادوا نشر الخبر من مصدر مشترك. كلما أمكن، ابحث عن المصادر التي قامت بمراجعة المعلومات أو نشرها بشكل منفصل.
الخطوة 4: اطلب من الذكاء الاصطناعي توضيحًا أو مصدرًا، لكن لا توقف التحقيق
يمكنك أن تطلب من الأداة توضيح أساس الإجابة أو المصادر المحتملة. ثم تحقق من وجود ومحتوى كل مصدر بنفسك؛ قد تقوم الأداة بتحريف المصدر أو إنشاء مرجع غير أصلي.
الخطوة الخامسة: في حالة عدم وجود دليل، لا تذكر الإدعاء بشكل قطعي
إذا لم يتم العثور على مصدر موثوق أو كانت الأدلة غير كافية، فقم بإزالة المطالبة أو مواصلة التحقيق أو توضيح حالة عدم اليقين. ولا ينبغي التعويض عن عدم وجود أدلة لدعم الادعاء باليقين أو بنبرة واثقة.
هل يمكن الوثوق بالذكاء الاصطناعي؟
تعتمد درجة الثقة على نوع التطبيق وجودة الأداة وحساسية الموضوع. بالنسبة للتفكير أو الصياغة أو التدقيق اللغوي، يمكن أن يكون الذكاء الاصطناعي مساعدًا مفيدًا. ولكن في التشخيص الطبي، وتفسير القوانين، وتحليل الاستثمار أو البيان الصحفي، تعد المراجعة البشرية والرجوع إلى مصادر موثوقة أكثر أهمية.
القاعدة البسيطة هي: كلما كانت عواقب الخطأ أكثر خطورة، كلما كان التحقق أكثر صرامة.
الفرق بين الثقة بالذكاء الاصطناعي والتحقق من الإجابة
الثقة هي مدى ثقتنا في إجابات الأداة. وقد تتشكل هذه الثقة من خلال تجربة الاستخدام وجودة الاستجابات ونوع التطبيق. على سبيل المثال، قد نثق في قدرة الأداة على تلخيص النص، ولكننا لا نقبل إجابتها حول قانون جديد دون التحقق منها.
التحقق هو عملية التحقق من صحة إجابة أو ادعاء معين باستخدام الأدلة والمصادر الموثوقة. إذا قدم الذكاء الاصطناعي إحصائية حول نسبة البطالة، فيجب مقارنتها بالتقرير الرسمي للجهة المصدرة، ويجب وزن الرقم والتاريخ والانطباع المقدم.