ما هي العلامة المائية للذكاء الاصطناعي، وكيف تساعد في كشف المحتوى المزيف؟

يمكن للعلامة المائية للذكاء الاصطناعي أن تقدم دليلاً حول مصدر الصورة أو الفيديو أو الصوت أو النص، لكنها لا تثبت وحدها أصالة المحتوى. للتقييم الدقيق يجب فحص العلامة المائية ومعلومات مصدر الملف والأدلة المستقلة معاً.

وبحسب السفير أرجان، فإن الصورة المزيفة لحدث ما أو الصوت المقلد لشخص مشهور قد تبدو حقيقية للوهلة الأولى. ومع انتشار أدوات الذكاء الاصطناعي التوليدية، أصبح من الصعب على نحو متزايد على المستخدمين ووسائل الإعلام والمنصات الرقمية التمييز بين المحتوى الحقيقي والمحتوى الاصطناعي.

إحدى الطرق المستخدمة لتوضيح أصل المحتوى هي العلامة المائية ذات الذكاء الاصطناعي. يمكن لهذه التقنية تسجيل رمز مميز في المحتوى حتى تتمكن الأجهزة المتوافقة من التعرف عليه. ومع ذلك، فإن العلامات المائية ليست أداة تدقيق تلقائية للحقائق ولا طريقة معصومة لتحديد كل المحتوى الذي ينشئه الذكاء الاصطناعي.

العلامة المائية للذكاء الاصطناعي أو AI Watermarking هي علامة رقمية تتم إضافتها إلى الملف أثناء إنشاء المحتوى أو بعده، لتسهيل التحقق من الأصل أو عملية إنشائه وتحريره.

قد تكون العلامة المائية على شكل نص مرئي أو شعار على الصورة، ولكن في التقنيات الحديثة يمكن وضعها كنمط في الصورة أو الصوت أو الملف النصي نفسه ولا يمكن التعرف عليها بالعين البشرية أو الأذن. عادةً ما يتم اكتشاف مثل هذا النمط بواسطة أدوات متوافقة.

تعد العلامات المائية والبيانات الوصفية وشهادة المحتوى مفاهيم مرتبطة ببعضها البعض، ولكنها ليست متماثلة:

العلامة المائية غير المرئية هي نمط مضمن في المحتوى الرقمي نفسه.

توفر بيانات التعريف معلومات حول الملف، مثل وقت إنشائه أو الأداة المستخدمة.

يمكن أن توفر شهادة المنشأ معلومات حول المنشئ أو السجل المسجل لتحرير الملف.

يمكن استخدام هذه الطرق معًا، ولكن لكل منها وظائفها وقيودها الخاصة.

كيف تعمل العلامة المائية غير المرئية؟

في الصور والفيديو، قد تقوم الخوارزمية بإجراء تغييرات دقيقة جدًا في نمط البكسل. وفي الملف الصوتي، يمكن أيضًا تضمين العلامة في الإشارة الصوتية. الهدف هو أن التغيير عادة ما يكون غير محسوس للجمهور، ولكن يمكن لأداة الكشف العثور على النمط المطلوب.

تعتمد مقاومة العلامة المائية للضغط أو الاقتصاص أو تغيير الحجم أو التحرير على الطريقة والتقنية المستخدمة. لذلك، لا ينبغي الافتراض أنه سيتم التعرف على أي علامة مائية بعد أي نوع من التعديل.

يعد SynthID أحد الأمثلة المعروفة لهذه التقنية التي طورها Google DeepMind للتعرف على بعض المحتوى الذي تم إنتاجه باستخدام أدوات Google المدعومة. قد تختلف التطبيقات والوصول إلى ميزاتها وفقًا للمنتج ونوع المحتوى. يشير تحديد العلامة المائية SynthID أيضًا إلى العثور على علامة مرتبطة بهذه التقنية فقط؛ لا يعني ذلك أنه يمكن تحديد كل المحتوى الذي ينتجه الذكاء الاصطناعي.

في بعض أساليب وضع العلامات المائية على النص، يقوم النموذج بتغيير احتمالية الخيارات بطريقة يمكن التحكم فيها عند اختيار الكلمة أو الرمز المميز التالي. ونتيجة لذلك، يتشكل في النص نمط إحصائي قد يكون غير محسوس للقارئ، ولكن يمكن للأداة المتوافقة تقييم وجوده.

تعتمد نتيجة هذه الطريقة على عوامل مثل طول النص والنموذج المستخدم ومقدار التحرير أو إعادة الكتابة. قد لا يوفر النص القصير أو النص الذي تم تغييره على نطاق واسع نتائج موثوقة للتعرف عليها.

ما هي C2PA وبيانات اعتماد المحتوى؟

C2PA عبارة عن مجموعة من المعايير الفنية لتسجيل مصدر وتاريخ المحتوى الرقمي. بيانات اعتماد المحتوى هو اسم مبادرة تجعل هذه المعلومات متاحة للمستخدمين والأدوات المتوافقة بتنسيق يمكن التحقق منه.

على عكس العلامة المائية غير المرئية التي تتضمن علامة في محتوى الملف نفسه، يمكن لمعلومات C2PA الاحتفاظ بسجل مسجل لإنشاء المحتوى أو تحريره باستخدام الملف. تتم حماية هذه المعلومات بواسطة آليات التشفير بحيث يمكن اكتشاف التغييرات غير المصرح بها.

ومع ذلك، لا تحكم C2PA تلقائيًا على ما إذا كانت المطالبة المقدمة في صورة أو مقطع فيديو صحيحة أم خاطئة. يمكن لهذا المعيار في الغالب الإجابة على أسئلة مثل "من أين أتى هذا الملف؟" أو "ما هي التغييرات التي تم تسجيلها لذلك؟" للإجابة

كما أن وجود معلومات المصدر لا يعني بالضرورة أنه تم التحقق من جميع التفاصيل المسجلة أو الهويات المدخلة بشكل مستقل. ومن ناحية أخرى، فإن عدم وجود شهادة C2PA لا يثبت أن الملف مزيف؛ من الممكن أن أداة الإنتاج أو التحرير لا تدعم هذا المعيار، أو ربما تمت إزالة معلومات الملف أثناء النقل.

كيف تساعد العلامة المائية في تحديد المحتوى المزيف؟

يمكن أن تكون معلومات العلامة المائية والمصدر دليلاً لمزيد من التحقيق. على سبيل المثال، إذا تم إصدار صورة أو صوت بتوقيع يمكن التعرف عليه، فيمكن للمستخدم أو الوسائط التحقق بشكل أفضل من مصدره المحتمل. قد تكون هذه المعلومات مفيدة في التحقق من المحتوى المنسوب إلى فرد أو حدث إخباري أو حادث عام.

ومن الأهمية الأخرى لهذه التكنولوجيا المساعدة في الشفافية بشأن المحتوى الذي ينتجه الذكاء الاصطناعي أو يتم التلاعب به. في الاتحاد الأوروبي، تتضمن المادة 50 من قانون الذكاء الاصطناعي التزامات الشفافية لأنواع معينة من المحتوى الذي تم إنشاؤه أو التلاعب به. ويعتمد نطاق هذه الالتزامات على نوع النظام والمحتوى ويتضمن شروطًا واستثناءات محددة؛ لذلك، لا ينبغي اعتبار أن استخدام علامة مائية معينة هو نفس المطلب الذي يجب على الجميع استخدامه.

قد تساعد العلامات المائية أيضًا في التحقق من مصدر الوسائط أو الأعمال الفنية، ولكنها وحدها لا تثبت الملكية القانونية للعمل أو انتهاك حقوق الطبع والنشر. للحصول على مثل هذه الاستنتاجات، يجب أيضًا مراجعة سجلات الإنتاج والإصدار والعقود والقوانين ذات الصلة.

لا توجد طريقة واحدة تكتشف كل المحتوى الاصطناعي. لا تضيف جميع أدوات الذكاء الاصطناعي علامات مائية، وقد تؤدي بعض التغييرات، مثل إعادة الضغط أو إعادة الكتابة الشاملة، إلى إضعاف العلامة أو إزالتها. قد تعطي أدوات التشخيص أيضًا نتائج غير موثوقة.

يمكن للمنصات التي لا تدعم معيارًا مشتركًا أيضًا أن تجعل الوصول إلى معلومات المصدر أمرًا صعبًا. قد تتم إزالة البيانات الوصفية عند تحرير ملف أو تحميله أو نقله.

ولهذا السبب، ينبغي اعتبار العلامات المائية وشهادات المنشأ طبقات تكميلية للشفافية، وليست بدائل للتحقق من المصدر الأصلي، ووقت النشر، وسياق المحتوى، والأدلة المستقلة.

كيفية التحقق مما إذا كان الملف يحتوي على علامة مائية؟

بالنسبة للمحتوى الذي تم إنشاؤه باستخدام الأدوات المدعومة، يمكن استخدام إمكانيات التعرف على نفس الخدمة أو الأدوات المتوافقة. على سبيل المثال، يمكن لبعض الميزات المرتبطة بـ SynthID في منتجات Google أو أدوات فحص بيانات اعتماد المحتوى وC2PA أن تكشف عن معلومات حول الرمز المميز المسجل للملف أو أصله. قد يتغير توفر هذه الأدوات وميزاتها حسب المنتج أو المنطقة أو الوقت.

ويجب موازنة نتيجة هذا التحقيق مع الأدلة الأخرى. إن وجود العلامة المائية لا يشير بالضرورة إلى أن جميع أجزاء المحتوى مصطنعة أو أن الادعاء المصاحب صحيح أو كاذب. عدم العثور على العلامة المائية لا يثبت أن المحتوى من صنع الإنسان أو الملف الأصلي.

هل العلامة المائية تقلل من جودة الصورة أو الصوت؟

تم تصميم العديد من العلامات المائية غير المرئية للحفاظ على الجودة الملموسة؛ لكن النتيجة تعتمد على التكنولوجيا وطريقة التنفيذ. ليس من الممكن إعطاء نفس الحكم على جميع الأساليب.

هل يمكن إزالة العلامة المائية؟

تم تصميم بعض العلامات المائية لتحمل التغييرات الروتينية، ولكن ليس هناك ما يضمن أنها ستنجو من جميع أنواع التحرير. تعتمد إمكانية إضعاف الرمز المميز أو إزالته على نوع الملف والتقنية المستخدمة.

هل تحتوي جميع أدوات الذكاء الاصطناعي على علامات مائية؟

لا تختلف طريقة استخدام العلامات المائية ومعايير الإسناد بين المنتجات المختلفة وقد تعتمد على الأداة والإصدار ونوع المحتوى والمتطلبات ذات الصلة.

هل تثبت العلامة المائية أن المحتوى مزيف؟

لا قد تشير العلامة المائية إلى أن الملف قد تم إنتاجه أو وضع علامة عليه باستخدام أداة محددة، ولكنها لا تحدد بحد ذاتها صحة الادعاءات المقدمة في المحتوى. ومن أجل التقييم، يجب أيضًا مراجعة المصادر والأدلة المستقلة.

تعد العلامة المائية المدعمة بالذكاء الاصطناعي إحدى الطرق لزيادة الشفافية حول أصل المحتوى الرقمي. إلى جانب معايير مثل C2PA، يمكن لهذه التقنية توفير معلومات مفيدة حول إنتاج الملفات أو تحريرها؛ ولكنها ليست الطريقة المثالية لتحديد كل المحتوى المزيف أو إثبات أن الملف مزيف.

عند مواجهة صورة أو صوت أو فيديو مشبوه، فمن الأفضل عدم الاكتفاء باللافتة. ستساعدك مراجعة المصدر الأساسي ومعلومات المصدر وسياق النشر والأدلة المستقلة إلى جانب العلامة المائية على اتخاذ قرار أكثر استنارة.