هندسة الثقة في عصر الذكاء الاصطناعي

ستيرا فنادي، دكتوراه في مجال اتصالات العلوم والتكنولوجيا، كتب في ملاحظة: بجانب كل قطعة في المتحف، عادة ما يكون هناك ملصق صغير. وفي متحف لندن للعلوم يبلغ النص المجاور للأشياء حوالي 60 كلمة؛ أي أقل من فقرة قصيرة. تخيل أنك بحاجة إلى أن تشرح في هذه المساحة ما هو جهاز عمره مائة عام، وما هي المشكلة التي حلها، وسبب أهميته، ولماذا يجب أن يكون مثيرًا للاهتمام لشخص يقف أمامه لبضع ثوانٍ فقط.

وهنا يوجد حظر: في هذا المتحف، لا يُسمح لأدوات الذكاء الاصطناعي التوليدي، أي نفس برامج الدردشة التي تولد النص اليوم في بضع ثوانٍ، بكتابة العلامات العامة للمتحف، أي هذه الكلمات الستين.

يبدو هذا الحظر غريبا. تستخدم مجموعة متحف العلوم البريطاني نفسها الذكاء الاصطناعي، وقد أنشأت نموذجًا خاصًا بها. إذن أين المشكلة؟

يقول الدكتور جلين مورغان، مدير المجموعات وكبير أمناء متحف لندن للعلوم، إن الجزء الأصعب ليس الكتابة، بل الحذف. من بين عشرات الحقائق المرتبطة بشيء ما، أي منها يجب إحضاره وأيها يجب تركه؟ يتطلب هذا القرار "الحكم" و"التعاطف مع الجمهور" و"الفهم التاريخي". بمعنى آخر، لم يحصل متحف لندن للعلوم على إذن اختيار المعلومات فحسب، بل حصل أيضًا على إذن إزالة المعلومات من الذكاء الاصطناعي.

للإجابة على هذا السؤال، علينا أولاً أن نرى ما يجري خلف الأبواب المغلقة لمتحف كبير. نحن بحاجة إلى الخروج من المسارح وإلقاء نظرة على ما يجري خلف الكواليس في متحف عظيم.

متحف لا يمكن رؤية معظم كنوزه

ما نراه في قاعات المتحف عادة ما يكون جزءا صغيرا من مجموعة المتحف. على سبيل المثال، في مجموعة متاحف العلوم البريطانية، التي لها ستة فروع في هذا البلد وتستقبل نحو خمسة ملايين زائر سنويا، يتم تخزين أكثر من سبعة ملايين قطعة؛ من العينات الطبية الدقيقة إلى القاطرات التاريخية. معظم هذه الأشياء موجودة في المخزن ولم يتم فهرستها أو وصفها بشكل صحيح بعد.

ومن هذه الكنوز أرشيف الصور الخاص بصحيفة "ديلي هيرالد"؛ مجموعة تحتوي على أكثر من ثلاثة ملايين صورة مطبوعة من عام 1911 إلى عام 1968، وصلت إلى المتحف في الثمانينيات. وعندما دخل الأرشيف إلى المتحف، كانت المرافق في ذلك الوقت محدودة ولا يمكن تصوير سوى جزء صغير من الصور.

لكن القصة الرئيسية تكمن وراء الصور. التقط صورة قديمة بالأبيض والأسود؛ على سبيل المثال، مشهد من مباراة كرة قدم في الثلاثينيات عندما يخرج حارس المرمى من المرمى ويأخذ الكرة من مهاجم الفريق المنافس. الآن اقلب الصورة. الظهر مليء بالكتابة: رقم الملف المسجل بالآلة الكاتبة، اسم المصور، وأحيانًا وصف مختصر لما حدث في الصورة، ختم صحيفة، وفي زاوية الورقة رقم كتبه أحدهم ذات مرة بالقلم الرصاص. وقد ذبل حبر بعض هذه الكتابات، وتداخل بعضها، وبعضها اختلفت خطه.

تحتوي كل صورة في الواقع على طبقتين: الصورة الموجودة على الصورة، وأحيانًا وثيقة تاريخية صغيرة خلفها، حتى يقرأ شخص ما هذه الملاحظات، من المستحيل معرفة من وأين ومتى تم التقاط الصورة.

إن قراءة كل هذا النص الصغير والقديم لملايين الصور تفوق قدرة أي فريق بشري. وهنا يأتي دور الذكاء الاصطناعي: النماذج التي ترى الصورة وتقرأ النص ويمكنها تحويل النص الموجود خلف الصور إلى معلومات منظمة. يتم اختبار هذه النماذج وتدريبها على عشرات الآلاف من الصور الممسوحة ضوئيًا من كلا الجانبين.

وفي حالة أرشيف ديلي هيرالد، كانت النتيجة مثيرة للإعجاب. على سبيل المثال، قبل استخدام الذكاء الاصطناعي، تم تسجيل حوالي 200 صورة فقط للمصور المسمى جورج وودباين في العينة الممسوحة ضوئيًا. وبعد أن قرأت الآلة النص الموجود على ظهر الصور، ارتفع عدد الصور المنسوبة إليه بثقة إلى أكثر من 2300 صورة؛ يعني عشر مرات تقريبا. كانت المعلومات موجودة دائمًا، لكن لم تتح الفرصة لأحد لقراءتها.

من يعرف متى تخطئ السيارة؟

لكن هذه القصة لا تخلو من الأخطاء. كان جزء من أرشيف ديلي هيرالد مرتبطًا بملصقات السكك الحديدية البريطانية القديمة. شجعت هذه الملصقات الناس على السفر بالقطار. وطلب الباحثون من الذكاء الاصطناعي أن يظهر على الخريطة الملصقات التي تروج لـ "الشاطئ".

تخيل خريطة للمملكة المتحدة مع نقطة تشير إلى موقع كل ملصق يعلن عن "الشاطئ". تتوقع أن تصطف النقاط على طول الساحل. لكن النتيجة كانت شيئاً آخر: تجمعات كثيفة من النقاط في مدن صناعية بعيدة عن الساحل وبضع نقاط وسط مياه بحر الشمال؛ حيث أنه ليس من المنطقي تثبيت ملصق هناك.

لماذا لأن السيارة أخطأت بين المكان الذي تم تركيب الملصق فيه والمكان الذي يتحدث عنه الملصق. في الواقع، عندما قام أمناء المتحف بمراجعة البيانات وفصلوا "أصل الإعلان" عن "وجهة السفر"، تم إنشاء الخريطة.

يوضح هذا المثال الصغير نقطة كبيرة: الذكاء الاصطناعي سريع في العثور على الأنماط، لكنه لا يفهم بالضرورة معناها التاريخي. يمكن أن يبدو الخطأ الدقيق بسيطًا وقابلاً للتصديق إذا لم يقم أحد بمراجعة النتائج.

المشكلة ليست فقط أن السيارة ترتكب الأخطاء في بعض الأحيان؛ السؤال هو من أين تعلمت الآلة؟ يتم تدريب روبوتات الدردشة التجارية على كميات هائلة من النصوص الواردة من الإنترنت، والإنترنت مليء بالأخطاء والتسميات الخاطئة والتحيز. إذا كان مثل هذا النموذج يتداخل مع فهرسة المتحف، فقد يدخل ادعاء كاذب في السجل الرسمي للمجموعة ويظل هناك لسنوات. يطلق مورغان على هذا الخطر اسم "تلوث البيانات". مثل عندما تخلط المياه النظيفة مع المياه الملوثة.

ولهذا السبب، قامت مجموعة متحف العلوم البريطاني ببناء نموذج داخلي يسمى داليا. تم تطوير النموذج باستخدام برنامج مفتوح المصدر، ولكن تم تدريبه فقط باستخدام بيانات المتحف التي تم التحقق منها: الفهارس الرسمية، وأرشيفات الصور، وسجلات أمناء المتحف. لا يتم استيراد أي نص من الويب العام. تساعد داليا المتاحف في العثور على الصور المكررة، وربط النصوص المكتوبة بخط اليد بعمليات البحث البسيطة، وتصنيف المجموعات حسب الموضوع؛ على سبيل المثال، قم بتجميع كل الصور المتعلقة ببناء السفن أو الآلات الزراعية.

السبب الثاني أعمق. تشكلت هذه المجموعة من المتاحف في العصر الفيكتوري وفي ذروة الإمبراطورية البريطانية، وتحمل مجموعاتها وجهات النظر والافتراضات الإمبراطورية لذلك العصر. يقضي القيمون اليوم جزءًا من عملهم في مراجعة هذه الروايات. قد تقوم إحدى الأدوات المستفادة من الإنترنت بإعادة إنتاج نفس الإعدادات الافتراضية القديمة بنبرة واثقة. نظرًا لأن النص الذي تم إنشاؤه آليًا يبدو سلسًا ولا لبس فيه، فمن الأسهل على القارئ تصديقه. بعبارات أبسط، يمكن للآلة أن تكتب نصًا "معقولًا"، لكن المصداقية ليست مثل كونها صحيحة.

ماذا تفعل المتاحف الأخرى في العالم؟

وبالإضافة إلى مجموعة متحف العلوم البريطاني، استخدم متحف التاريخ الطبيعي في لندن الرؤية الآلية لرقمنة الأدراج المليئة بعينات الحشرات. الهدف هو السماح للباحثين بتتبع التغيرات في حجم الحشرات على مدى عقود وربط هذه البيانات القديمة بأبحاث تغير المناخ.

وفي متحف علم الحيوان بجامعة كامبريدج، يمكن للزوار التفاعل مع "الحوت الناطق". لكن هذه المحادثة لا تتم إلا على أساس مجموعة مغلقة ومختارة من المعلومات المؤكدة حتى لا تعرض على الزائر معلومات جديدة وغير مؤكدة.

أنشأ متحف اللوفر في باريس، بالتعاون مع شركة خاصة، "دليل المحادثة للمراهقين". قام المتحف الوطني للعلوم الناشئة والابتكار (Miraikan) في اليابان بوضع مساعدين تفاعليين مباشرة في معرضه الدائم لشرح المفاهيم العلمية المعقدة للزوار. كما نشر المتحف الألماني، المتحف الألماني في ميونيخ، وثيقة بعنوان "مهمة الذكاء الاصطناعي" توضح قواعد التجارب الرقمية للمتحف، وتقر بأن هذه الأنشطة لا تزال في تطور.

وبالتالي، عبر مجموعة من الأساليب التي تمتد من البيانات المغلقة تمامًا والخاضعة للرقابة إلى الأدوات التجارية المفتوحة، هناك سؤال شائع: من المسؤول عن دقة ما يسمعه الزائر؟

هناك مشكلة أخرى تتعلق على وجه التحديد بالمتاحف العلمية. لعقود من الزمن، كان متحف العلوم في لندن يضم نماذج فيزيائية لجزيئات مصنوعة من الخشب والأسلاك والطين. بما في ذلك نموذج هيكل الأنسولين. لكن اليوم، أحد أعظم الإنجازات في علم الأحياء، وهو "ألفافولد"، الذي تنبأ ببنية البروتينات وحصل على جائزة نوبل في الكيمياء عام 2024، ليس له جسم مادي؛ إنه برنامج.

كيف يمكنك إحضار شيء ليس له شكل مادي إلى المتحف؟ يستشهد الدكتور مورغان بعدة طرق: مخطوطات مؤلف ألهم العلماء، أو الزي الرسمي لفريق شارك في مسابقة للتنبؤ بالبروتين، أو الكود المصدري للبرامج السابقة أو الأجهزة التي تم تشغيل النموذج عليها. ولا يكفي أي منها بمفرده، لأن كل منها لا يظهر سوى جزء من القصة.

مشكلة أخرى هي الوقت. يجب على المتاحف الحفاظ على الأشياء والوثائق لمدة 150 عامًا أو أكثر، لكن البرامج يمكن أن تصبح قديمة في أقل من عشر سنوات. تتعطل واجهة المستخدم، وتتلف الملفات بصمت، وقد تقوم الشركة التي صنعت الأداة بإيقاف منتجها. إن الحفاظ على نموذج الذكاء الاصطناعي يعني الحفاظ على البيئة التي تم تنفيذ النموذج فيها بالكامل.

وإذا ابتعدنا عن التفاصيل، فيمكن رؤية نمط مشترك في كل هذه الأمثلة. قسمت المتاحف أعمال الذكاء الاصطناعي إلى فئتين. الفئة الأولى هي "البحث والتنظيم": قراءة التسميات التوضيحية خلف الصور، والعثور على التكرارات، والتصنيف. وتُترك هذه المهام للآلة بثقة أكبر؛ وبطبيعة الحال، مع مراجعة الإنسان.

والفئة الثانية هي "التحدث باسم المتحف": وهي التسميات والروايات والادعاءات التي يثق بها الزائر في مصداقية المتحف. هذه الفئة تحتاج إلى المزيد من الاهتمام. يمكن للآلة أن تكتب نصًا بطلاقة وحتى دقيقًا، لكن إذا كان النص خاطئًا، فمن المسؤول ومن يستطيع تصحيحه؟

ويبدو أن جذور الثقة قد انتقلت من المنتج إلى العملية أيضًا. لا تزال المتاحف من بين المؤسسات العلمية المرموقة في العالم، ولكن في المستقبل القريب، قد يكون كل شيء على وشك التغيير. إن المصداقية المؤسسية وحدها لا تكفي عندما يتم إنتاج نصوص بطلاقة تبدو وكأنها متخصصة في كل مكان. ويجب على المؤسسة أن توضح من كتب هذا النص، وما هي المصادر التي جاءت منها معلوماته، ومن قام بفحصها. أي أنه يجب أن يستخدم أساليب للحفاظ على المعلومات وفحصها وعرض صحتها. ولهذا السبب، فإن نموذجًا مثل داليا أو حوت كامبريدج المتحدث باسم كامبريدج لا يكون صالحًا إلا بقدر ما يكون مصدر معلوماته معروفًا.

وبطبيعة الحال، هذا الاختيار له تكلفة. يتطلب بناء نموذج مخصص خبرة البيانات والوقت والميزانية. من المرجح أن يلجأ المتحف الذي لا يمتلك هذه المرافق إلى الأدوات التجارية الجاهزة ويتحمل نفس مخاطر تلوث البيانات. لذا فإن السؤال ليس فقط "هل ينبغي لنا أن نستخدم الذكاء الاصطناعي؟"؛ جانب آخر من هذه القضية هو من يستطيع أن يحدد حدود استخدامه بشكل واضح ويمكن التحكم فيه ومن لا يستطيع ذلك. ومن المحتمل أن تتعمق هذه الفجوة بين المؤسسات الكبيرة والصغيرة وبين مختلف البلدان.

وتجدر الإشارة إلى أن كونك "مكتوبًا من قبل البشر" ليس ضمانًا للصحة في حد ذاته. وتعرف المتاحف نفسها أن القيمين البشريين ارتكبوا أخطاء أيضا، وأن الروايات الإمبريالية أو الإمبريالية أو غيرها من الروايات المتحيزة ظلت على ملصقات المتاحف لعقود من الزمن. والقاعدة الحقيقية في هذا النهج ليست "الإنسان في مواجهة الآلة"؛ بل هي "القدرة على الإجابة والتصحيح". النص الجيد هو النص الذي إذا كان خطأ يمكن تحديد أصله وتصحيحه. يقول أحد الأمثلة الشهيرة في عالم الكمبيوتر: "لا يمكنك اكتشاف أخطاء في نظام ما لم يكن لديه سجلات".

وينطبق هذا أيضًا على المعلومات العلمية الخاطئة التي نراها عبر الإنترنت. وهنا لا تكمن المشكلة في وجود معلومات خاطئة فحسب. الأنظمة التي تعمل على أساس الاهتمام والتفاعل، تنشر نصوصًا أكثر "قابلية للتصديق" و"طلاقة"؛ حتى لو لم تكن صحيحة. إن قاعدة المتحف المكونة من 60 كلمة هي في الواقع نموذج صغير وبطيء وإنساني ضد هذا المنطق. بالطبع، لنكن صادقين: تصل علامة المتحف إلى آلاف الأشخاص، بينما تتعامل خوارزميات وسائل التواصل الاجتماعي مع الملايين. في الواقع، يمكن القول أن النموذج المتحفي ليس هو الحل للمشكلة؛ إنه مثال يوضح أن الثقة يجب أن يتم تصميمها بشكل هاجس.

إذا اتبعنا هذا الخط من أمثلة المتاحف، فيمكننا أن نصل إلى نتيجة تتجاوز المتحف. عندما نتحدث عن دخول الذكاء الاصطناعي إلى مجال ما، فإن أذهاننا عادة ما تتجه إلى البنية التحتية والعملية: ما هي الأدوات التي يجب شراؤها، وما هي البيانات التي يجب جمعها، وكيفية تنظيم العمل. هذه الأمور ضرورية، لكن الأمثلة المذكورة أعلاه توضح أيضًا نقطة أخرى: الثقة لا تنبع بالضرورة من فاعلية المؤسسة وسمعتها السابقة. يجب تصميم الثقة.

أي قبل أن تدخل التكنولوجيا، يجب أن نسأل كيف يمكن للجمهور أن يفهم من أين جاء هذا النص، ومن قبل المسؤولية عنه، وإذا كان خطأ، فمن يجب الرجوع إليه ومن المسؤول عن تصحيحه. هذه الأسئلة ليست الترتيب النهائي للعمل؛ إنها جزء من الخطة الرئيسية وهي لا تقل أهمية عن البنية التحتية والعملية. يمكن تسمية هذا التصميم الواعي بـ "هندسة الثقة".

ومن هذه الأمثلة المتحفية، يمكن استخلاص خمسة مكونات لهذه العمارة:

1. تقسيم واضح للعمل: يجب أن يكون واضحًا أين تساعد الآلة؛ على سبيل المثال، في البحث والتصنيف والعرض، وأين يحظر استخدامه؛ على سبيل المثال، التحدث باسم المؤسسة.

2. المصدر المعروف: ما هي البيانات التي تعلمت منها الأداة؟ فهل يمكن التحقق من هذه البيانات والمصادر؟

3. الشخص المسؤول: بالنسبة لكل مطالبة عامة، يجب أن يكون شخص أو منظمة معينة مسؤولة.