۶۰ کلمه‌ای که هوش مصنوعی اجازه نوشتنش را ندارد
ستاره بنیادی، دکترای ارتباطات علم و فناوری، در یادداشتی نوشت: کنار هر شیء در یک موزه، معمولا یک برچسب کوچک وجود دارد. در موزه علوم لندن، متن کنار اشیا حدود ۶۰ کلمه است؛ یعنی کمتر از یک بند کوتاه. تصور کنید باید در همین فضا توضیح بدهید که یک دستگاه صدساله چه بوده، چه مشکلی را حل می‌کرده، چرا مهم بوده و چرا باید برای کسی که فقط چند ثانیه مقابل آن می‌ایستد، جالب باشد.
و همین‌جا یک ممنوعیت وجود دارد: در این موزه، ابزارهای هوش مصنوعی مولد، یعنی همان چت‌بات‌هایی که امروز در چند ثانیه متن تولید می‌کنند، اجازه ندارند برچسب‌های عمومی موزه، یعنی همین ۶۰ کلمه، را بنویسند.
این ممنوعیت عجیب به نظر می‌رسد. گروه موزه‌های علوم بریتانیا خودش از هوش مصنوعی استفاده می‌کند و حتی مدل اختصاصی خود را ساخته است. پس مشکل کجاست؟
دکتر گلین مورگان (Glyn Morgan)، مدیر مجموعه‌ها و کیوریتور ارشد موزه علوم لندن، می‌گوید سخت‌ترین بخش این کار نوشتن نیست، بلکه حذف کردن است. از میان ده‌ها واقعیت مربوط به یک شیء، کدام را باید آورد و کدام را کنار گذاشت؟ این تصمیم به «قضاوت»، «همدلی با مخاطب» و «فهم تاریخی» نیاز دارد. به عبارت دیگر، موزه علوم لندن نه‌تنها اجازه انتخاب اطلاعات، بلکه اجازه حذف کردن اطلاعات را هم از هوش مصنوعی گرفته است.
برای پاسخ دادن به این پرسش، ابتدا باید ببینیم پشت درهای بسته یک موزه بزرگ چه می‌گذرد. باید از تالارهای نمایش بیرون بیاییم و نگاهی به آنچه در پشت صحنه یک موزه بزرگ جریان دارد، بیندازیم.
موزه‌ای که بیشتر گنجینه‌اش دیده نمی‌شود
آنچه ما در تالارهای موزه می‌بینیم، معمولا بخش کوچکی از مجموعه موزه است. برای مثال، در گروه موزه‌های علوم بریتانیا که شش زیرمجموعه در این کشور دارد و سالانه حدود پنج میلیون بازدیدکننده می‌پذیرد، بیش از هفت میلیون شیء نگهداری می‌شود؛ از نمونه‌های ظریف پزشکی تا لوکوموتیوهای تاریخی. بیشتر این اشیا در انبارها هستند و بسیاری از آن‌ها هنوز به‌درستی فهرست‌نویسی یا توصیف نشده‌اند.
یکی از این گنجینه‌ها، آرشیو عکس‌های روزنامه «دیلی هرالد» (Daily Herald) است؛ مجموعه‌ای شامل بیش از سه میلیون عکس چاپی از سال‌های ۱۹۱۱ تا ۱۹۶۸ که در دهه ۱۹۸۰ به موزه رسید. وقتی آرشیو وارد موزه شد، امکانات آن زمان محدود بود و فقط امکان تصویربرداری از بخش کوچکی از عکس‌ها وجود داشت.
اما ماجرای اصلی پشت عکس‌هاست. یک عکس سیاه‌وسفید قدیمی را در دست بگیرید؛ مثلا صحنه‌ای از یک بازی فوتبال در دهه ۱۹۳۰ که دروازه‌بانی از دروازه بیرون آمده و توپ را از مهاجم تیم مقابل می‌گیرد. حالا عکس را برگردانید. پشت آن پر از نوشته است: شماره بایگانی که با ماشین‌تحریر ثبت شده، نام عکاس، گاهی شرحی کوتاه درباره آنچه در عکس اتفاق افتاده، مهر روزنامه و در گوشه کاغذ، عددی که کسی روزی با مداد نوشته است. جوهر بعضی از این نوشته‌ها محو شده، بعضی روی هم افتاده‌اند و برخی نیز دست‌خط‌های متفاوتی دارند.
هر عکس در واقع دو لایه دارد: تصویر روی عکس و گاهی یک سند تاریخی کوچک در پشت آن که تا زمانی که کسی این نوشته‌ها را نخوانده باشد، نمی‌توان فهمید عکس را چه کسی، کجا و چه زمانی گرفته است.
خواندن این همه نوشته ریز و قدیمی برای میلیون‌ها عکس، از توان هر تیم انسانی خارج است. اینجا هوش مصنوعی وارد می‌شود: مدل‌هایی که هم تصویر را می‌بینند و هم متن را می‌خوانند و می‌توانند نوشته‌های پشت عکس‌ها را به اطلاعاتی منظم تبدیل کنند. چنین مدل‌هایی روی ده‌ها هزار عکسی که از هر دو طرف اسکن شده‌اند، آزمایش شده‌اند و آموزش دیده‌اند.
در مورد آرشیو روزنامه دیلی هرالد، نتیجه چشمگیر بوده است. برای مثال، پیش از استفاده از هوش مصنوعی، از عکاسی به نام جورج وودباین تنها حدود ۲۰۰ عکس در نمونه اسکن‌شده ثبت شده بود. پس از آنکه ماشین نوشته‌های پشت عکس‌ها را خواند، تعداد عکس‌هایی که با اطمینان به او نسبت داده می‌شد، به بیش از ۲۳۰۰ رسید؛ یعنی تقریبا ده برابر. اطلاعات همیشه همان‌جا بود، اما کسی فرصت خواندن آن‌ها را نداشت.
وقتی ماشین اشتباه می‌کند، چه کسی می‌فهمد؟
اما این ماجرا بدون خطا نیست. بخشی از آرشیو روزنامه دیلی هرالد به پوسترهای قدیمی راه‌آهن بریتانیا مربوط می‌شد. این پوسترها مردم را به سفر با قطار تشویق می‌کردند. محققان از هوش مصنوعی خواستند روی نقشه نشان دهد کدام پوسترها «ساحل» را تبلیغ می‌کنند.
نقشه‌ای از بریتانیا را تصور کنید که روی آن، محل هر پوستر تبلیغ‌کننده «ساحل» با یک نقطه مشخص شده است. انتظار دارید نقطه‌ها در امتداد خط ساحلی ردیف شده باشند. اما نتیجه چیز دیگری بود: خوشه‌های پرتراکمی از نقطه‌ها در شهرهای صنعتی دور از ساحل و چند نقطه نیز در میانه آب‌های دریای شمال؛ جایی که نصب پوستر در آنجا منطقی نیست.
چرا؟ چون ماشین محل نصب پوستر را با مکانی که پوستر درباره آن صحبت می‌کرد، اشتباه گرفته بود. در واقع، وقتی متصدیان موزه داده‌ها را بازبینی کردند و «مبدأ تبلیغ» را از «مقصد سفر» جدا کردند، نقشه درست شد.
این مثال کوچک، نکته بزرگی را روشن می‌کند: هوش مصنوعی الگوها را سریع پیدا می‌کند، اما لزوما معنای تاریخی آن‌ها را نمی‌فهمد. اگر کسی نتایج را بازبینی نکند، یک خطای ظریف می‌تواند ساده و باورپذیر به نظر برسد.
مشکل فقط این نیست که ماشین گاهی اشتباه می‌کند؛ مسئله این است که ماشین از کجا آموخته است. چت‌بات‌های تجاری با حجم عظیمی از متن‌های اینترنت آموزش دیده‌اند و اینترنت پر از خطا، برچسب‌های نادرست و تعصب است. اگر چنین مدلی در فهرست‌نویسی یک موزه دخالت کند، ممکن است ادعایی نادرست وارد رکورد رسمی یک مجموعه شود و سال‌ها در آن باقی بماند. مورگان به این خطر «آلودگی داده» می‌گوید؛ مانند زمانی که آب پاک را با آب آلوده مخلوط کنید.
به همین دلیل، گروه موزه‌های علوم بریتانیا مدلی داخلی به نام «دالیا» (Dalia) ساخته است. این مدل با استفاده از یک نرم‌افزار متن‌باز توسعه یافته، اما فقط با اطلاعات تأییدشده خود موزه آموزش دیده است: فهرست‌های رسمی، آرشیو عکس‌ها و سوابق متصدیان. هیچ متنی از وب عمومی وارد آن نمی‌شود. دالیا به موزه کمک می‌کند عکس‌های تکراری را پیدا کند، متن‌های دست‌نویس را به جست‌وجوهای ساده پیوند دهد و مجموعه‌ها را بر اساس موضوع دسته‌بندی کند؛ برای مثال، همه عکس‌های مربوط به کشتی‌سازی یا ماشین‌آلات کشاورزی را کنار هم قرار دهد.
دلیل دوم عمیق‌تر است. این مجموعه موزه‌ها در دوران ویکتوریایی و در اوج امپراتوری بریتانیا شکل گرفته و مجموعه‌های آن حامل نگاه‌ها و پیش‌فرض‌های امپریالیستی همان دوران است. متصدیان امروز بخشی از کار خود را صرف بازنگری این روایت‌ها می‌کنند. ابزاری که از اینترنت آموخته است، ممکن است همین پیش‌فرض‌های قدیمی را با لحنی مطمئن بازتولید کند. از آنجا که متن تولیدشده توسط ماشین روان و بی‌تردید به نظر می‌رسد، خواننده راحت‌تر آن را باور می‌کند. به زبان ساده‌تر، ماشین می‌تواند متنی «باورپذیر» بنویسد، اما باورپذیر بودن با درست بودن یکی نیست.
دیگر موزه‌های جهان چه می‌کنند؟
علاوه بر گروه موزه‌های علوم بریتانیا، در موزه تاریخ طبیعی لندن، بینایی ماشین برای دیجیتالی کردن کشوهای پر از نمونه‌های حشرات به کار رفته است. هدف این است که پژوهشگران بتوانند تغییرات اندازه حشرات را در طول دهه‌ها دنبال کنند و این داده‌های قدیمی را به پژوهش‌های مربوط به تغییر اقلیم پیوند دهند.
در موزه جانورشناسی دانشگاه کمبریج، بازدیدکنندگان می‌توانند با یک «نهنگ سخنگو» گفت‌وگو کنند. اما این گفت‌وگو فقط بر پایه مجموعه‌ای بسته و گزینش‌شده از اطلاعات تاییدشده انجام می‌شود تا اطلاعات تازه و بررسی‌نشده به بازدیدکننده ارائه نشود.
موزه لوور (Louvre) در پاریس، با همکاری یک شرکت خصوصی، «راهنمای گفت‌وگومحور برای نوجوانان» ساخته است. موزه ملی علوم نوظهور و نوآوری ژاپن (Miraikan) دستیارهای گفت‌وگومحور را مستقیما در نمایشگاه دائمی خود قرار داده است تا مفاهیم پیچیده علمی را برای بازدیدکنندگان توضیح دهند. موزه آلمانی دویچس‌موزیوم در مونیخ نیز سندی با عنوان «مأموریت هوش مصنوعی» منتشر کرده که قواعد آزمایش‌های دیجیتال این موزه را شفاف می‌کند و می‌پذیرد که این فعالیت‌ها همچنان در حال شکل‌گیری‌اند.
بنابراین، در طیفی از رویکردها که از داده‌های کاملا بسته و کنترل‌شده تا ابزارهای تجاری باز گسترده است، یک پرسش مشترک وجود دارد: چه کسی مسئول درستی حرفی است که بازدیدکننده می‌شنود؟
مشکل دیگری هم وجود دارد که به‌طور خاص به موزه‌های علم مربوط است. موزه علوم لندن دهه‌هاست مدل‌های فیزیکی مولکول‌ها را که از چوب، سیم و گل ساخته شده‌اند، نگهداری می‌کند؛ از جمله مدل ساختار انسولین. اما امروز یکی از بزرگ‌ترین دستاوردهای زیست‌شناسی، یعنی «آلفافولد»، که ساختار پروتئین‌ها را پیش‌بینی می‌کند و در سال ۲۰۲۴ با دریافت جایزه نوبل شیمی مورد توجه قرار گرفت، هیچ بدن فیزیکی ندارد؛ یک نرم‌افزار است.
چطور چیزی را که شکل فیزیکی ندارد، به موزه می‌آورید؟ دکتر مورگان چند راه را مثال می‌زند: دست‌نوشته‌های نویسنده‌ای که الهام‌بخش دانشمندان بوده است، لباس تیمی که در مسابقه پیش‌بینی پروتئین شرکت کرده، کد منبع نرم‌افزارهای پیشین یا سخت‌افزاری که مدل روی آن اجرا شده است. هیچ‌کدام به‌تنهایی کافی نیست، زیرا هرکدام فقط گوشه‌ای از ماجرا را نشان می‌دهد.
مشکل دیگر، زمان است. موزه‌ها باید اشیا و اسناد را برای ۱۵۰ سال و بیشتر نگهداری کنند، اما نرم‌افزار ممکن است در کمتر از ده سال قدیمی شود. رابط کاربری از کار می‌افتد، فایل‌ها بی‌صدا خراب می‌شوند و شرکتی که ابزار را ساخته است، ممکن است محصولش را تعطیل کند. نگهداری از یک مدل هوش مصنوعی یعنی نگهداری از کل محیطی که مدل در آن اجرا می‌شده است.
اگر از جزئیات فاصله بگیریم، در همه این مثال‌ها الگویی مشترک دیده می‌شود. موزه‌ها کار هوش مصنوعی را به دو دسته تقسیم کرده‌اند. دسته اول، «پیدا کردن و سازمان‌دهی» است: خواندن نوشته‌های پشت عکس‌ها، پیدا کردن موارد تکراری و دسته‌بندی. این دسته از کارها را با اطمینان بیشتری به ماشین می‌سپارند؛ البته با بازبینی انسان.
دسته دوم، «سخن گفتن به نام موزه» است: برچسب‌ها، روایت‌ها و ادعاهایی که بازدیدکننده به اعتبار موزه به آن‌ها اعتماد می‌کند. این دسته به توجه بسیار بیشتری نیاز دارد. ماشین می‌تواند متنی روان و حتی دقیق بنویسد، اما اگر متن اشتباه بود، چه کسی مسئول است و چه کسی می‌تواند آن را اصلاح کند؟
به نظر می‌رسد ریشه‌های اعتماد از محصول به فرایند نیز منتقل شده است. موزه‌ها همچنان از معتبرترین نهادهای علمی جهان هستند، اما در آینده‌ای نزدیک ممکن است همه‌چیز در آستانه تغییر قرار گیرد. وقتی متن‌های روان و کارشناس‌نما همه‌جا تولید می‌شوند، اعتبار نهاد به‌تنهایی کافی نیست. نهاد باید نشان دهد این متن را چه کسی نوشته، اطلاعات آن از چه منابعی آمده و چه کسی آن را بررسی کرده است. یعنی باید روش‌هایی برای حفظ، بررسی و نمایش اعتبار اطلاعات به کار بگیرد. به همین دلیل، مدلی مانند دالیا یا نهنگ سخنگوی کمبریج تا حدی معتبر است که منبع اطلاعات آن مشخص باشد.
البته این انتخاب هزینه دارد. ساخت مدل اختصاصی به متخصص داده، زمان و بودجه نیاز دارد. موزه‌ای که این امکانات را ندارد، احتمالاً به ابزارهای تجاری آماده روی می‌آورد و همان خطر آلودگی داده را می‌پذیرد. پس بحث فقط این نیست که «آیا از هوش مصنوعی استفاده کنیم؟»؛ جنبه دیگری از مسئله این است که چه کسی می‌تواند مرزهای استفاده از آن را به‌صورت شفاف و قابل‌کنترل تعیین کند و چه کسی نمی‌تواند. این شکاف احتمالاً میان نهادهای بزرگ و کوچک و میان کشورهای مختلف عمیق‌تر هم خواهد شد.
باید توجه داشت که «انسان‌نوشته» بودن، به‌خودی‌خود ضمانتی برای درستی نیست. خود موزه‌ها هم می‌دانند که متصدیان انسانی نیز اشتباه کرده‌اند و روایت‌های امپراتوری‌محور، امپریالیستی یا دیگر انواع سوگیری، برای دهه‌ها در برچسب‌های موزه‌ها باقی مانده‌اند. قاعده واقعی در این رویکرد، «انسان در برابر ماشین» نیست؛ بلکه «قابلیت پاسخ‌گویی و اصلاح» است. یک متن خوب، متنی است که اگر اشتباه بود، بتوان منشأ آن را تشخیص داد و اصلاحش کرد. یک مثال معروف از دنیای رایانه می‌گوید: «تا وقتی سیستم لاگ ندارد، نمی‌توان باگ آن را گرفت.»
این موضوع درباره اطلاعات علمی نادرستی که در فضای آنلاین می‌بینیم نیز صدق می‌کند. در آنجا هم مشکل فقط وجود اطلاعات غلط نیست. سیستم‌هایی که بر اساس جلب توجه و تعامل کار می‌کنند، متن‌هایی را که «باورپذیرتر» و «روان‌تر» هستند، بیشتر منتشر می‌کنند؛ حتی اگر درست‌تر نباشند. قاعده ۶۰ کلمه‌ای موزه در واقع الگویی کوچک، کند و انسانی در برابر همین منطق است. البته باید صادق باشیم: برچسب موزه به هزاران نفر می‌رسد، درحالی‌که الگوریتم‌های شبکه‌های اجتماعی با میلیون‌ها نفر سروکار دارند. در واقع، شاید بتوان گفت الگوی موزه راه‌حل مشکل نیست؛ نمونه‌ای است که نشان می‌دهد اعتماد را باید با وسواس طراحی کرد.
اگر این رشته از مثال‌های موزه‌ای را دنبال کنیم، می‌توانیم به نتیجه‌ای برسیم که از موزه فراتر می‌رود. وقتی از ورود هوش مصنوعی به یک حوزه حرف می‌زنیم، معمولاً ذهنمان به سمت زیرساخت و فرایند می‌رود: چه ابزاری بخریم، چه داده‌ای جمع کنیم و کار را چگونه سازمان بدهیم. این‌ها ضروری‌اند، اما مثال‌های بالا نکته دیگری را نیز نشان می‌دهند: اعتماد لزوماً از توانایی ابزار و اعتبار پیشین نهاد حاصل نمی‌شود. اعتماد را باید طراحی کرد.
یعنی پیش از آنکه فناوری وارد کار شود، باید بپرسیم مخاطب از کجا بفهمد این متن از کجا آمده، چه کسی مسئولیت آن را پذیرفته است و اگر اشتباه بود، باید به چه کسی مراجعه کند و چه کسی مسئول اصلاح آن است. این پرسش‌ها آرایش نهایی کار نیستند؛ بخشی از طرح اصلی‌اند و به‌اندازه زیرساخت و فرایند اهمیت دارند. می‌توان نام این طراحی آگاهانه را «معماری اعتماد» گذاشت.
از همین مثال‌های موزه‌ای می‌توان پنج جزء برای این معماری استخراج کرد:
۱.تقسیم کار روشن: مشخص باشد ماشین در کجا کمک می‌کند؛ مثلا در پیدا کردن، دسته‌بندی و پیشنهاد دادن، و استفاده از آن در کجا ممنوع است؛ مثلاً در سخن گفتن به نام یک نهاد.
۲.منبع شناخته‌شده: ابزار از چه داده‌هایی آموخته است؟ آیا می‌توان این داده‌ها و منابع را بررسی کرد؟
۳.انسان پاسخ‌گو: برای هر ادعای عمومی، یک فرد یا نهاد مشخص مسئولیت داشته باشد.