قضاوت انسان قدرتمندترین فناوری در عصر هوش مصنوعی است

هالا توماسدوتیر می نویسد: «ما نباید قضاوت، مسئولیت پذیری یا وجدان انسانی را به ماشین ها بسپاریم.

در اوکراین، یک پهپاد روسی با هدایت هوش مصنوعی سه غیرنظامی از جمله یک دانشجوی ۱۹ ساله دانشگاه را در یک پمپ بنزین کشت. در غزه، یک ابزار اطلاعاتی با کمک هوش مصنوعی به نیروهای اسرائیلی کمک کرد تا یک فرمانده حماس را پیدا کنند. حمله هوایی متعاقب آن او و بر اساس برآوردهای مستقل، حداقل 125 نفر دیگر را کشت.

جنگ های مختلف شرایط مختلف اما یک سوال عمیقاً نگران‌کننده: وقتی ماشین‌ها بیشتر در تصمیم‌گیری‌های زندگی و مرگ درگیر می‌شوند، آیا ما انسان‌هایی را که زندگی‌شان در تعادل است از دست می‌دهیم؟

این سوال مرا در این ماه به یک خانه سفید کوچک در ریکیاویک، ایسلند بازگرداند.

چهل سال پیش، رونالد ریگان و میخائیل گورباچف در خانه هوفی ملاقات کردند که نماینده ابرقدرت‌های هسته‌ای رقیب بودند که به دلیل چندین دهه بی‌اعتمادی تقسیم شده بودند. بدون توافق رفتند. با این حال، تمایل آنها به صحبت، گوش دادن و تصور آنچه غیرممکن به نظر می رسید، به ایجاد زمینه برای کاهش تاریخی تسلیحات هسته ای کمک کرد.

آن لحظه را به خوبی به یاد دارم. من یک دانشجوی جوان ایسلندی بودم که در ایالات متحده زندگی می‌کردم و ملاقات دو رهبر جهان را در کشور کوچک خود تماشا می‌کردم. هرگز نمی‌توانستم تصور کنم که 40 سال بعد، به عنوان رئیس‌جمهور ایسلند، به همان خانه برگردم تا از نسل جدیدی از رهبران بخواهم که شجاعت صحبت کردن را پیدا کنند.

درس ماندگار ریکیاویک صرفاً در مورد سلاح های هسته ای یا دیپلماسی نیست. این در مورد قدرت فوق العاده ارتباط و گفتگوی انسانی است. و ما باید فوراً آن را به خاطر بسپاریم.

ما هرگز ابزارهای پیچیده تری برای برقراری ارتباط نداشتیم، با این حال توانایی ما برای درک یکدیگر به طور فزاینده ای شکننده به نظر می رسد. ما در سراسر قاره ها در میلی ثانیه به هم متصل هستیم، اما اغلب با ترس، عصبانیت و بی اعتمادی از هم جدا می شویم.

فناوری‌های ما می‌توانند پزشکی، آموزش و رفاه انسان را متحول کنند. با این حال، آنها همچنین می توانند درگیری را تسریع بخشند، دموکراسی را تضعیف کنند، و کنترل انسان را به چالش بکشند.

به لطف فناوری های جدید مانند هوش مصنوعی، قدرت ما به طور تصاعدی افزایش یافته است. اما آیا خرد ما همگام شده است؟

طی هفته گذشته، ایسلند این مسئله را نه تنها از طریق یک نشست متعارف دیگر، بلکه از طریق سفری از خاطره به گفتگو و از گفتگو به مسئولیت بررسی کرده است.

ما با یک نمایشگاه سیار از موزه یادبود صلح هیروشیما و شهادت یکی از بازماندگان بمباران اتمی شروع کردیم. با گذشت بیش از ۸۰ سال، او هنوز آنچه را که به‌عنوان ظهور ناگهانی هزار خورشید و به دنبال آن تخریب غیرقابل تصور، دهه‌ها بیماری ویرانگر، و انگی که بازماندگان متحمل شده‌اند، به وضوح به یاد می‌آورد. هیچ بحثی درباره بازدارندگی هسته‌ای نباید جان انسان‌ها را در پشت این سخنان نادیده بگیرد.

سپس با وعده‌ها و خطرات هوش مصنوعی با کارشناسان فناوری، از جمله تریستان هریس و آزا راسکین مواجه شدیم. سوال اصلی فقط این نبود که هوش مصنوعی چه کاری می تواند انجام دهد، بلکه این بود که چه کاری باید به آن اجازه دهیم – و چه کسی باید تصمیم بگیرد.

شاید مهم ترین گفتگوها اما دور از سالن کنفرانس اتفاق افتاد.

در سراسر ایسلند، جوانان از هموطنان خود دعوت کردند تا تلفن های خود را زمین بگذارند و در کنار هم بنشینند تا در مورد آینده ای که می خواهند بسازند گفتگو کنند. دانش آموزان، والدین، پدربزرگ ها و مادربزرگ ها، معلمان و همسایگان درباره آموزش، تعلق، فناوری، طبیعت و صلح صحبت کردند.

جوانان از بزرگسالان نمی خواستند که با همه پاسخ ها به آنجا برسند. آنها می خواستند شنیده شوند. جدی گرفته شود. داشتن صدایی در تصمیماتی که زندگی آنها را مدتها پس از خروج رهبران امروزی شکل می دهد.

آنها چیزی را فهمیدند که ما اغلب فراموش می کنیم: تصمیماتی که به دور از افرادی که بر آنها تأثیر می گذارند گرفته می شود به ندرت عاقلانه است.

زیرا گفت و گو فراتر از تبادل نظر است. در بهترین حالت، این یک عمل به رسمیت شناختن است: من شما را می بینم. تجربه شما مهم است آینده شما مهم است حتی وقتی با هم مخالفیم، مسئولیت چیزهای بعدی را با هم تقسیم می کنیم.

هدف گفتگو همیشه اجماع نیست. اتصال است. و ارتباط جایی است که اعتماد آغاز می شود. بدون اعتماد، حتی درخشان ترین راه حل ها برای ریشه یابی تلاش می کنند.

ما این روحیه را به خانه هوفی بازگرداندیم، جایی که رهبران سیاست، فناوری، علم، تجارت و جامعه مدنی گرد هم آمدند تا بپرسند رهبری مسئولانه امروز از ما چه می‌خواهد.

نتیجه فراخوانی از ریکیاویک بود که توسط سه رئیس جمهور زن امضا شد و برای دیگرانی که مایل به پیوستن بودند، آزاد بود. این خواهان کنترل معنادار انسان بر فناوری های قدرتمند است، اصرار دارد که تصمیمات در مورد جنگ و سلاح های هسته ای به طور محکم در دستان انسان باقی بماند، و صلح و مسئولیت را به عهده آینده می گذارد.نسل ها در قلب رهبری

روز بعد، در یک گفتگوی عمومی که توسط روزنامه‌نگار مشهور کریستین امان‌پور، ناتاشا پیرک موزار، رئیس‌جمهور اسلوونی، رئیس‌جمهور سابق ایرلند، مری رابینسون و من مدیریت می‌شد، درباره انتخاب‌های پیش از بشریت فکر کردیم.

چهل سال پس از ملاقات دو مرد قدرتمند در ریکیاویک، سه زن – در واقع، سه رهبر جهان – گرد هم آمدند تا گفتگو را ادامه دهند. نه به این دلیل که زنان همه پاسخ ها را دارند. ما نداریم. اما از آنجا که پیشرفت به صداهای بیشتر، دیدگاه های بیشتر و تمایل به گوش دادن به تفاوت ها نیاز دارد. و چون آینده هرگز نباید تنها متعلق به کسانی باشد که در حال حاضر قدرت را در دست دارند.

من معتقد نیستم که گفتگو جایگزین نرمی برای رهبری باشد. من معتقدم که یکی از سخت ترین اشکال آن است.

گوش دادن به کسی که عمیقاً با او مخالفیم، شهامت می خواهد. فروتنی برای تصدیق چیزی که نمی دانیم. و قدرت مقاومت در برابر تقلیل چالش های پیچیده انسانی به شعارها، دشمنان یا پاسخ های ساده.

گفت و گو به معنای کنار گذاشتن ارزش هایمان، توجیه پرخاشگری یا پذیرش بی عدالتی نیست. همچنین جایگزینی برای عمل نیست. این است که چگونه شروع به ایجاد اعتماد و درک می کنیم که اقدام پایدار را ممکن می کند.

جنگ در اوکراین و غزه ما را به یاد هزینه های انسانی ویرانگر درگیری می اندازد. جنگ با کمک هوش مصنوعی بعد دیگری را اضافه می کند: خطر ایجاد فاصله بیشتر بین تصمیم گیرندگان و کسانی که با عواقب آن زندگی می کنند.

ما نباید قضاوت انسانی، مسئولیت پذیری و یاوجدان به ماشین ها

اما فناوری به تنهایی مشکل ساز نیست و فناوری به تنهایی نمی تواند پاسخی را ارائه دهد. ما همچنین به زیرساخت‌های انسانی قوی‌تری نیاز داریم: روابط، نهادها، ارزش‌های مشترک و عادت‌های همکاری که به ما امکان می‌دهد به طور جمعی به خطر واکنش نشان دهیم.

ما باید نسل بعدی را نه تنها به مهارت های فنی، بلکه به ظرفیت های عمیق انسانی برای شکل دادن به آینده خود مجهز کنیم: گوش دادن، تفکر انتقادی، همدلی، شجاعت و همکاری. در عصر ماشین‌های هوشمند، اینها ممکن است ضروری‌ترین مهارت‌های ما باشند.

ایسلند یک ملت کوچک است. ما نمی توانیم روند امور جهانی را دیکته کنیم. اما شاید اندازه ما چیزی را به ما یادآوری کند که کشورهای بزرگتر گاهی فراموش می کنند: هیچ کس نمی تواند به تنهایی آینده صلح آمیزی بسازد.

چهل سال پیش، ریکیاویک نشان داد که حتی عمیق‌ترین اختلاف‌ها نیز نیازی به تعیین سرنوشت ما ندارند. امروز ما به یک لحظه جدید ریکیاویک نیاز داریم. نه کسی که محدود به یک خانه، اجلاس، یا تعداد انگشت شماری از رهبران جهان باشد.

ما در پارلمان‌ها و اتاق‌های هیئت‌مدیره، کلاس‌های درس و جوامع، در بین نسل‌ها و بین ملت‌های درگیر به آن نیاز داریم. هر جا که ترس جای کنجکاوی را گرفته است، هر جا که مردم از گوش دادن دست کشیده اند، هر جا که قدرت از خرد پیشی گرفته است.

دنیا فاقد هوش، اطلاعات و جاه طلبی نیست. چیزی که اغلب ما فاقد آن هستیم، شجاعت برقراری ارتباط واقعی است.

البته گفت و گو به تنهایی ما را نجات نخواهد داد. اما بدون آن، من تلاش می کنم تا ببینم چگونه می توانیم خود را نجات دهیم.

آینده تنها با قدرت فناوری یا قدرت ما شکل نخواهد گرفتسلاح‌ها، اما با توجه به کیفیت مکالمات ما - و شجاعت انتخاب‌های بعدی.

خوشبختانه هنوز وقت داریم. و ما هنوز همدیگر را داریم.