الحكم البشري هو أقوى تكنولوجيا في عصر الذكاء الاصطناعي

كتبت هالا توماسدوتير: "لا ينبغي لنا أن نعهد بالحكم البشري أو المسؤولية أو الضمير إلى الآلات.

وفي أوكرانيا، قتلت طائرة روسية بدون طيار موجهة بالذكاء الاصطناعي ثلاثة مدنيين، من بينهم طالب جامعي يبلغ من العمر 19 عاما، في محطة وقود. وفي غزة، ساعدت أداة استخباراتية مدعومة بالذكاء الاصطناعي القوات الإسرائيلية في تعقب أحد قادة حماس. قتلته الغارة الجوية اللاحقة، وبحسب تقديرات مستقلة، قتلت ما لا يقل عن 125 آخرين.

حروب مختلفة، وظروف مختلفة، ولكن سؤال واحد مثير للقلق العميق: مع تزايد مشاركة الآلات في قرارات الحياة والموت، هل نفقد البشر الذين أصبحت حياتهم على المحك؟

أعادني هذا السؤال هذا الشهر إلى منزل أبيض صغير في ريكيافيك، أيسلندا.

قبل أربعين عاماً، التقى رونالد ريجان وميخائيل جورباتشوف في منزل هوفا، حيث كانا يمثلان القوى النووية العظمى المتنافسة التي انقسمت بسبب عقود من عدم الثقة. لقد غادروا دون اتفاق. ومع ذلك، فإن استعدادهم للتحدث والاستماع وتخيل ما يبدو مستحيلاً ساعد في تمهيد الطريق أمام التخفيض التاريخي للأسلحة النووية.

أتذكر تلك اللحظة جيدًا. كنت طالبًا أيسلنديًا شابًا أعيش في الولايات المتحدة وأشاهد لقاء اثنين من زعماء العالم في بلدي الصغير. لم أكن أتخيل قط أنه بعد مرور أربعين عاما، وأنا رئيسة لأيسلندا، سأعود إلى نفس المنزل لأطلب من جيل جديد من القادة أن يتحلوا بالشجاعة اللازمة للتعبير عن آرائهم.

إن الدرس الدائم المستفاد من ريكيافيك لا يتعلق ببساطة بالأسلحة النووية أو الدبلوماسية. يتعلق الأمر بالقوة الهائلة للتواصل والمحادثة البشرية. ويجب أن نتذكرها على الفور.

لم تكن لدينا وسائل اتصال أكثر تطورًا من قبل، ومع ذلك فإن قدرتنا على فهم بعضنا البعض تبدو هشة بشكل متزايد. نحن متصلون عبر القارات في أجزاء من الثانية، ولكن غالبًا ما يفصلنا الخوف والغضب وانعدام الثقة.

يمكن لتقنياتنا أن تُحدث ثورة في الطب والتعليم ورفاهية الإنسان. ومع ذلك، فإنها يمكن أن تؤدي أيضًا إلى التعجيل بالصراع، وتقويض الديمقراطية، وتحدي السيطرة البشرية.

بفضل التقنيات الجديدة مثل الذكاء الاصطناعي، زادت قوتنا بشكل كبير. لكن هل حكمتنا متزامنة؟

خلال الأسبوع الماضي، استكشفت أيسلندا هذه المسألة ليس من خلال اجتماع تقليدي آخر فحسب، بل من خلال رحلة من الذاكرة إلى الحوار ومن الحوار إلى المسؤولية.

بدأنا بمعرض متنقل لمتحف هيروشيما التذكاري للسلام وشهادة أحد الناجين من القصف الذري. وبعد مرور أكثر من 80 عامًا، لا يزال يتذكر بوضوح ما رآه ظهورًا مفاجئًا لألف شمس، أعقبه دمار لا يمكن تصوره، وعقود من الأمراض المدمرة، والوصمة التي تحملها الناجون. ولا ينبغي لأي مناقشة حول الردع النووي أن تتجاهل الحياة البشرية التي تكمن وراء هذه الكلمات.

ثم تناولنا وعود ومخاطر الذكاء الاصطناعي مع خبراء التكنولوجيا، بما في ذلك تريستان هاريس وأزا راسكين. والسؤال الكبير لم يكن ما يستطيع الذكاء الاصطناعي أن يفعله فحسب، بل ما الذي ينبغي لنا أن نسمح له بفعله ــ ومن الذي ينبغي له أن يقرر.

ولعل أهم المحادثات جرت بعيداً عن قاعة المؤتمر.

في جميع أنحاء أيسلندا، دعا الشباب مواطنيهم إلى ترك هواتفهم والجلوس معًا لمناقشة المستقبل الذي يريدون بنائه. تحدث الطلاب وأولياء الأمور والأجداد والمعلمون والجيران عن التعليم والانتماء والتكنولوجيا والطبيعة والسلام.

لم يرغب الشباب في أن يصل الكبار بكل الإجابات. لقد أرادوا أن يُسمعوا. يجب أن يؤخذوا على محمل الجد. أن يكون لهم صوت في القرارات التي تشكل حياتهم بعد فترة طويلة من رحيل قادة اليوم.

لقد فهموا شيئًا غالبًا ما ننساه: القرارات المتخذة بعيدًا عن الأشخاص الذين يؤثرون عليهم نادرًا ما تكون حكيمة.

لأن الحوار أبعد من تبادل الآراء. وفي أحسن الأحوال، يكون هذا بمثابة اعتراف: أنا أراك. تجربتك مهمة، مستقبلك مهم حتى عندما نختلف، فإننا نتقاسم المسؤولية عما سيأتي بعد ذلك.

إن هدف الحوار ليس دائماً الإجماع. الاتصال هو والتواصل حيث تبدأ الثقة. بدون الثقة، حتى الحلول الأكثر روعة تكافح من أجل ترسيخ جذورها.

لقد أعادنا هذه الروح إلى هوفا هاوس، حيث اجتمع قادة السياسة والتكنولوجيا والعلوم والأعمال والمجتمع المدني للتساؤل عما تتطلبه القيادة المسؤولة منا اليوم.

وكانت النتيجة مكالمة من ريكيافيك موقعة من ثلاث رئيسات ومفتوحة للآخرين الذين يرغبون في الانضمام. فهو يدعو إلى سيطرة بشرية ذات معنى على التكنولوجيات القوية، ويصر على أن القرارات المتعلقة بالحرب والأسلحة النووية تظل في أيدي البشر، ويترك السلام والمسؤولية للمستقبل. الأجيال في قلب القيادة

وفي اليوم التالي، وفي مناقشة عامة أدارها الصحفي الشهير كريستيان أمانبور، قمت أنا ورئيسة سلوفينيا ناتاشا بيرك موزار، ورئيسة أيرلندا السابقة ماري روبنسون، بالتأمل في الاختيارات التي كانت قبل البشر.

بعد مرور أربعين عاماً على لقاء رجلين قويين في ريكيافيك، اجتمعت ثلاث نساء - في الواقع، ثلاث من زعماء العالم - لمواصلة المحادثة. ليس لأن النساء لديهن كل الإجابات. ليس لدينا ولكن لأن التقدم يتطلب المزيد من الأصوات، والمزيد من وجهات النظر، والاستعداد للاستماع إلى الاختلافات. ولأن المستقبل لا ينبغي أن ينتمي أبدًا إلى من يملكون السلطة حاليًا.

ولا أعتقد أن الحوار بديل سهل عن القيادة. أعتقد أنه من أصعب أشكاله.

يتطلب الأمر شجاعة للاستماع إلى شخص نختلف معه بشدة. التواضع أن نعترف بما لا نعرف. والقدرة على مقاومة اختزال التحديات الإنسانية المعقدة في شعارات أو أعداء أو إجابات بسيطة.

والحوار لا يعني التخلي عن قيمنا أو تبرير العدوان أو القبول بالظلم. كما أنها ليست بديلاً عن العمل. وهذه هي الطريقة التي نبدأ بها في بناء الثقة والتفاهم الذي يجعل العمل المستدام ممكنًا.

إن الحربين في أوكرانيا وغزة تذكرنا بالتكاليف الإنسانية المدمرة للصراع. تضيف الحرب المدعومة بالذكاء الاصطناعي بعدًا آخر: خطر خلق مسافة أكبر بين أولئك الذين يتخذون القرارات وأولئك الذين يعيشون مع العواقب.

لا ينبغي لنا أن نسند الحكم البشري أو المسؤولية أو الضمير إلى الآلات

لكن التكنولوجيا وحدها ليست هي المشكلة، ولا يمكن للتكنولوجيا وحدها أن تقدم الحل. ونحن بحاجة أيضاً إلى بنية تحتية بشرية أقوى: العلاقات والمؤسسات والقيم المشتركة وعادات التعاون التي تمكننا من الاستجابة للمخاطر بشكل جماعي.

ويتعين علينا أن نزود الجيل القادم ليس فقط بالمهارات التقنية، بل وأيضا بالقدرات البشرية العميقة لتشكيل مستقبلنا: الاستماع، والتفكير النقدي، والتعاطف، والشجاعة، والتعاون. وفي عصر الآلات الذكية، قد تكون هذه هي مهاراتنا الأكثر أهمية.

أيسلندا دولة صغيرة. لا يمكننا أن نملي مسار الشؤون العالمية. ولكن ربما يذكرنا حجمنا بشيء تنساه البلدان الأكبر حجما في بعض الأحيان: لا يستطيع أحد أن يبني مستقبلا سلميا بمفرده.

قبل أربعين عاما، أظهرت ريكيافيك أنه حتى أعمق الخلافات لا ينبغي لها أن تحدد مصيرنا. اليوم نحن بحاجة إلى لحظة ريكيافيك جديدة. ولا يقتصر الأمر على مجلس واحد، أو قمة واحدة، أو حفنة من زعماء العالم.

ونحن بحاجة إليها في البرلمانات ومجالس الإدارة، وفي الفصول الدراسية والمجتمعات، عبر الأجيال وعبر الدول. أينما حل الخوف محل الفضول، وحيث توقف الناس عن الاستماع، وحيثما تغلبت القوة على الحكمة.

العالم لا يفتقر إلى الذكاء والمعلومات والطموح. ما نفتقر إليه غالبًا هو الشجاعة للتواصل حقًا.

وبطبيعة الحال، فإن الحوار وحده لن ينقذنا. لكن بدونها، أجد صعوبة في رؤية كيف يمكننا إنقاذ أنفسنا.

ولن يتشكل المستقبل من خلال قوة التكنولوجيا التي لدينا أو أسلحتنا فحسب، بل من خلال جودة محادثاتنا ــ وشجاعة اختياراتنا المقبلة.

ولحسن الحظ، لا يزال لدينا الوقت. وما زال لدينا بعضنا البعض.