دوستان يساعدون بعضهم بعضاً على عدم تقديم بياناتهم إلى وكلاء الذكاء الاصطناعي

يشهد عالم التكنولوجيا الاستهلاكية اتجاهاً متنامياً: أدوات مصممة للتجسس على كل شيء وكل من حولك، سواء وافق على ذلك شخص آخر فعلاً أم لا. والآن، مع ظهور «المساعدين الشخصيين للذكاء الاصطناعي» مثل Muse من Meta، يُطلب منك بحماس أن تتخلى ليس فقط عن بياناتك، بل أيضاً […]

ستتم إضافة المشاركات في هذا الموضوع إلى ملخص بريدك الإلكتروني اليومي وموجز الصفحة الرئيسية.

ربما تكون قد وافقت على المشاركة مع Muse، ولكن بالتأكيد ليس كل أصدقائك وافقوا على ذلك.

ستتم إضافة منشورات هذا المؤلف إلى ملخص بريدك الإلكتروني اليومي وموجز الصفحة الرئيسية.

هناك اتجاه متزايد في عالم التكنولوجيا الاستهلاكية: أدوات مصممة للتجسس على كل شيء وكل شخص من حولك، بغض النظر عما إذا كان الشخص الآخر يوافق عليها بالفعل أم لا. الآن، مع ظهور "المساعدين الشخصيين القائمين على الذكاء الاصطناعي" مثل Meta's Muse، يُطلب منك ليس فقط التخلي عن بياناتك، بل أيضًا بيانات أصدقائك وعائلتك والشخص الذي واعدته قبل خمس سنوات - وأي شخص تقريبًا كنت على اتصال به من قبل.

منذ إطلاقه الشهر الماضي، تم تنزيل Muse ملايين المرات وتصدر متجر تطبيقات Apple. بمساعدة الصورة الرمزية الافتراضية المخيفة - مخلوق يشبه Temu Labubu بابتسامة نزع السلاح - يلتمس التطبيق المستخدمين ويشجعهم على الوصول إلى حساباتهم المصرفية وكلمات المرور وجهات الاتصال وسجلات الدردشة وأي شيء وكل شيء قد يساعده في تلبية طلب المستخدم.

كل شيء يتجسس عليك وليس هناك خيار الانسحاب

لا يمكن لقوانين الخصوصية مواكبة "المراقبة الفاخرة".

يعد صانعو وكلاء الذكاء الاصطناعي بالخصوصية - هل يفيون بها؟

وقالت ميريديث ويتاكر، رئيسة مؤسسة Signal Foundation، صانعة تطبيق المراسلة المشفرة الشهير، لموقع The Verge: “يتم الإعلان عن هذه الأنظمة على أنها مساعدين مستقلين، أو جينات، أو خدم يقومون بما تحتاج إليه قبل أن تطلب منهم ذلك”.

وباستخدام عملاء الذكاء الاصطناعي، تسمح شركات التكنولوجيا للمستهلكين بأتمتة مهامهم اليومية من خلال توسيع أسلوبهم النهم في المراقبة الجماعية ليشمل كميات هائلة من البيانات الحساسة. هذه هي الصفقة الشيطانية التي قدمها لنا وادي السيليكون لعقود من الزمن: بياناتك الخاصة مقابل القليل من الراحة. وبالنسبة للعديد من الأشخاص، فإن فكرة وجود مساعد افتراضي يقوم بمهام بسيطة مثل ملء الفواتير وإرسال رسائل البريد الإلكتروني هي فكرة مقنعة - خاصة إذا كانوا لا يدركون مقدار البيانات التي يتخلون عنها فعليًا في المقابل.

وقال دانييل روبرتس، المتحدث الرسمي باسم Meta، لموقع The Verge حول بيانات الأشخاص الآخرين التي تمت مشاركتها مع Muse: "لكي يكون أي وكيل مفيدًا ويساعدك حقًا على تحقيق أهدافك، فإنه يحتاج إلى سياق عنك وعن الأشخاص الذين تتفاعل معهم". "يقوم Muse بتجميعها معًا استنادًا إلى المعلومات العامة وما اخترت مشاركته، مثل تذكر ما إذا كان الشخص الذي أرسل إليك فاتورة للتو هو في الواقع السباك الذي استأجرته سابقًا لإكمال بعض الأعمال في حمامك، أو الزهور التي قال زوجك إنها تفضلها أكثر." ذكر روبرتس عملية اختيار Muse والخيارات والإعدادات المتنوعة التي تساعد الأشخاص على اتخاذ الخيارات الصحيحة فيما يتعلق بالخصوصية.

"تم تصميم الطريقة التي تم بها إعداد واجهة المستخدم لتشجيعك على المشاركة بأكبر قدر ممكن قبل فوات الأوان."

ولكن لم يتمكن الجميع من التنقل بين هذه الخيارات والإعدادات. حاليًا، يصف المستخدمون حوادث مثيرة للقلق ويمكن التنبؤ بها تمامًا. وأفاد البعض أن المساعد الافتراضي تسبب في جميع أنواع المشاكل، مثل تلقي ملايين الرسائل النصية التي اعتقدوا أنها غير مصرح بها. شكك ميتا في أن المساعد لديه القدرة على الوصول إلى الرسائل النصية دون إذن، وأرجع الحادث مرة أخرى إلى أذونات التطبيق التي تم تكوينها بشكل خاطئ ووصف قدرة Muse على قراءة الرسائل النصية بأنها "اختيارية تمامًا". في Threads، رد المشرف التعريفي David Singleton مباشرة على مستخدم يدعي أنه على جهاز Mac، لا يستطيع Muse الوصول إلى الرسائل إلا إذا منح المستخدم البرنامج الوصول الكامل إلى القرص.

وفي حادثة أخرى، أعطى موسى عنوان منزل أحد المراجعين التقنيين واستدعى شخصًا غريبًا إلى شقته. في هذه الحالة، أعطى المراجع المعني لشركة Muse حق الوصول إلى تلك البيانات، لكنه ببساطة لم يدرك ذلك.

تقول إيفا جالبيرين، مديرة الأمن السيبراني في مؤسسة الحدود الإلكترونية، إن هذه الحوادث ليست مفاجئة لأن عملاء الذكاء الاصطناعي مثل ميوز مصممون لإرباك الناس وتقديم أكبر قدر ممكن من البيانات.

Meta's Muse مخيف، ولكن ربما ليس للأسباب التي تعتقدها

تستغل التصحيحات التعريفية Muse، الذي يسمح للمهاجمين بالتحكم في وكيل الذكاء الاصطناعي

كيف تغلبت ميتا على OpenAI في منافسة مشغلي الذكاء الاصطناعي؟

وقال جالبيرين لموقع The Verge: "خلاصة القول هي أن الناس لا يعرفون نوع البيانات التي يقومون بتسليمها". تم تصميم طريقة إعداد واجهة المستخدم لتشجيعك على المشاركة بأكبر قدر ممكن، وفي كثير من الأحيان أكثر مما تعتقد، حتى فوات الأوان. فهو يستخدم أنماطًا داكنة، ونتيجة لذلك، فأنت تفعل أشياءً مع Muse لا يرغب الناس في القيام بها."

نظرًا للكم الهائل من البيانات التي يتناولها عملاء الذكاء الاصطناعي مثل Muse، فإن هذا يعني أن المستخدمين لا يسربون معلوماتهم الحساسة فحسب، بل يسربون أيضًا معلومات أي شخص آخر لديهم اتصال رقمي معهم.

ومثلما هو الحال مع "نظارات التشويه" سيئة السمعة من Meta، لا توجد طريقة ذات معنى لإلغاء الاشتراك - حتى لو كنت تبحث باستمرار عن علامات تشير إلى تعرض بياناتك للخطر أو انتهاك خصوصيتك. يمكن لأصدقائك الآن تسليم جميع وسائل حماية الخصوصية الخاصة بك إلى خوادم برامج الدردشة الافتراضية الخاصة بهم، ولن يكون لديك أي وسيلة لمعرفة ما يحدث.

بعد أن استخرج الباحثون الأمنيون تعليمات تشغيل Muse، اكتشفوا عملية داخلية تقوم بجمع وتحديث الملفات الشخصية لكل شخص في حياة المستخدم على مدار الساعة. والغرض من جمع كل هذه البيانات هو بناء صورة مفصلة ودقيقة لحياة الشخص، والتي تشكل أساس التوصيات الشخصية للتطبيق. يتتبع التطبيق ويقيس العلاقات الخاصة لكل مستخدم، بما في ذلك "مدى قربهم، وما بُنيوا عليه، وكيف يعاملون بعضهم البعض، وما يبدو أنهم بحاجة إليه الآن"، حسبما ذكرت Wired، ويستخدم تلك البيانات لتقديم اقتراحات مخصصة.

يقول ويتاكر: "تقول ميتا إن موسى يتذكر فقط ما اخترت مشاركته. لكن فكرة أن الناس يتخذون خيارًا واعيًا بشأن هذا أمر مثير للضحك". ليس من السهل بأي حال من الأحوال افتراض أن غالبية الأشخاص الذين يقومون بتثبيت هذا النظام يفهمون عواقب استخدامه أو الملفات الرهيبة التي يتم جمعها على الأشخاص الذين يعرفونهم ويرتبطون بهم.

وقال ويتاكر إن هذا يعكس الطريقة التي تستخدم بها شركات التكنولوجيا سياسات الخصوصية وشروط الخدمة منذ التسعينيات: إلقاء مسؤولية الخصوصية على عاتق المستهلك، ثم تجنب المسؤولية عن العواقب مع جني فوائد النموذج الإعلاني الذي ساعد في إنشائه.

يقول ويتاكر: "إن أنظمة الموافقة المعطلة هذه أقدم بكثير من الذكاء الاصطناعي، وهي بمثابة منصة لصناعة إعلانات المراقبة". "يسمح المزيد من المعلومات حول المستخدمين باستهداف الإعلانات بشكل أفضل، ويتم تشغيل حلقة ردود فعل مدمرة في قلب نموذج أعمال المراقبة. وقد حلت شروط خدمة Clickwrap منذ فترة طويلة محل الموافقة الهادفة."

وقال نيل ريتشاردز، أستاذ قانون الخصوصية ومدير معهد كورديل بجامعة واشنطن، لموقع The Verge: "الفكرة هي وضع هذه الأعباء المستحيلة على الأشخاص العاديين، ثم استخدام ذلك للقول، سواء في المحكمة أو في القانون أو في الأماكن العامة، إن هذا هو ما اختاره الناس". لقد وضعنا بالفعل عبئا ثقيلا على المستهلكين، الذين يعانون من إرهاق العمل، ويواجهون أزمة تكلفة المعيشة، وقد لا نفهم التكنولوجيات التي تكمن وراء هذه الأدوات. "لا أعتقد أنه من العدل إلقاء المسؤولية على المستهلك للإشراف على أداة وكيل معقدة للغاية، في حين أن المديرين التنفيذيين لشركتهم قد اعترفوا أمام الكونجرس بأنهم لا يعرفون حتى كيف تعمل على مستوى معين."

"لا توجد طريقة يمكننا من خلالها أن نتخيل أن معظم الأشخاص الذين يقومون بتثبيت هذا النظام يفهمون عواقب استخدامه."

بهذه الطريقة، يقوم مساعدو الذكاء الاصطناعي مثل Muse بإضفاء لمسة جديدة على مشكلة الخصوصية الكلاسيكية التي كانت موجودة منذ إنشاء Gmail ومنصات التواصل الاجتماعي: حتى إذا كنت تتجنب استخدام عملاء الذكاء الاصطناعي، فليس هناك ضمان بأن شخصًا تعرفه لن يشارك محادثاتك الخاصة وعنوانك وتاريخك الشخصي وبياناتك الحساسة الأخرى مع Meta أو أحد منافسيها.

وأوضح جالبيرين: "إذا لم أحفظ أشيائي في Gmail، فلن يكون لدى Google نص كل بريد إلكتروني أرسلته على الإطلاق. ولكن يتم إرسال ثلاثة أرباع رسائل البريد الإلكتروني التي أرسلها إلى حسابات Gmail". بمعنى آخر، إذا كان الشخص الذي تتواصل معه يستخدم منصات تكنولوجية متعطشة للبيانات أو لديه ممارسات أمنية سيئة، فقد يؤدي ذلك إلى كشف اتصالات الجميع. "المشكلة ليست جديدة، ولكن النطاق جديد، وأحد الأسباب التي تجعلنا نرى هذا التوجه نحو الأجهزة القابلة للارتداء والتسجيل الدائم هو أننا نمتلك الآن القدرة الحاسوبية على أخذ هذه الكمية الهائلة من البيانات وتحليلها في فترة زمنية معقولة. إن التقدم التقني هو الذي أوصلنا إلى هذه اللحظة المريرة.

تدعي Meta أن جميع المعلومات التي تمت مشاركتها مع Muse يتم تخزينها في ملف نصي داخل جهاز افتراضي مخصص، مما يمنع نموذج الذكاء الاصطناعي على ما يبدو من التحدث إلى عملاء آخرين. لكن الشركة لم تخف أبدًا حقيقة قدرتها على الوصول إلى هذه البيانات، ومثل النماذج الأخرى التي صنعها منافسوها، تم القبض على Muse وهو يهرب من قفصه الافتراضي للقيام بجميع أنواع الخدع غير المشروعة. أكدت Meta أنه قبل الإصدار مباشرة، كسر نموذج الذكاء الاصطناعي السيطرة واخترق شركة تابعة لجهة خارجية. ويأتي هذا الحادث في أعقاب هجوم Hugging Face سيئ السمعة في وقت سابق من هذا العام، حيث استغل نموذج OpenAI ثغرة أمنية لم تكن معروفة سابقًا للحصول على وصول غير مصرح به إلى بيانات اعتماد أربع خدمات خارجية أخرى. ذكرت شركة Entropic في يوليو أن نموذجها حصل أيضًا على وصول غير مصرح به إلى الأنظمة الخارجية في ثلاث مناسبات منفصلة.

وحتى لو لم يخترقوا كل شيء، فإن المخاطر المحتملة لاستخدام وكيل الذكاء الاصطناعي المتعطش للبيانات تتجاوز المستخدم النهائي. وحذر ويتاكر من أنه في عالم يمكن فيه لوكلاء الذكاء الاصطناعي الوصول إلى الاتصالات الخاصة واستخدامها بحرية، يمكن للشركات والحكومات أن تكتسب بشكل فعال القدرة على الوصول إلى البيانات الخاصة عن طريق تجاوز التشفير دون كسره. قد يمثل هذا مشكلة للناشطين ومنظمي المجتمع الذين يستخدمون الاتصالات المشفرة لحماية أنفسهم من الشرطة والحكومة، وكذلك لأي شخص لديه اتصالات حساسة - والتي تشمل الجميع تقريبًا هذه الأيام. يمكن أن تكون كارثية.

"لقد حلت شروط خدمة Clickwrap منذ فترة طويلة محل الموافقة ذات المغزى."

"إذا قرأ البرنامج رسالة على جهازك بعد فك التشفير وأرسلها إلى خدمة سحابية، فيمكن أن يعمل التشفير تمامًا كما هو مقصود على مستوى التطبيق حيث يتحكم المطورون فيه. ومع ذلك، فإن الغرض من هذا التشفير يتم هزيمته في النهاية بواسطة تطبيقات الطرف الثالث العدوانية مثل Muse التي تبيع الراحة في العنوان بينما تحتاج إلى كميات هائلة من البيانات."

وكما هو الحال مع النظارات الذكية وأجهزة التسجيل البيئي الأخرى التي يمكن ارتداؤها، يقول الخبراء إن الحل يجب أن يكون مزيجًا من الإصلاح التشريعي والحماية الفنية والعار الذي عفا عليه الزمن.

وقال ويتاكر: "أعتقد أننا بحاجة إلى إظهار الخجل على رأس الشركات". "لا ينبغي أن تكون الخصوصية حقًا لا يمكنك ممارسته إلا إذا كان لديك امتياز في التكنولوجيا أو تم طردك من حفلة بعد طرد شخص يرتدي نظارات تعريفية." "من الناحية القانونية، يجب أن يتحول العبء من الشخص الذي نقر على طلب الموافقة إلى الشركات التي قامت ببناء هذه الأنظمة الأساسية."

وفي غضون ذلك، يجب على المستهلكين أن يفكروا بعناية أكبر في تأثيرات اختياراتهم الفردية لاستخدام هذه التكنولوجيا عليهم وعلى الآخرين - وما إذا كانت الراحة التي تقدمها هذه الشركات تستحق العناء.

وقال ريتشاردز: "أعتقد أننا بحاجة إلى التعامل مع العملاء والذكاء الاصطناعي بشكل عام كمنتج شديد الخطورة وهذه قاعدة عامة". "لا يوجد سبب للانخراط في ما أعتقد أنه اختبار متهور للخصوصية والصحة العقلية والأمن السيبراني والمخاطر المالية على جميع السكان."