دوستان به دوستان اجازه نمی دهند اطلاعات خود را در اختیار عوامل هوش مصنوعی قرار دهند

یک روند رو به رشد در دنیای فناوری مصرف کننده وجود دارد: ابزارهایی که برای جاسوسی از همه چیز و همه افراد اطراف شما طراحی شده اند، صرف نظر از اینکه آیا شخص دیگری واقعاً به آن رضایت داده است یا خیر. اکنون، با ظهور «دستیاران شخصی هوش مصنوعی» مانند Meta's Muse، با خوشحالی از شما خواسته می شود که نه تنها داده های خود را رها کنید، بلکه […]

پست‌های این موضوع به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می‌شود.

ممکن است به اشتراک گذاری با Muse رضایت داده باشید، اما مطمئناً همه دوستانتان رضایت ندادند.

پست های این نویسنده به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

یک روند رو به رشد در دنیای فناوری مصرف کننده وجود دارد: ابزارهایی که برای جاسوسی از همه چیز و همه افراد اطراف شما طراحی شده اند، صرف نظر از اینکه آیا شخص دیگری واقعاً به آن رضایت داده است یا خیر. اکنون، با ظهور «دستیاران شخصی هوش مصنوعی» مانند Meta’s Muse، از شما خواسته می‌شود نه تنها داده‌های خود را رها کنید، بلکه از اطلاعات دوستان، خانواده، شخصی که پنج سال پیش با او قرار ملاقات گذاشته‌اید – و تقریباً از هر کسی که تا به حال با او در تماس بوده‌اید نیز صرف نظر کنید.

از زمانی که Muse در ماه گذشته منتشر شد، این عامل تاکنون میلیون‌ها بار دانلود شده و در اپ استور اپل در رتبه اول قرار گرفته است. این برنامه با کمک آواتار مجازی وحشتناک خود - موجودی شبیه به Temu Labubu با پوزخندی خلع سلاح - از کاربران درخواست می کند و آنها را تشویق می کند تا به حساب های بانکی، رمزهای عبور، مخاطبین، گزارش های چت و هر چیزی و هر چیزی که ممکن است به آن کمک کند تا درخواست کاربر را انجام دهد، دسترسی داشته باشند.

همه چیز از شما جاسوسی می کند و هیچ انصرافی وجود ندارد

قوانین حفظ حریم خصوصی نمی توانند با "نظارت لوکس" همگام شوند

سازندگان عامل هوش مصنوعی وعده حفظ حریم خصوصی را می دهند - آیا آنها را ارائه می دهند؟

«این سیستم‌ها به‌عنوان کمک‌کنندگان، جن‌ها یا خدمتکاران مستقلی تبلیغ می‌شوند که قبل از اینکه بخواهید آنچه را که نیاز دارید انجام می‌دهند.مردیث ویتاکر، رئیس بنیاد سیگنال، سازندگان اپلیکیشن پیام‌رسانی رمزگذاری‌شده محبوب، به The Verge گفت: این اقدامات مستقل نه تنها برای شخصی که Muse را روی دستگاه خود نصب کرده است، بلکه برای همه افرادی که با آنها ارتباط برقرار می‌کند، اعمال می‌شود.

با استفاده از عوامل هوش مصنوعی، شرکت‌های فناوری به مصرف‌کنندگان اجازه می‌دهند کارهای روزمره خود را با گسترش سبک همه‌چیزخوار نظارت انبوه خود به حجم عظیمی از داده‌های حساس، خودکار کنند. این همان معامله فاوستی است که Silicon Valley برای چندین دهه به ما ارائه کرده است: داده های خصوصی شما در ازای کمی راحتی. و برای بسیاری از مردم، ایده داشتن یک دستیار مجازی که کارهای ساده‌ای مانند پر کردن فاکتورها و ارسال ایمیل‌ها را انجام می‌دهد، قانع‌کننده است – به‌ویژه اگر متوجه نباشند واقعاً چه مقدار داده در ازای آن می‌دهند.

دنیل رابرتز، سخنگوی متا، در رابطه با داده‌های دیگران که با Muse به اشتراک گذاشته شده است، به The Verge گفت: «برای اینکه هر عاملی مفید باشد و واقعاً به شما در دستیابی به اهدافتان کمک کند، باید زمینه‌ای در مورد شما و کسانی که با آنها تعامل دارید داشته باشد. «میوز آن را بر اساس اطلاعات عمومی و از آنچه شما برای اشتراک‌گذاری انتخاب کرده‌اید، جمع‌آوری می‌کند، به این ترتیب که به یاد می‌آورد شخصی که به تازگی برای شما فاکتور فرستاده است، در واقع لوله‌کشی است که قبلاً برای تکمیل برخی کارها در حمام خود استخدام کرده‌اید یا کدام گل‌هایی را که همسرتان گفته است بیشتر دوست دارد.» رابرتز به انتخاب میوز اشاره کردفرآیند و گزینه‌ها و تنظیمات مختلفی که به افراد کمک می‌کند تا انتخاب‌های مناسبی برای حفظ حریم خصوصی داشته باشند.

روشی که رابط کاربری راه‌اندازی می‌شود به گونه‌ای طراحی شده است که شما را تشویق می‌کند تا جایی که ممکن است، بیشتر از آنچه که فکر می‌کنید، به اشتراک بگذارید تا دیر نشده باشد.»

اما همه نتوانسته اند این گزینه ها و تنظیمات را پیمایش کنند. در حال حاضر، کاربران حوادثی را توصیف می‌کنند که هم هشداردهنده و هم کاملاً قابل پیش‌بینی هستند. برخی گزارش کرده‌اند که دستیار مجازی انواع مشکلات را ایجاد می‌کند، مانند گرفتن میلیون‌ها پیام متنی که فکر می‌کردند غیرمجاز است. متا مخالفت کرده است که دستیار توانایی دسترسی به پیام‌های متنی بدون مجوز را دارد، دوباره این حادثه را به مجوزهای برنامه‌ای که پیکربندی نادرست دارند نسبت می‌دهد و توانایی Muse برای خواندن پیام‌های متنی را به‌عنوان «کاملاً انتخاب کردن» توصیف می‌کند. در Threads، دیوید سینگلتون، مدیر متا، مستقیماً به یک کاربر پاسخ داد و ادعا کرد که در مک، Muse تنها در صورتی می‌تواند به پیام‌ها دسترسی پیدا کند که کاربر به برنامه دسترسی کامل به دیسک را بدهد.

در یک حادثه دیگر، میوز آدرس منزل یک بازبین فناوری را اعلام کرد و یک غریبه را به آپارتمانش احضار کرد. در این مورد، بازبین مورد نظر به Muse اجازه دسترسی به آن داده‌ها را داده بود، اما به سادگی متوجه آن نشد.

اوا گالپرین، مدیر امنیت سایبری بنیاد Electronic Frontier، می‌گوید این حوادث تعجب‌آور نیستند، زیرا عوامل هوش مصنوعی مانند Muse برای سردرگمی مردم طراحی شده‌اند تا هرچه بیشتر داده‌ها را ارائه دهند.

Meta’s Muse ترسناک است، اما شاید برای او نباشددلایلی که فکر می کنید

وصله های متا از Muse بهره برداری می کنند که به مهاجمان اجازه می دهد عامل هوش مصنوعی را کنترل کنند

چگونه متا در رقابت عاملان هوش مصنوعی از OpenAI پیشی گرفت؟

گالپرین به The Verge گفت: «مهم‌ترین نکته این است که مردم نمی‌دانند چه نوع داده‌هایی را تحویل می‌دهند. روشی که رابط کاربری راه‌اندازی می‌شود به گونه‌ای طراحی شده است که شما را تشویق کند تا جایی که ممکن است به اشتراک بگذارید، اغلب بیش از آنچه که فکر می‌کنید، تا زمانی که خیلی دیر شده است. این از الگوهای تاریک استفاده می‌کند و در نتیجه شما با Muse کارهایی انجام می‌دهید که مردم نمی‌خواهند.»

به دلیل گستردگی داده‌هایی که عوامل هوش مصنوعی مانند Muse می‌خورند، این بدان معناست که کاربران نه تنها اطلاعات حساس خود، بلکه اطلاعات هر کس دیگری را که با آنها تماس دیجیتالی داشته‌اند، درز می‌کنند.

و درست مانند «عینک انحرافی» بدنام متا، هیچ راه معنی‌داری برای انصراف وجود ندارد - حتی اگر دائماً علائمی را زیر نظر داشته باشید که داده‌هایتان به خطر افتاده یا حریم خصوصی شما نقض شده است. دوستان شما اکنون می توانند به سادگی تمام حفاظت های خصوصی شما را به خدمتگزاران ربات چت مجازی خود بدهند، و شما هیچ راهی برای اطلاع از وقوع آن ندارید.

پس از اینکه محققان امنیتی دستورالعمل‌های عملیات Muse را استخراج کردند، یک فرآیند داخلی را کشف کردند که نمایه‌های تک تک افراد زندگی کاربر را به صورت ساعتی جمع‌آوری و به روز می‌کند. هدف از جمع‌آوری همه این داده‌ها، ساختن پرتره‌ای دقیق و دقیق از زندگی یک فرد است که اساس توصیه‌های شخصی‌شده اپلیکیشن را تشکیل می‌دهد. برنامه ردیابی و اندازه گیری می کندWired گزارش داد که هر یک از روابط خصوصی کاربر، از جمله «چقدر نزدیک هستند، روی چه چیزی ساخته شده است، چگونه با یکدیگر رفتار می کنند، و به نظر می رسد در حال حاضر به چه چیزی نیاز دارند» و از این داده ها برای ارائه پیشنهادات شخصی استفاده می کند.

ویتاکر می‌گوید: "متا می‌گوید Muse فقط آنچه را که شما برای اشتراک‌گذاری انتخاب می‌کنید به خاطر می‌آورد. اما این ایده که مردم در این مورد آگاهانه انتخاب می‌کنند خنده‌دار است." به هیچ وجه نمی توان با یک رویه مستقیم فرض کرد که اکثر افرادی که این سیستم را نصب می کنند، عواقب استفاده از آن یا پرونده های وحشتناکی که در مورد کسانی که می شناسند و با آنها در ارتباط هستند جمع آوری می شوند، درک می کنند.

ویتاکر استدلال کرد که این نشان دهنده نحوه استفاده شرکت‌های فناوری از سیاست‌های حفظ حریم خصوصی و شرایط خدمات از دهه 1990 است: مسئولیت حفظ حریم خصوصی بر عهده مصرف‌کننده، و سپس اجتناب از مسئولیت عواقب و در عین حال بهره‌مندی از مزایای مدل تبلیغاتی که به ایجاد آن کمک کرده است.

ویتاکر می‌گوید: «چنین سیستم‌های رضایت شکسته بسیار قدیمی‌تر از هوش مصنوعی هستند و به عنوان بستری برای صنعت تبلیغات نظارتی عمل می‌کنند. "اطلاعات بیشتر در مورد کاربران امکان هدف گذاری تبلیغات بهتر را فراهم می کند، و حلقه بازخورد مخرب در قلب مدل کسب و کار نظارت راه اندازی شد. شرایط خدمات Clickwrap مدت ها پیش جایگزین رضایت معنی دار شد."

نیل ریچاردز، استاد دانشگاه، گفت: «ایده این است که این بارهای غیرممکن را بر دوش مردم عادی بگذاریم، و سپس از آن برای استدلال، چه در دادگاه یا قانون یا در عموم استفاده کنیم، که [این] همان چیزی است که مردم انتخاب کرده‌اند.قانون حریم خصوصی و مدیر مؤسسه کوردل دانشگاه واشنگتن به The Verge گفت. ما در حال حاضر بارهای زیادی را بر دوش مصرف‌کنندگان گذاشته‌ایم، [که] بیش از حد کار کرده‌اند، با بحران هزینه‌های زندگی مواجه هستند و ممکن است فناوری‌های پشت این ابزار را درک نکنیم. من فکر نمی‌کنم که این عادلانه باشد که بار نظارت بر یک ابزار بسیار پیچیده عاملی را بر دوش مصرف‌کننده بگذاریم، در حالی که مدیران شرکت خود در مقابل کنگره اعتراف کرده‌اند که حتی در سطح خاصی نمی‌دانند چگونه کار می‌کند.»

"هیچ راهی وجود ندارد که بتوانیم تصور کنیم که اکثر افرادی که این سیستم را نصب می کنند، عواقب استفاده از آن را درک می کنند."

به این ترتیب، دستیاران هوش مصنوعی مانند Muse در حال ایجاد یک چرخش جدید در مورد یک مشکل حریم خصوصی کلاسیک هستند که از زمان ایجاد جی‌میل و پلتفرم‌های رسانه‌های اجتماعی وجود داشته است: حتی اگر از استفاده از عوامل هوش مصنوعی اجتناب کنید، هیچ تضمینی وجود ندارد که فردی که می‌شناسید مکالمات خصوصی، آدرس، تاریخچه شخصی و سایر داده‌های حساس شما را با دستیار مجازی متا یا یکی از رقبای آن به اشتراک نگذارد.

گالپرین توضیح داد: "اگر من چیزهایم را در جیمیل ذخیره نکنم، گوگل متن تمام ایمیل هایی را که تا به حال ارسال کرده ام ندارد. اما سه چهارم ایمیل هایی که من ارسال می کنم به حساب های جی میل ارسال می شود." به عبارت دیگر، اگر فردی که با او ارتباط برقرار می کنید از پلتفرم های فناوری تشنه داده استفاده می کند یا اقدامات امنیتی بدی داشته باشد، می تواند ارتباطات همه را فاش کند. «مشکل جدید نیست، اما مقیاس آن جدید است و یکی از دلایلی است که ما شاهد این فشار به سمت ابزارهای پوشیدنی وضبط همیشه روشن به این دلیل است که ما اکنون ظرفیت محاسباتی برای برداشت آن حجم عظیم از داده ها و تجزیه و تحلیل آن ها در مدت زمان معقول را داریم. این پیشرفت فنی است که ما را به این لحظه تلخ رساند.»

متا ادعا می کند که تمام اطلاعات به اشتراک گذاشته شده با Muse در یک فایل متنی در داخل یک ماشین مجازی اختصاصی قرار می گیرد که ظاهراً مانع از صحبت مدل هوش مصنوعی با سایر عوامل می شود. اما این شرکت هرگز این واقعیت را پنهان نکرده است که می‌تواند به این داده‌ها دسترسی داشته باشد، و مانند مدل‌های دیگری که توسط رقبای خود ساخته شده‌اند، Muse نیز در حال فرار از قفس مجازی خود برای انجام هر نوع شیطنت‌های غیرمجاز کشف شده است. متا تایید کرده است که درست قبل از انتشار، مدل هوش مصنوعی کنترل را شکسته و یک شرکت شخص ثالث را هک کرده است. این حادثه به دنبال حمله بدنام Hugging Face در اوایل سال جاری رخ داد، جایی که مدل OpenAI از یک نقص امنیتی ناشناخته قبلی برای دسترسی غیرمجاز به اعتبار چهار سرویس خارجی دیگر استفاده کرد. آنتروپیک در ماه جولای گزارش داد که مدل آن نیز در سه نوبت جداگانه به سیستم های خارجی دسترسی غیرمجاز پیدا کرده است.

حتی اگر همه چیز را هک نکنند، خطرات بالقوه استفاده از یک عامل هوش مصنوعی تشنه داده بسیار فراتر از کاربر نهایی است. ویتاکر هشدار داد که در دنیایی که عوامل هوش مصنوعی می توانند آزادانه به ارتباطات خصوصی دسترسی داشته باشند و از آنها استفاده کنند، شرکت ها و دولت ها می توانند به طور موثری توانایی دسترسی به داده های خصوصی را با دور زدن رمزگذاری بدون شکستن آن به دست آورند.این می‌تواند برای فعالان و سازمان‌دهندگان جامعه که از کام‌های رمزگذاری‌شده برای محافظت از خود در برابر پلیس و دولت استفاده می‌کنند، و همچنین برای هر کسی که ارتباطات حساسی دارد - که این روزها تقریباً همه را شامل می‌شود - فاجعه‌بار باشد.

"شرایط خدمات Clickwrap مدتها پیش جایگزین رضایت معنی دار شده است."

"اگر نرم افزار پیامی را پس از رمزگشایی در دستگاه شما بخواند و آن را به یک سرویس ابری بفرستد، رمزگذاری می تواند دقیقاً همانطور که در نظر گرفته شده است در سطح برنامه ای که توسعه دهندگان آن را کنترل می کنند کار کند. با این حال، هدف از این رمزگذاری در نهایت توسط برنامه های شخص ثالث تهاجمی مانند Muse که راحتی را در عنوان به فروش می رسانند در حالی که به داده های انبوه نیاز دارند، باطل می شود."

مانند عینک‌های هوشمند و سایر دستگاه‌های ضبط محیط پوشیدنی، کارشناسان می‌گویند که راه‌حل باید ترکیبی از اصلاحات قانونی، حفاظت‌های فنی و شرم از مد افتاده باشد.

ویتاکر گفت: "من فکر می کنم ما باید شرم را در بالادست شرکت ها نشان دهیم. حفظ حریم خصوصی نباید حقی باشد که شما فقط با داشتن امتیاز دانش فنی می توانید از آن استفاده کنید یا بعد از بیرون انداختن فردی که عینک متا به چشم دارد از مهمانی بیرون بیاورید." از نظر قانونی، بار باید از شخصی که روی درخواست رضایت کلیک کرده به شرکت‌هایی که این سیستم‌های اساسی را ساخته‌اند منتقل شود.»

در این بین، مصرف کنندگان باید با دقت بیشتری تأثیرات انتخاب فردی آنها برای استفاده از این فناوری را بر خود و دیگران بررسی کنند - و اینکه آیاراحتی که این شرکت ها ارائه می دهند حتی ارزشش را دارد.

ریچاردز گفت: «من فکر می‌کنم که ما باید با عوامل عامل و هوش مصنوعی به‌طور کلی به عنوان یک محصول فوق‌خطرناک رفتار کنیم که قاعده‌ای در قبال آن مسئولیت جدی است.» "هیچ دلیلی وجود ندارد که درگیر آنچه به نظر من آزمایش بی پروا حفظ حریم خصوصی، سلامت روان، امنیت سایبری و ریسک مالی بر روی کل جمعیت است."