سازندگان عامل هوش مصنوعی وعده حفظ حریم خصوصی را می دهند - آیا آنها را ارائه می دهند؟

در OpenAI DevDay امسال، سم آلتمن، مدیر عامل شرکت، عامل جدید هوش مصنوعی Dots را معرفی کرد - و به جمعیت گفت که این شرکت می‌خواهد "استاندارد جدیدی برای حفظ حریم خصوصی در هوش مصنوعی مرزی تعیین کند." OpenAI روز خود را به گرفتن عکس های پنهان از Meta's Muse، رقیب اصلی خود، به دلیل ناتوانی در حفظ امنیت داده های کاربران صرف می کند. […]

پست های این موضوع به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

متا عامل Muse خود را به عنوان جایگزین امن تری برای OpenClaw قرار داد. OpenAI قول می دهد که Dots جایگزین ایمن تری برای Muse باشد.

پست های این نویسنده به خلاصه ایمیل روزانه و فید صفحه اصلی شما اضافه می شود.

گزارشگر ارشد هوش مصنوعی The Verge است. او که بیش از پنج سال گزارشگری را شکست داد، کار او در CNBC، MIT Technology Review، Wired UK و سایر رسانه ها نیز منتشر شده است.

در OpenAI DevDay امسال، سم آلتمن، مدیر عامل شرکت، عامل جدید هوش مصنوعی Dots را معرفی کرد - و به جمعیت گفت که این شرکت می‌خواهد «استاندارد جدیدی برای حفظ حریم خصوصی در هوش مصنوعی مرزی تعیین کند». OpenAI روز خود را به گرفتن عکس های پنهان از Meta’s Muse، رقیب اصلی خود، به دلیل ناتوانی در حفظ امنیت داده های کاربران صرف می کند. با این حال، خود Muse، چند ماه قبل، به عنوان جایگزین ظاهراً ایمن‌تری برای OpenClaw قبلی راه‌اندازی کرده بود – با مدیرعامل مارک زاکربرگ که قول داده بود «از پایه برای حفظ حریم خصوصی و امنیت ساخته شده است».

در عصری که شرکت‌ها داده‌های شخصی مشتریان را احتکار می‌کنند و حملات سایبری تقریباً یک دوجین است، آزمایشگاه‌های هوش مصنوعی در تلاش هستند تا کاربران را متقاعد کنند تا اطلاعات بیشتری را با نمایندگان خود به اشتراک بگذارند. آخرین استراتژی آنها برای موفقیت این است که با قول دادن به این که برخلاف رقبای خود، داده های کاربر را از چشمان کنجکاو دور نگه می دارند، رقبا را به یکباره ارتقا دهند. سوال این است که آیا شرکت ها می توانند به این وعده ها عمل کنند؟

نات فریدمن، رئیس محصول متا سوپراینتلیجنسLabs، در X نوشت که "هدف شرکت با muse این بود که چیزی مانند openclaw بسازد که بتوانیم آن را ایمن و ایمن و آسان برای استفاده و مقیاس آن را برای میلیاردها نفر ایجاد کنیم." اطلاعات کاربر در یک VM ایمن ذخیره می شود، چیزی که زاکربرگ به عنوان یک رایانه لینوکس ایزوله با مرورگر، CPU، حافظه و فضای ذخیره سازی توصیف کرد. این شرکت گفت که بیشتر تلاش ها در ساخت Muse مربوط به "طراحی دقیق و مهندسی برای بهره برداری ایمن تر از آن است." پست وبلاگ متا ادامه داد: "Muse می تواند و هنوز هم می تواند اشتباه کند، اما ما انتظار داریم که این اشتباهات بسیار کمتر باشد و به دلیل سیستم های ایمنی که ما ساخته ایم، آسیب بسیار کمتری ایجاد کنند."

چگونه متا در رقابت عاملان هوش مصنوعی از OpenAI پیشی گرفت؟

اما اگرچه Muse در صدر جدول اپ استور قرار گرفت و طبق برنامه Apptopia، 600000 کاربر فعال روزانه در ایالات متحده در عرض چند هفته به دست آورد، به نظر می‌رسد وعده‌های متا کوتاهی کرده است. اگرچه داده ها از سایر کاربران جدا شده است و این شرکت قصد دارد تا اواخر سال جاری راهی را برای "ممانعت از دسترسی متا به داده ها در ماشین مجازی شما به صورت رمزنگاری و قابل تایید" معرفی کند، اما خود متا همچنان می تواند به داده ها دسترسی داشته باشد. یک محقق امنیتی به سرعت آسیب‌پذیری روز صفر را افشا کرد که می‌توانست به کسی اجازه دهد کنترل Muse را در دست بگیرد (که از آن زمان اصلاح شده است) و ترس از حملات خارجی را افزایش می‌دهد. گزارش‌ها حاکی از آن است که چندین مشکل امنیتی جدی در آخرین لحظه قبل از راه‌اندازی ظاهر شد، که یکی از آنها می‌توانست به کاربران امکان دسترسی به پایگاه‌های داده داخلی متا را در هر 404 Media بدهد.

همچنین به نظر می رسد میوز به طور آزادانه جمع آوری می کند (و در برخی موارد، دستخارج) داده ها پیش‌فرض به Meta اجازه می‌دهد تا مدل‌هایی را که کاربران در آن قرار می‌دهند آموزش دهد، اگرچه امکان انصراف وجود دارد. یک خبرنگار شرکت شکایت کرد که میوز پیام‌های خصوصی او را بدون درخواست او آپلود کرده و خوانده است، و یک کاربر یوتیوب گفت که آدرس او را از طریق Marketplace به غریبه‌ای ارائه کرده است - در هر دو مورد، Muse ظاهراً همانطور که می‌خواست کار می‌کرد، اما کاربر متوجه نشد که تا کجا پیش خواهد رفت. همانطور که Wired گزارش داده است، این پلتفرم "نمایه های دقیق همه دوستان و خانواده شما" را ایجاد می کند. هیچ‌کدام از این موارد لزوماً از سوی متا غیرمنتظره نیست، اما مطمئناً این ایده را تأیید نمی‌کند که Muse منحصراً به حفظ حریم خصوصی یا امنیتی توجه دارد.

OpenAI هنگام اعلام Dots در اواخر سپتامبر از این واقعیت استفاده کرد. الکساندر امبیریکوس، سرپرست محصول OpenAI Codex، روی صحنه در DevDay گفت که OpenAI بر داشتن «معتمدترین، ایمن‌ترین و مطمئن‌ترین دستیار» متمرکز است و مدیر عامل شرکت Sam Altman راه‌هایی را نشان داد که افراد می‌توانند بر روی نقطه‌های فردی خود کنترل داشته باشند، مانند تعیین یک قانون که هرگز نباید بیش از یک مقدار دلار خرید کند. گلن کوتس، رئیس پلتفرم اپلیکیشن OpenAI، گفت: «فکر می‌کنم ما در موقعیت متفاوتی نسبت به متا هستیم، زیرا آن‌ها محصولی با هوش مصنوعی ندارند که ۱.۲ میلیارد کاربر داشته باشد.

خود آلتمن نیز در DevDay زاویه حریم خصوصی را تحت فشار قرار داد. مدیران اجرایی چارچوبی را برای مشتریان تجاری ارائه کردند که به شرکت‌ها اجازه می‌داد از آن استفاده کنند«کنترل‌های قوی‌تر» روی داده‌ها و گزینه‌های خط‌مشی حفظ داده صفر (به این معنی که هیچ داده‌ای در سرورهای OpenAI ذخیره نمی‌شود). در واقع، تا کنون، رسوایی‌های حفظ حریم خصوصی زیادی با Dots وجود نداشته است - اگرچه از آنجایی که فقط در سطوح اشتراک ChatGPT 100 دلاری و بالاتر در دسترس است، احتمالاً افراد کمتری نیز از آن استفاده می‌کنند.

مردم ممکن است هنوز احساس راحتی نداشته باشند که به OpenAI داده های شخصی خود را بدهند، تا حدی به این دلیل که عوامل هوش مصنوعی به مقدار زیادی از آن نیاز دارند. به عنوان مثال، آلیسون جانسون از The Verge هنگام تایپ کردن اطلاعات بانکی خود احساس ناراحتی می کرد که ربات به عنوان بخشی از یک کار مرتبط درخواست کرد (Muse دارای یک ادغام Stripe برای مراقبت از آن است).

البته همه شرکت ها قول حفظ حریم خصوصی نمی دهند. Instinct به دلیل شرایط بسیار گسترده خدمات که به آن دسترسی نامحدود به داده ها را می داد، به طور عمومی مورد انتقاد قرار گرفت. از آن زمان، به نظر می رسد این شرکت تنظیماتی را انجام داده است. در حال حاضر، به نظر می‌رسد آزمایشگاه‌های هوش مصنوعی روی یک رویکرد سه بخشی برای محبوب کردن استفاده از عامل هوش مصنوعی در بین عموم حساب می‌کنند: آنها را مفید کنید، آنها را زیبا و خلع سلاح کنید تا خزنده را خنثی کنید، و وعده‌هایی در مورد حفظ حریم خصوصی بدهید - و امیدواریم که عمل کنند.

"جنون محض": ریاضیدانان سالها نیاز دارند تا آخرین سقوط OpenAI را درک کنند

فاش شدن GTA VI با یک ویدیوی گیم پلی طولانی (و بسیار برهنه) ادامه دارد

آنتروپیک «رفتار توهین آمیز یا بی رحمانه» را نسبت به کلود ممنوع می کند

الفهفته با Googlebooks: چهار یادداشت از آزمایش ما تاکنون

خلاصه روزانه رایگان از اخباری که بیشترین اهمیت را دارند.

با ارائه اطلاعات خود، با شرایط استفاده و سیاست حفظ حریم خصوصی ما موافقت می کنید. ما از فروشندگانی استفاده می کنیم که ممکن است اطلاعات شما را نیز پردازش کنند تا به ارائه خدمات ما کمک کنند. این سایت توسط reCAPTCHA محافظت می شود و خط مشی رازداری Google و شرایط خدمات اعمال می شود.