شاید چت بات ها نباید بگویند «من» یا «من»

شری ترکل، پروفسور MIT هشدار می دهد که مردم به طور خطرناکی با چت ربات ها درگیر شده اند.

کتاب جدید او، صمیمیت مصنوعی: وقتی با ماشین‌ها صحبت می‌کنیم چه کسی می‌شویم، این قالب را می‌شکند. این یک هشدار جدلی است که ما به وضعیت اضطراری رسیده‌ایم که در آن انسانیت ما در معرض خطر اتکای بیش از حد به ماشین‌های بی‌روحی است که خود را معلمان، مربیان، دوستان، همکاران و عاشقان ما می‌دانند. ترکل به دنبال نوار بالایی از کتاب‌ها است - بهار خاموش، جنگل، ناامن با هر سرعتی - که عموم را نسبت به بحران‌های قریب‌الوقوع بیدار می‌کند.

اساساً، این استاد کوچک MIT، صنعت چند تریلیون دلاری را با حمایت دولتی می‌پذیرد که مشتاق است هوش مصنوعی را در هر گوشه از زندگی شخصی و حرفه‌ای ما تسریع بخشد.

استیون لوی: کتاب‌های قبلی شما نتایج تحقیقات شما را به‌عنوان یک دانشمند علوم اجتماعی گزارش کرده‌اند که اغلب به نتایج نگران‌کننده‌ای درباره نحوه تعامل مردم، به‌ویژه کودکان، با رایانه‌ها منجر می‌شود. اما این کتاب طوری می‌خواند که داری شیشه را می‌شکنی و زنگ آتش را می‌کشی. چرا شیفت؟

شری تورکل: مثل همه کتاب هایم، کنجکاو رفتم. اما پس از حدود 10 مصاحبه، که در طول همه گیری همه گیر انجام شد، دیگر حالت ذهنی من بی طرف نبود. این وحشتناک بود! این افراد در طول همه‌گیری همه‌گیر هستند، خانواده‌هایشان رنج می‌برند، با آنها تماس می‌گیرند، و با من صحبت می‌کنند که واقعاً چگونه می‌خواهند فقط با ربات چت خود ارتباط برقرار کنند. وقتی توانستم با مردم رو در رو مصاحبه کنم، خوشحال نبودم. مردم نمی خواهند در سیاست کاری انجام دهند زیرا آنها فقط می خواهند در سرزمین چت بات زندگی کنند. بنابراین قوس کتاب به این صورت ختم شد که - واقعیت به شما نیاز دارد.زمان بدتری برای دست کشیدن از واقعیت نمی توانست باشد.

شما می نویسید که رسانه های اجتماعی ما را برای این کار آماده کرده اند.

رسانه های اجتماعی با عادت کردن ما به این ایده که اگر غمگین یا آبی هستید، رایانه خود را باز کنید، ما را نرم کردند. بعد تو را دیوانه کرد و تو را نزد همنوع خود نگه داشت. اما اکنون ما این فناوری جدید را داریم که دلیلی برای اول شخص بودن ندارد.

آیا به نظر شما باید چت بات ها را از استفاده اول شخص منع کنیم؟

بله! پس از یک حرفه که اعتباری به عنوان دیوانه لودیت نداشتم، حال و حوصله این را ندارم که همه اینها را کنار بگذارم و بگویم همه ربات های چت همیشه سمی هستند. اما این بسیار خطرناک است، یک شیب لغزنده. این اساساً برای اینکه بگوییم ما نیازی به پرداخت هزینه برای روان درمانی نداریم، می توانیم از چت بات ها استفاده کنیم استفاده می شود. در هر مصاحبه جدی که انجام می‌دهم، مردم به این افسانه درباره تمرین اشاره می‌کنند - اینکه شما از چت‌بات‌ها برای تمرین برای صحبت با رئیس، معشوق، و معلمتان استفاده می‌کنید. اما وقتی در سوپ گرم پذیرش کامل [از LLM ها] غسل می کنید، صحبت با ربات های چت به پایان بازی تبدیل می شود.

شما همچنین با اتکا به ربات‌های چت در محل کار، و نفرت خاصی از عبارت «انسان در حلقه» مشکل دارید.

وقتی آنها از این اصطلاح استفاده می کنند، به این معنی است که انسان از فرآیند تولید خارج شده است و برای انجام نوعی کار پاکسازی، برای گرفتن توهم یا چیزهایی که هوش مصنوعی نمی بیند، آنجا است. این کار نمی کند، زیرا کارفرمایان فقط چند انسان در حلقه دارند. این افراد اساساً نمی توانند چیزی را تغییر دهند. آنها تا حدودی آنجا هستند تا زمانی که صدای خوبی داشته باشندآنها مورد دعوا قرار می گیرند و تا حدی برای اینکه مردم این حس نادرست را ایجاد کنند که فرآیند به یک هوش مصنوعی واگذار نشده است. اما به یک هوش مصنوعی واگذار شده است.

شاید چت‌بات‌های قدرتمند شکل جدیدی از تعامل باشند که لزوماً بدتر از مکالمه انسانی نیست، اما متفاوت است، زیرا افراد گزارش می‌دهند که از بازخورد مثبتی که ارائه می‌دهند، احساس تشویق و قدرت می‌کنند.

هوش مصنوعی هرگز جایگزین مکالمه انسانی نخواهد شد. واقعا از مرگ نمی ترسد، از بیماری نمی ترسد، از درد نمی ترسد، بچه هایش را دوست ندارد، و برایش مهم نیست که خودت را بکشی یا شام درست کنی. بنابراین اگر بچه هایمان را با آن بزرگ کنیم، یا صمیمی ترین گفتگوهایمان را با آن داشته باشیم، ارتباطمان را از دست خواهیم داد.

با این حال، بسیاری از مردم کسی را ندارند که با او صحبت کنند. آنها احساس می کنند که صحبت با چت بات ها به آنها کمک می کند.

اگر بحران تنهایی وجود دارد، به این دلیل است که ما یکدیگر را رها می کنیم. یک مرکز داده به من بدهید تا آن را به منابعی برای سالمندان تبدیل کنم.

مطالعات نشان می دهد که اکثر مردم در مورد هوش مصنوعی شک دارند و واکنش های قابل توجهی نیز وجود داشته است. با این حال صدها میلیون نفر از آنها استفاده می کنند. حتی افرادی که به مراکز داده فشار می آورند از چت بات ها استفاده می کنند.

هدف این کتاب گسترش شرایط فشار بک است تا این ارتباط صمیمی‌تر را در بر گیرد.

آیا واقعاً احساس می کنید که صمیمیت فزاینده ما با هوش مصنوعی می تواند متوقف شود؟

به دلیل تمام این صحبت ها در مورد حوادث انقراض و در آغوش گرفتن صورت و ورود به خدمات دولتی استرالیا توسط من، اکنون نسبت به شش ماه پیش امید بیشتری دارم.اشتباه من احساس می کنم که مردم مایل خواهند بود به هزینه های صمیمی و غیر صمیمی نگاه کنند.