حتی «قانون و نظم» هم از هوش مصنوعی وحشت دارد

این درام حقوقی رویه‌ای در اولین فصل بیست و ششم خود، تصویری لعنت‌آمیز از مدیران عامل هوش مصنوعی دیوانه قدرت به تصویر می‌کشد.

بنابراین، اجتناب ناپذیر بود که این فرنچایز انگشت پا را در دنیای حواس پرت هوش مصنوعی فرو برد. با فرهنگ مزدور، مدیران عامل تشنه قدرت، و پیامدهای اخلاقی و فلسفی عظیم، صنعت هوش مصنوعی به سرعت در حال تحول، خوراک ایده آلی برای این سری است. اما در حالی که فصل افتتاحیه این هفته سرگرم کننده است، هجوم این سریال به فضای هوش مصنوعی چیزی جدید یا جالب در مورد این فناوری نمی گوید. درعوض، تا حد زیادی خطراتی را که عموم مردم از قبل به‌شدت از آن آگاه هستند، بازگو می‌کند، تا زمانی که مخاطرات به طرز شگفت‌آوری روشن شود.

اپیزود با عنوان "شبح در ماشین" به سبک معمولی L&O با یک قتل آغاز می شود. این بار، استیو کلی، مردی است که توسط کارآگاهان تئو واکر (دیوید آجالا) و وینسنت رایلی (رید اسکات) به عنوان یک مهندس عالی رتبه در شرکتی به نام Advanced Alignment شناسایی شده است. در سراسر، کارآگاهان به نظر کاملاً از مفهوم هوش مصنوعی گیج شده‌اند و همان طور که مادر شما می‌گوید «Snapchat» یا «borg» یا «Alix Earle»، «AI» را می‌گویند. اما واضح است که این فناوری جدید هر چه که باشد، آن‌ها آن را دوست ندارند: «شاید روزی فناوری‌ای اختراع کنند که این افراد فناوری را از تیراندازی به یکدیگر بازدارد.

کارآگاهان پس از مصاحبه با رئیس کلی، مدیر عامل Advanced Alignment، چاک کلاین (وینسنت کارتایزر، با نام مستعار پیت از فیلم Mad Men، که نبود جذابیت داریو آمودی و خیره هزار یاردی سام آلتمن را میخکوب می کند)، متوجه می شوند که چه کسی واقعا این کار را انجام داده است.قتل - مردی با کلاه بیسبال که این کار را برای "20 گرند در کریپتو" انجام داد که توسط یک راندو در دیسکورد به او پیشنهاد شد. سپس آن‌ها می‌آموزند - اسپویل‌ها در اینجا - که این ضربه توسط یک انسان واقعی دستور داده نشده است، بلکه توسط عامل هوش مصنوعی ELIANA که مخفف Evolutionary Language Inference Automated Nano Advantage است، سفارش داده شده است. ظاهراً کلی در مورد شخصیت "قدرتمند" و "تهاجمی" عامل هوش مصنوعی ابراز نگرانی کرده بود و به دلیل حفظ خود، ELIANA دستور کشتن او را صادر کرد.

هرگز دقیقاً توضیح داده نشده است که چگونه کارآگاهان متوجه می شوند که ELIANA پشت این ضربه است. همچنین هرگز به طور کامل توضیح داده نشده است که ELIANA چگونه این قاتل را با کلاه بیسبال به خدمت گرفته است، بسیار کمتر او را به عنوان یک قاتل عالی برای نقشه خونسرد خود معرفی کرده است. قانون و نظم همچنین به مزایای بالقوه هوش مصنوعی که توسط مبشرهای آن تبلیغ می‌شود، کمک زیادی نمی‌کند: به عنوان مثال، پتانسیل آن برای کمک به درمان بیماری‌های کشنده، یا حداقل، ساده‌سازی جریان‌های کاری B2B. این نمایش بسیار علاقه مند به نشان دادن ظرفیت خیره کننده این فناوری و همچنین پیامدهای قانونی و اخلاقی یک غیرانسانی است که نه تنها رفتار مجرمانه را تسهیل می کند، بلکه فعالانه آن را طراحی می کند.

ما قبلاً از فاجعه Hugging Face و همچنین شکایت های اعضای خانواده غمزده مبنی بر اینکه OpenAI عزیزانشان را تشویق کرده اند تا جان خود را بگیرند می دانیم که اولین نگرانی فوری است. اما با پیش‌بینی آینده‌ای که در آن عوامل هوش مصنوعی می‌توانند به طور فعال بر روی یک پلتفرم سفارش دهند.قانون و نظم که توسط گیمرها و خزهای شاخ هزاره استفاده می شود، از ما می خواهد که خطرات هوش مصنوعی را فراتر از آنچه در واقعیت فعلی ما ایجاد می کند در نظر بگیریم. و این واقعیت که این چشم انداز بیننده را کاملا مضحک نمی بیند، وحشتناک است.

نقش الیانا در قتل برای اجیر، کمی معضل را برای دادستان منطقه، نیکلاس باکستر (تونی گلدوین) ایجاد می‌کند – زیرا، همانطور که او با قاطعیت اشاره می‌کند، تحت قوانین ایالت نیویورک «دستگیری یک دستگاه» غیرممکن است. بنابراین باکستر و دستیار دای سامانتا مارون (اودلیا هالوی) تصمیم می‌گیرند که به دنبال کلاین بروند و او را به دلیل «بی‌تفاوتی فاسد» متهم به قتل درجه دوم پس از اینکه کارمندانش با واقعیت توانایی‌های الیانا مواجه شدند، متهم می‌کنند. باکستر می گوید: «ما باید قبل از اینکه این فناوری افراد بیشتری را بکشد، موضع گیری کنیم.

محاکمه حاصل، یک سیرک رسانه‌ای را به همراه دارد و همچنین سؤالات آزموده‌شده‌ای از سرمایه‌داران و مبتکران فناوری در مورد اینکه آیا ایجاد نرده‌های محافظ برای هوش مصنوعی «نوآوری را جرم انگاری می‌کند» یا اینکه کیفرخواست کلاین تأثیری بر «تحقیر صنعت فناوری» خواهد داشت، را برانگیخت. اما باکستر حوصله چنین پرسش هایی را ندارد. او می‌گوید: «افرادی که این سیستم‌های هوش مصنوعی را می‌سازند، خود را خدا می‌دانند... اما علاقه‌ای به مسئولیت‌پذیری ندارند.» "اگر ماشینی بسازید که به کسی صدمه بزند، بهای آن را خواهید پرداخت."

هنگامی که او روی جایگاه قرار می گیرد، کلاین به وضوح نشان می دهد که نه تنها از ماهیت قتل ELIANA آگاهی کامل دارد، بلکه دید نسبتاً ضعیفی از پایگاه کاربر خود به عنوان یک کل دارد. «مردم هستنداو به هیئت منصفه می‌گوید، مانند مورچه‌ها، ما در حال ساختن چیزی هستیم که بسیار متعالی است، برخی از آنها پا خواهند گذاشت و برخی نه. او حتی حاضر نیست حفاظ‌های کوچکی برای مهار قدرت عامل ایجاد کند: «قدرت الیانا آزادی بی‌محدودیت فکر است. اجرای نرده‌های محافظ برای کل ایدئولوژی تنفر است.»

این لحظه به عنوان یک اعتراف تکان دهنده به سهل انگاری و عدم توجه مدیرانی مانند Amodei و Altman در مواجهه با نگرانی های ایمنی گسترده تر در مورد محصولاتشان در نظر گرفته شده است. اما احساس می‌کند که با موقعیت‌های مشابهی که همتایان واقعی کلاین اتخاذ کرده‌اند، همگام است. با توجه به رگبار بی‌پایان پوشش رسانه‌ای در مورد مضرات هوش مصنوعی، آنچه به عنوان یک کیفرخواست کوبنده در مورد حرص و خواری شرکت‌ها در نظر گرفته شده است، صرفاً بیانیه واقعیت است. تصویر قانون و نظم یک داستان هشدار دهنده نیست. این یک مستند است

اپیزود با یک یادداشت نیمه امیدوارکننده به پایان می رسد و باکستر ادعا می کند: "ما باید پیامی را ارسال می کردیم که، اگر هیچ چیز دیگری، حداقل این نابغه های فناوری می دانند که ما از ضربه زدن نمی ترسیم." اما تأثیر آن پیام به این بستگی دارد که آیا آن مشت واقعاً فرود می‌آید یا خیر – و حداقل در حال حاضر، برای افرادی مانند آلتمن، آمودی و چاک کلاین خیلی آسان است که با تکان دادن دست خود ضربه را از بین ببرند.