قله دست‌نیافتنی فردا؛ ابرهوش مصنوعی چیست؟
هوش مصنوعی در سال‌های اخیر از فناوری‌ای تخصصی به ابزاری روزمره تبدیل شده است؛ از پاسخ‌گویی به پرسش‌ها و تولید متن و تصویر گرفته تا تحلیل داده، برنامه‌نویسی و کمک به پژوهش‌های علمی. بااین‌حال، آنچه امروز در اختیار داریم لزوماً همان چیزی نیست که آینده‌پژوهان از آن با عنوان «ابرهوش مصنوعی» یاد می‌کنند.
به گزارش سفیر ارجان ابرهوش مصنوعی یا Artificial Superintelligence (ASI) به یک هوش مصنوعی فرضی گفته می‌شود که توانایی‌های شناختی آن در طیف گسترده‌ای از فعالیت‌های فکری، از توانایی انسان فراتر رفته باشد. چنین سیستمی، در صورت تحقق، ممکن است در زمینه‌هایی مانند استدلال، یادگیری، حل مسئله، پژوهش و حتی برخی شکل‌های خلاقیت، عملکردی بسیار بالاتر از انسان داشته باشد.
اما نکته‌ای اساسی وجود دارد: ابرهوش مصنوعی هنوز وجود ندارد و زمان دستیابی به آن نیز مشخص نیست. بنابراین، هرگونه صحبت درباره توانایی‌ها یا پیامدهای ASI باید در چارچوب سناریوهای احتمالی و آینده‌پژوهی مطرح شود، نه به‌عنوان واقعیتی موجود.
ابرهوش مصنوعی دقیقاً یعنی چه؟
برای درک مفهوم ASI، بهتر است سه اصطلاح «ANI»، «AGI» و «ASI» را از یکدیگر جدا کنیم.
هوش مصنوعی محدود یا ANI همان چیزی است که بخش بزرگی از سامانه‌های هوش مصنوعی امروزی را تشکیل می‌دهد. این سیستم‌ها ممکن است در یک یا چند وظیفه بسیار توانمند باشند، اما این توانایی لزوماً به معنای برخورداری از هوشی مشابه انسان در همه زمینه‌ها نیست.
در مرحله بعد، مفهوم هوش مصنوعی عمومی یا AGI مطرح می‌شود. AGI معمولاً به سامانه‌ای فرضی گفته می‌شود که بتواند طیف گسترده‌ای از فعالیت‌های شناختی را با انعطافی قابل‌مقایسه با انسان انجام دهد. بااین‌حال، تعریف دقیق AGI میان پژوهشگران یکسان نیست و درباره اینکه چه سطحی از توانایی برای نامیدن یک سیستم به‌عنوان AGI کافی است، اختلاف نظر وجود دارد.
در نهایت، ASI یا ابرهوش مصنوعی به مرحله‌ای فرضی اشاره می‌کند که در آن، هوش ماشین در طیف بسیار گسترده‌ای از فعالیت‌های شناختی از توانایی‌های انسان فراتر می‌رود.
می‌توان این مسیر را به‌صورت ساده چنین تصور کرد:
ANI: توانمند در وظایف مشخص ← AGI: توانایی عمومی و گسترده ← ASI: عملکرد شناختی فراتر از انسان
این تقسیم‌بندی بیشتر یک چارچوب مفهومی است و نباید آن را نقشه‌ای قطعی و مرحله‌بندی‌شده برای آینده هوش مصنوعی در نظر گرفت.
آیا هوش مصنوعی امروز ابرهوش است؟
خیر. مدل‌های هوش مصنوعی امروزی ممکن است در برخی وظایف خاص بهتر از انسان عمل کنند؛ برای مثال، محاسبات سریع، یافتن الگو در حجم بزرگی از داده‌ها یا انجام برخی بازی‌ها. اما برتری در یک وظیفه به معنای «ابرهوش» بودن نیست.
یک سیستم ممکن است میلیون‌ها داده را بسیار سریع‌تر از انسان تحلیل کند، اما این موضوع به‌تنهایی نشان نمی‌دهد که در همه حوزه‌های شناختی نیز از انسان بهتر است. به همین دلیل، استفاده از اصطلاح «ابرهوش» برای هر مدل هوش مصنوعی پیشرفته می‌تواند گمراه‌کننده باشد.
چرا ابرهوش اهمیت پیدا کرده است؟
اهمیت ASI تنها به این دلیل نیست که چنین سیستمی ممکن است از انسان باهوش‌تر باشد. مسئله اصلی، مقیاس توانایی و سرعت احتمالی آن است.
اگر روزی سامانه‌ای بتواند در بسیاری از حوزه‌های علمی و فنی عملکردی بسیار بالاتر از انسان داشته باشد، شاید بتواند در مدت کوتاهی به حل مسائلی کمک کند که امروز برای دانشمندان بسیار دشوار هستند.
در سناریوهای خوش‌بینانه، از توانایی چنین سیستم‌هایی برای کمک به کشف داروهای جدید، طراحی مواد پیشرفته، حل برخی مسائل پیچیده علمی، بهینه‌سازی مصرف انرژی و مقابله با بعضی چالش‌های زیست‌محیطی صحبت می‌شود.
البته هیچ‌یک از این موارد تضمین‌شده نیست؛ زیرا هنوز مشخص نیست ASI چگونه ساخته خواهد شد و آیا اساساً ساخت آن امکان‌پذیر است یا خیر.
یکی از ایده‌هایی که در بحث ابرهوش مطرح می‌شود، بهبود تکرارشونده توانایی‌های یک سیستم هوش مصنوعی است.
تصور کنید سیستمی بتواند در طراحی الگوریتم‌ها و نرم‌افزارهای هوش مصنوعی عملکرد بسیار خوبی داشته باشد. اگر چنین سیستمی بتواند به‌طور مؤثر به بهبود نسخه‌های بعدی خود کمک کند، این پرسش مطرح می‌شود که آیا سرعت پیشرفت آن افزایش پیدا می‌کند یا نه.
برخی نظریه‌پردازان از چنین سناریویی با عنوان Recursive Self-Improvement یا «خودبهبود تکرارشونده» یاد می‌کنند.
در شکل‌های افراطی این سناریو، بهبود یک سیستم باعث می‌شود نسخه بعدی توانایی بیشتری برای بهبود خود پیدا کند و این چرخه ادامه یابد. برخی آینده‌پژوهان این احتمال را با مفهوم «انفجار هوش» مرتبط می‌دانند.
بااین‌حال، این موضوع هنوز فرضیه‌ای درباره آینده است و نباید آن را روندی قطعی دانست. موانع فنی، محدودیت‌های محاسباتی، هزینه انرژی، دسترسی به داده و دشواری‌های مهندسی می‌توانند سرعت چنین پیشرفتی را محدود کنند.
ابرهوش چه فایده‌ای می‌تواند داشته باشد؟
اگر ASI روزی محقق شود، یکی از مهم‌ترین پرسش‌ها این خواهد بود که چگونه می‌توان از توانایی آن برای حل مسائل بزرگ استفاده کرد.
در سناریوهای مثبت، ابرهوش می‌تواند به پژوهشگران در بررسی حجم عظیمی از اطلاعات کمک کند و برای مسائل پیچیده علمی راه‌حل‌های تازه پیشنهاد دهد.
حوزه پزشکی نیز یکی از زمینه‌های احتمالی اثرگذاری این فناوری است. سیستمی بسیار قدرتمند شاید بتواند در کشف ترکیبات دارویی، مدل‌سازی بیماری‌ها یا تحلیل داده‌های زیستی نقش مهمی داشته باشد.
در حوزه انرژی نیز امکان طراحی مواد و سامانه‌های کارآمدتر یا یافتن روش‌های تازه برای مدیریت منابع مطرح شده است.
بااین‌حال، فاصله میان «توانایی نظری» و «دستاورد واقعی» بسیار مهم است. حتی اگر سیستمی از نظر محاسباتی بسیار قدرتمند باشد، تبدیل توانایی آن به نتیجه واقعی همچنان به زیرساخت، آزمایش، منابع فیزیکی و همکاری انسان‌ها نیاز خواهد داشت.
بزرگ‌ترین نگرانی درباره ابرهوش چیست؟
یکی از مهم‌ترین موضوعات در پژوهش‌های ایمنی هوش مصنوعی، مسئله هم‌راستایی یا Alignment است.
به زبان ساده، هم‌راستایی یعنی رفتار و اهداف یک سیستم هوش مصنوعی با خواسته‌ها و ارزش‌های موردنظر انسان‌ها سازگار باشد. مسئله زمانی پیچیده می‌شود که یک سیستم بسیار قدرتمند، هدفی را که برایش تعریف شده به شکلی متفاوت از انتظار انسان تفسیر کند.
برای مثال، اگر به یک سیستم بسیار توانمند هدفی کلی داده شود، ممکن است راهی برای رسیدن به آن انتخاب کند که از نظر انسان‌ها پیامدهای نامطلوبی داشته باشد.
بنابراین، نگرانی اصلی لزوماً این نیست که یک ابرهوش «از انسان متنفر» باشد یا مانند شخصیتی داستانی تصمیم به نابودی بشر بگیرد. مسئله می‌تواند فنی‌تر باشد: چگونه مطمئن شویم یک سیستم بسیار قدرتمند، هدف موردنظر ما را دقیقاً همان‌طور که می‌خواهیم دنبال می‌کند؟
آیا ابرهوش می‌تواند کنترل انسان را از بین ببرد؟
این یکی از بحث‌برانگیزترین پرسش‌های حوزه آینده هوش مصنوعی است. برخی پژوهشگران و آینده‌پژوهان درباره خطر ازدست‌رفتن کنترل بر سیستم‌های بسیار قدرتمند هشدار داده‌اند. در مقابل، درباره احتمال وقوع چنین سناریوهایی و حتی مسیر رسیدن به آن‌ها اختلاف نظر جدی وجود دارد.
در نتیجه، نمی‌توان با اطمینان گفت ابرهوش در آینده کنترل انسان را از بین خواهد برد یا چنین اتفاقی حتماً رخ می‌دهد. آنچه با اطمینان بیشتری می‌توان گفت این است که هرچه توانایی و استقلال یک سیستم بیشتر شود، طراحی سازوکارهای ایمنی، نظارت و کنترل اهمیت بیشتری پیدا می‌کند.
ابرهوش چه زمانی از راه می‌رسد؟
برای این پرسش پاسخ قطعی وجود ندارد.
برخی متخصصان احتمال می‌دهند هوش مصنوعی در دهه‌های آینده به سطوح بسیار بالاتری از توانایی برسد؛ درحالی‌که برخی دیگر مسیر رسیدن به هوش عمومی یا ابرهوش را بسیار طولانی‌تر و پیچیده‌تر می‌دانند. حتی درباره تعریف دقیق AGI و معیار تشخیص آن نیز توافق کاملی وجود ندارد.