مدیر بین‌الملل آنتروپیک: مدل‌های متن‌باز ذاتاً خطرات بیشتری به همراه دارند

این دیدگاه اختلاف‌نظر مدیران ارشد آنتروپیک درباره میزان خطر مدل‌های اختصاصی در برابر نسخه‌های باز هوش مصنوعی را نشان می‌دهد. The post مدیر بین‌الملل آنتروپیک: مدل‌های متن‌باز ذاتاً خطرات بیشتری به همراه دارند appeared first on سفیر ارجان .

این دیدگاه اختلاف‌نظر مدیران ارشد آنتروپیک درباره میزان خطر مدل‌های اختصاصی در برابر نسخه‌های باز هوش مصنوعی را نشان می‌دهد.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در سفیر ارجان عضو ویژه سفیر ارجان شوید.

مدیر بخش بین‌الملل شرکت آنتروپیک اعلام کرده که مدل‌های متن‌باز در مقایسه با مدل‌های اختصاصی این شرکت، ذاتاً و طبق تعریف، خطرات بیشتری به همراه دارند. این اظهارات نسبت به موضع‌گیری قبلی «داریو آمودی»، مدیرعامل این شرکت، ادعایی بسیار گسترده‌تر درباره خطرات هوش مصنوعی محسوب می‌شود. آمودی پیش‌تر اعلام کرده بود مدل‌های دارای وزن‌های باز که فاقد قابلیت‌های خطرناک باشند، کالای عمومی محسوب می‌شوند.

«گیوم پرنسن»، مدیر آنتروپیک، این دیدگاه را در جریان یک اجلاس دولتی در دوبلین مطرح کرده است. او تأکید کرده که در حوزه ایمنی هوش مصنوعی باید نسبت به مدل‌های متن‌باز بسیار محتاط بود؛ زیرا این دسته از مدل‌ها، براساس تعریفی که برای آنها وجود دارد، خطرات به‌مراتب بیشتری ایجاد می‌کنند. مدل‌های متن‌باز اساساً به مدل‌هایی گفته می‌شود که کدها، معماری و وزن‌های پردازشی آنها به‌صورت عمومی منتشر می‌شود و هر کاربری می‌تواند آنها را دانلود و روی سیستم‌های شخصی خود اجرا کند یا تغییر دهد.

این اظهارات هم‌زمان با تشدید رقابت شرکت‌های اروپایی مطرح شده است. Mistral هفته گذشته مدل Large 4 موسوم به Le Chonk را معرفی کرد؛ مدلی با یک تریلیون پارامتر که در اروپا آموزش دیده و بر حاکمیت داده‌ها تأکید دارد. البته عرضه وزن‌های باز این مدل هنوز نهایی نشده و دسترسی فعلی تنها از طریق API میسترال امکان‌پذیر است و انتشار وزن‌ها برای ۲۷ اکتبر (۵ آبان) برنامه‌ریزی شده است.

پرنسن درحالی به نگرانی‌ها پیرامون مدل‌های متن‌باز اشاره کرده که طی هفته‌های اخیر نیز برخی پژوهش‌ها نتایج یکسانی به همراه داشته‌اند. برای مثال ارزیابی‌های مؤسسه SaferAI مشخص کرده بود که مدل چینی GLM-5.2 هیچ‌کدام از وظایف مربوط به حملات سایبری مخرب یا زیست‌شناسی دومنظوره را رد نکرده است؛ درحالی‌که مدل Claude آنتروپیک آن‌قدر درخواست‌ها را به دلیل ملاحظات ایمنی رد کرده که امکان به پایان رساندن بنچمارک وجود نداشت. همچنین تحقیقات گروه Frontier Red Team آنتروپیک نشان داده بود که مدل‌های کوچک توانسته‌اند روی اندروید تی‌وی باکس‌های ارزان‌قیمت تکثیر شوند و تمام مدل‌های این آزمون، از جمله Gemma4 و GLM-5.2، متن‌باز بودند.

پرنسن همچنین درباره قیمت‌گذاری مدل‌ها اعلام کرده که هزینه معمول Claude Opus 5.5 نسبت به نسخه قبلی خود ۴۰ درصد کاهش یافته است. این صرفه‌جویی حاصل افت ۲۰ درصدی قیمت رسمی و کاهش استفاده از توکن‌ها در نسخه جدید است.

درنهایت باید اشاره کرد که ادعای مدیر آنتروپیک در اجلاس رسمی هوش مصنوعی تحت نظارت اتحادیه اروپا در دوبلین ایرلند مطرح شده است. انتخاب ایرلند به تعبیر برخی نشریات حاشیه‌ساز است؛ چراکه این کشور به‌دلیل گرفتن مالیات بسیار کم از غول‌های فناوری، سال‌هاست به پناهگاه مالیاتی آنها در اروپا تبدیل شده و از همین پول سود کلانی می‌برد؛ تا جایی که نهادهای مدنی معتقد هستند دولت ایرلند به‌خاطر همین سود مالی نمی‌تواند در مدیریت قوانین هوش مصنوعی بی‌طرف باشد. در این میان، آنتروپیک هم منافع بزرگی دارد؛ اروپا سریع‌ترین بازار درحال رشد آن است، نخستین دفتر اروپایی‌ این شرکت در دوبلین تأسیس شده و با نزدیک‌شدن به ورود به بورس با ارزش نجومی ۹۶۵ میلیارد دلار، به‌شدت نگران از دست دادن بازار به رقبای اروپایی است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی سفیر ارجان داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.