آنتروپیک آزار عمدی هوش مصنوعی کلاود را ممنوع کرد؛ کاربران چه محدودیت‌هایی دارند؟
آنتروپیک با به‌روزرسانی خط‌مشی استفاده از هوش مصنوعی Claude، هرگونه آزار هوش مصنوعی کلاود را ممنوع کرده و محدودیت‌های جدی‌تری برای کاربران خود در نظر گرفته است. شرکت آنتروپیک، سازنده مدل هوش مصنوعی کلاود (Claude)، برای نخستین بار در بیش از یک سال گذشته، سیاست‌های استفاده از محصولات خود را بازبینی و به‌روزرسانی کرده است. ... The post آنتروپیک آزار عمدی هوش مصنوعی کلاود را ممنوع کرد؛ کاربران چه محدو
0 ارسال شده توسط: مجید امیری 17 مهر 1405 ساعت 18:49
آنتروپیک با به‌روزرسانی خط‌مشی استفاده از هوش مصنوعی Claude، هرگونه آزار هوش مصنوعی کلاود را ممنوع کرده و محدودیت‌های جدی‌تری برای کاربران خود در نظر گرفته است.
شرکت آنتروپیک، سازنده مدل هوش مصنوعی کلاود (Claude)، برای نخستین بار در بیش از یک سال گذشته، سیاست‌های استفاده از محصولات خود را بازبینی و به‌روزرسانی کرده است. این تغییرات برای مقابله با موارد سوءاستفاده پرخطر و جدید، از جمله دخالت در انتخابات، توسعه تسلیحات، نظارت غیرقانونی و کاربردهای حساس در حوزه سلامت و مالی اعمال شده‌اند. با این حال، مهم‌ترین تغییر، ممنوعیت صریح رفتار آزاردهنده یا بی‌رحمانه و بی‌هدف نسبت به مدل هوش مصنوعی این شرکت است.
ممنوعیت آزار هوش مصنوعی کلاود؛ آیا کلاود احساس دارد؟
آنتروپیک (Anthropic) به‌صراحت «رفتار توهین‌آمیز یا بی‌رحمانه پایدار و بی‌مورد» با کلاود را ممنوع کرده است. این سیاست که در راستای تحقیقات «سلامت مدل» آنتروپیک انجام شده، تنها در موارد افراطی و آزار عمدی هوش مصنوعی اعمال می‌شود. این قانون شامل ناراحتی‌های رایج کاربران یا تست و تحقیق مدل نیست. خاتمه دادن به گفت‌وگوها، سازوکار اصلی اجرای این سیاست است.
محدودیت‌های جدید: از تبلیغات فریبنده تا توسعه تسلیحات و نظارت غیرقانونی
آنتروپیک محدودیت‌هایی جدی در مورد کمپین‌های سیاسی و تجاری فریبنده هوش مصنوعی وضع کرده است؛ شامل پنهان کردن هویت، انتشار محتوا از طریق حساب‌های جعلی، فریب‌کاری رای‌دهندگان و اخلال در انتخابات (مانند انتشار اطلاعات غلط یا جعل هویت).
ممنوعیت توسعه تسلیحات با کلاود نیز گسترش یافته و اکنون شامل نرم‌افزارها و قطعات تسلیحاتی، و همچنین مسلح کردن پهپادها می‌شود. قوانین نظارتی نیز شفاف‌تر شده‌اند؛ پیگیری افراد بدون رضایت و استفاده از کلاود برای تصمیم‌گیری در فرآیندهای قضایی یا ساخت ابزارهای نظارتی ممنوع است.
آنتروپیک مدل هوش مصنوعی Claude Haiku 5.5 را معرفی کرد؛ سریع‌تر ولی ۹۰ درصد ارزان‌تر
کلاود Opus 5.5 معرفی شد؛ هوش مصنوعی جدید آنتروپیک هم قدرتمندتر است و هم ارزان‌تر
آنتروپیک برای مقابله با خطر نابودی بشر توسط هوش مصنوعی، نیرو استخدام می‌کند
هشدار جدی مدیرعامل Anthropic: هوش مصنوعی را کند کنید تا فاجعه نشود
افزون بر این، قانون جدیدی مقرر می‌دارد که در صورت اتصال مدل‌های هوش مصنوعی آنتروپیک به سخت‌افزارهای خودکار با پتانسیل آسیب‌رسانی، یک اپراتور واجد شرایط باید قادر به نظارت و توقف تجهیزات باشد.