آنتروپیک بدرفتاری با کلاد را ممنوع کرد؛ سه محصول جدید هم معرفی شد

به گزارش آی سی تی نیوز؛ آنتروپیک در تاریخ ۸ اکتبر ۲۰۲۶ (۱۶ مهر ۱۴۰۵) مجموعه‌ای از تغییرات و محصولات جدید را معرفی کرد. این شرکت پس از یک سال، سیاست‌های خدمت‌رسانی خود را بازنگری کرده و در بندی بحث‌برانگیز، رفتار ستمگرانه و توهین بی‌دلیل و مستمر به مدل‌های هوش مصنوعی را رسماً ممنوع اعلام […] نوشته آنتروپیک بدرفتاری با کلاد را ممنوع کرد؛ سه محصول جدید هم معرفی شد اولین بار در آی سی تی نیوز | مرجع اخ

به گزارش آی سی تی نیوز؛ آنتروپیک در تاریخ ۸ اکتبر ۲۰۲۶ (۱۶ مهر ۱۴۰۵) مجموعه‌ای از تغییرات و محصولات جدید را معرفی کرد. این شرکت پس از یک سال، سیاست‌های خدمت‌رسانی خود را بازنگری کرده و در بندی بحث‌برانگیز، رفتار ستمگرانه و توهین بی‌دلیل و مستمر به مدل‌های هوش مصنوعی را رسماً ممنوع اعلام کرده است. هم‌زمان، سه محصول جدید با نام‌های Claude Dashboards، Claude Motion و OSS Scanner نیز رونمایی شدند.

سیاست جدید آنتروپیک از تاریخ ۱۲ نوامبر ۲۰۲۶ (۲۱ آبان ۱۴۰۵) لازم‌الاجرا می‌شود. بر اساس قوانین تازه، چت‌بات کلاد می‌تواند چت با کاربران مداوم آزارگر را یک‌طرفه قطع کند. خود مدل کلاد مجاز است در صورت تشخیص آزار مستمر، گفتگو را خاتمه دهد. در موارد شدیدتر، تیم امنیت آنتروپیک می‌تواند اقداماتی مانند اخطار، محدودیت سرعت، تعلیق یا مسدودسازی دائمی حساب را اعمال کند.

مدیران آنتروپیک تأکید کردند که این محدودیت تنها رفتارهای نامناسب شدید و مستمر را در بر می‌گیرد و ابراز کلافگی، شوخی، نقد صریح، اعتراض به عملکرد مدل یا سناریوهای خلاقانه تاریک کاربران عادی را شامل نمی‌شود. به بیان ساده، اگر کاربری پس از بروز خطا در کد، یک بار فحش بدهد، این رفتار مشمول ممنوعیت نیست.

به‌روزرسانی جدید همچنین استفاده از کلاد برای ساخت یا هدایت تسلیحات، پهپادهای جنگی و خودروهای خودران مسلح را به‌طور اکید ممنوع کرده است. آنتروپیک اعلام کرده که در یک سال گذشته تلاش‌های متعددی برای استفاده از مدل‌هایش در ساخت نرم‌افزار هدایت تسلیحات مشاهده کرده است.

Claude Dashboards؛ ساخت داشبورد با زبان ساده

با استفاده از Claude Dashboards، کاربران می‌توانند یک پلتفرم داده یا ابزار CRM را متصل کرده و پرسش‌های خود را به زبان ساده مطرح کنند. این قابلیت به‌طور خودکار کوئری‌ها را نوشته و داشبوردی ایجاد می‌کند که با تغییر داده‌ها به‌روز می‌شود. هر نمودار، کوئری مربوط به خود را نمایش می‌دهد.

این ویژگی تنها در پلن‌های پولی و به‌صورت بتا در دسترس قرار گرفته است. کاربران می‌توانند داشبوردها را به پلتفرم‌های تحلیلی مانند Amplitude، Grafana و Hex صادر کنند. پشتیبانی از Looker، و Tableau نیز به‌زودی اضافه می‌شود.

Claude Motion؛ تبدیل گزارش به انیمیشن با کد

قابلیت Claude Motion امکان تبدیل گزارش‌ها، نمودارها یا واک‌تروهای محصول به انیمیشن‌های کوتاه را فراهم می‌کند. در این حالت، کلاد هر انیمیشن را به‌صورت کد تولید می‌کند و نیازی به مدل ویدیویی نیست. بنابراین کاربران می‌توانند هر واژه، عدد یا زمان‌بندی را تغییر داده و خروجی MP4 دریافت کنند. این قابلیت در پلن‌های Team و Enterprise و در مرحله بتا قرار دارد.

خروج Claude Docs، Slides و Design از بتا

از امروز، قابلیت‌های Claude Docs، Slides و Design از مرحله بتا خارج شده و در دسترس تمامی پلن‌ها، از جمله پلن رایگان، قرار گرفته‌اند. تیم‌ها می‌توانند به‌طور مشترک یک سند، ارائه یا طرح را ویرایش کنند. در صورت نیاز به تحلیل عمیق‌تر، کاربران می‌توانند داشبورد را به ابزار تحلیلی خود ارسال کرده و برای تکمیل انیمیشن، آن را در ویرایشگر ویدیو باز کنند.

OSS Scanner؛ شناسایی آسیب‌پذیری پروژه‌های متن‌باز

آنتروپیک ابزار جدیدی به نام OSS Scanner را معرفی کرده است که از مدل‌های هوش مصنوعی، از جمله Claude Mythos، برای شناسایی آسیب‌پذیری‌های امنیتی در پروژه‌های متن‌باز استفاده می‌کند.

نکته کلیدی این است که آنتروپیک تأکید کرده هیچ نظارت انسانی بر گزارش‌های تولیدشده اعمال نمی‌شود و این گزارش‌ها مستقیماً برای نگه‌دارندگان پروژه ارسال می‌شوند. این شرکت اذعان کرده که احتمال خطاهای هوش مصنوعی در این گزارش‌ها وجود دارد و برخی یافته‌ها ممکن است نادرست یا تکراری باشند.

در آزمایش‌های اولیه روی ۴۸ پروژه، از ۹۷ یافته با شدت بالا و بحرانی، ۸۵ مورد (۸۸ درصد) معیارهای افشای مسئولانه را برآورده کردند. ۱۱ مورد واقعی اما تکراری بودند و تنها ۱ مورد به‌عنوان مثبت کاذب شناسایی شد. تیم wolfSSL اعلام کرد که از ۷۴ گزارش دریافتی، تنها ۲ مورد نامعتبر بود و ۵ مورد به ثبت CVE منجر شد. دانیل استنبرگ، بنیان‌گذار curl، گفت این ابزار به کشف یکی از شدیدترین آسیب‌پذیری‌های curl در سال‌های اخیر کمک کرده است.

پروژه‌های متن‌باز برای دریافت این سرویس رایگان باید معیارهایی مشابه استانداردهای Google OSS-Fuzz را برآورده کنند. نگه‌دارندگان اصلی می‌توانند از طریق GitHub درخواست خود را ثبت کنند.

زمینه پروژه Project Glasswing

این ابزار از پروژه Project Glasswing آنتروپیک بیرون آمده است. در شش ماه گذشته، مدل‌های آنتروپیک بیش از ۲۹,۰۰۰ آسیب‌پذیری بالقوه را علامت‌گذاری کرده‌اند، اما تیم امنیتی این شرکت تنها تو انسته حدود ۶,۰۰۰ مورد را به‌صورت دستی تأیید کند.

آنتروپیک همچنین از برنامه‌هایی برای تقویت امنیت سایبری و حفاظت از زیرساخت‌های حیاتی مانند شبکه‌های برق، سامانه‌های توزیع آب و کنترل حمل‌ونقل عمومی خبر داده است. هدف این طرح‌ها، شناسایی سریع‌تر آسیب‌پذیری‌ها و ارائه راهکارهای امنیتی با حداقل پیامدهای ناخواسته است.

مجموعه تغییرات و محصولات جدید آنتروپیک، نشان‌دهنده یک تغییر استراتژیک مهم در رویکرد این شرکت است. تا پیش از این، آنتروپیک عمدتاً بر توسعه مدل‌های قدرتمندتر و رقابت با OpenAI و گوگل تمرکز داشت. اما اکنون، این شرکت در حال گسترش دامنه فعالیت‌های خود به حوزه‌های جدیدی مانند ابزارهای تحلیلی، تولید انیمیشن و امنیت سایبری است.

ممنوعیت بدرفتاری با کلاد نیز یک اقدام جسورانه و بحث‌برانگیز محسوب می‌شود. این سیاست، مرزهای جدیدی در تعامل انسان و هوش مصنوعی ترسیم می‌کند و این پرسش را مطرح می‌کند که آیا مدل‌های هوش مصنوعی باید از خود در برابر کاربران محافظت کنند یا خیر. آنتروپیک با تأکید بر اینکه این محدودیت تنها رفتارهای شدید را در بر می‌گیرد، تلاش کرده نگرانی‌های مربوط به محدود شدن آزادی بیان کاربران را کاهش دهد.

OSS Scanner نیز نشان‌دهنده عزم آنتروپیک برای ایفای نقش در حفاظت از امنیت زیرساخت‌های حیاتی است. با توجه به افزایش حملات سایبری به شبکه‌های برق و سامانه‌های آب در سال‌های اخیر، ابزارهایی که می‌توانند آسیب‌پذیری‌ها را سریع‌تر شناسایی کنند، اهمیت حیاتی دارند. با این حال، نبود نظارت انسانی بر گزارش‌ها می‌تواند به افزایش مثبت‌های کاذب و کاهش اعتماد نگه‌دارندگان پروژه منجر شود.