Anthropic به محققان METR این امکان را می دهد تا با دسترسی در سطح کارمند به زیر کاپوت نگاه کنند

METR ارزیابی های خود را از خطرات، حوادث و اقدامات Anthropic منتشر خواهد کرد و سازنده مدل هوش مصنوعی مرزی از حق مسدود کردن آنها صرف نظر کرده است.

آخرین روز در Disrupt IS 75% تخفیف دارد. دیگر لحظه ها را از دست ندهید هم اکنون ثبت نام کنید

باز شدن درها را در 13 اکتبر مختل کنید. کارت خود را بگیرید و با 50 درصد تخفیف یک نفر را همراه خود بیاورید. هم اکنون ثبت نام کنید.

این شرکت در روز پنجشنبه در یک پست وبلاگی اعلام کرد، Anthropic به شش محقق از METR، یک سازمان غیرانتفاعی که مدل‌های هوش مصنوعی مرزی را آزمایش می‌کند، در سطح کارمند دسترسی می‌دهد تا به طور مستقل مدل‌های Anthropic، اقدامات ایمنی و مدیریت ریسک را ارزیابی کنند.

این ترتیبات در زمانی صورت می‌گیرد که از اواخر آگوست هر هفته یا دو هفته یک‌بار حوادث عوامل هوش مصنوعی فاش می‌شود. این رویدادها درخواست ها برای بررسی مستقل شرکت های هوش مصنوعی را تشدید کرده است.

آنتروپیک در پست وبلاگ گفت: «ما می‌خواهیم در قبال تصمیم‌هایی که می‌گیریم پاسخگو باشیم. هدف ما این است که شکاف بین آنچه ارزیابی‌کنندگان در مورد سیستم‌های یک شرکت هوش مصنوعی مرزی می‌دانند و آنچه خود شرکت می‌فهمد، ببندیم.

بر اساس ترتیبات جدید، تیم METR دارای لپ‌تاپ‌های شرکتی، فضای اداری و دسترسی به ابزارهای داخلی است که تقریباً برابر با آنچه تیم‌های ارزیابی ریسک خود آنتروپیک استفاده می‌کنند، دارد. این شرکت گفت: "کارمندان Anthropic تشویق می شوند تا اطلاعات را با آنها به اشتراک بگذارند، همانطور که با یک کارمند همکار که روی ریسک همسویی کار می کند."

آنتروپیک این ترتیب را با بانکداری مقایسه کرد، شبیه به نحوه قرار دادن بازرسان مقیم در بزرگترین بانک‌ها.

METR ارزیابی های خود را از خطرات، حوادث و اقدامات Anthropic منتشر خواهد کرد و این شرکت از حق مسدود کردن صرف نظر کرده است.آنها

این شرکت گفت: «آنتروپیک نمی‌تواند انتشار را وتو کند، اما اگر اطلاعات در دسته‌های باریک و از پیش تعریف‌شده قرار می‌گیرد، می‌توانیم آن‌ها را ملزم کنیم که آن‌ها را ویرایش کنند، مانند داده‌های مشتری، هر چیزی که امتیاز وکیل و مشتری دارد، یا مربوط به اطلاعات مربوط به معماری‌های مدل آن است. آنتروپیک افزود: «METR آزاد است تا ویرایش‌های ما را به صورت عمومی توصیف کند و بگوید که آیا این ویرایش‌ها موجه بوده یا خیر، تا زمانی که این کار را بدون افشای اطلاعات ویرایش‌شده انجام دهد».

METR تنها ارزیاب است که تاکنون در بالای یک سیستم سه لایه آنتروپیک در حال ساخت است. ارزیابی‌کنندگان در سطح پایین، مانند امنیت زیستی غیرانتفاعی SecureBio، بررسی‌های محدودی انجام می‌دهند و برای انتشار به تأیید آنتروپیک نیاز دارند. رده میانی اطلاعات بیشتری دریافت می‌کند و می‌تواند بدون تأیید منتشر کند، در حالی که سطح بالا دسترسی در سطح کارمند METR را اضافه می‌کند.

اطلاعیه روز پنجشنبه وعده‌ای را که داریو آمودی، مدیرعامل Anthropic در مقاله‌ای در ماه سپتامبر داده بود، تأیید می‌کند، جایی که او پیشنهاد کرد ارزیاب‌های خارجی را در آزمایشگاه‌های هوش مصنوعی به عنوان اولین گام برای کاهش سرعت توسعه فناوری جاسازی کند. OpenAI به سرعت همان را متعهد شد و هر دو شرکت، همراه با گوگل، متا، انویدیا و xAI، از آن زمان توافق نامه کاخ سفید را امضا کردند که متعهد به بررسی مستقل است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

50% تخفیف برای پاس دوم دریافت کنید تجربه Disrupt قرار است به اشتراک گذاشته شود. پاس خود را بگیرید و یک همکار، شریک یا همتای خود را با 50 درصد تخفیف بیاورید. پوششبا ایجاد ارتباطات، ایجاد شتاب و کشف آنچه در اکوسیستم استارت آپی در آینده وجود دارد، زمینه بیشتری ایجاد کنید.

بامبل با یک قرارداد خرید 1.3 میلیارد دلاری موافقت می کند زیرا دوستیابی آنلاین با بازنشانی لورن فوریستال مواجه می شود.

متا اولین مدل مرزی خود را با نام Muse Wonder Russell Brandom منتشر کرد

این استارت‌آپ هوش مصنوعی می‌گوید که می‌تواند طرح‌های آماده مجوز را در عرض چند دقیقه، Kirsten Korosec ایجاد کند

حمله ایلان ماسک به آمبانی به دلیل تاخیر در پرتاب استارلینک هند جگمیت سینگ

آنتروپیک نمی تواند به طور قابل اعتمادی عوامل هوش مصنوعی خود را کنترل کند - به جای تیم فرنهولز، رقبای داخلی خود را از اینترنت زنده قطع می کند.