آنتروپیک در به‌روزرسانی سیاست‌های استفاده از هوش مصنوعی خود، آزار و رفتار بی‌رحمانه و بی‌دلیل با کلود را در موارد شدید و تکرارشونده ممنوع کرد. این شرکت همچنین محدودیت‌های تازه‌ای برای استفاده از هوش مصنوعی در تبلیغات سیاسی فریبکارانه و توسعه سلاح و نظارت بر افراد در نظر گرفته است.
این نخستین به‌روزرسانی سیاست‌های استفاده از محصولات آنتروپیک در بیش از یک سال گذشته است. به گفته آنتروپیک، تغییرات جدید برای مقابله با موارد سوءاستفاده و خطرهای نوظهور در استفاده از هوش مصنوعی اعمال شده‌اند.
آزار هوش مصنوعی آنتروپیک Claude
آنتروپیک در سیاست جدید خود، «رفتار آزاردهنده یا بی‌رحمانه مداوم و غیرضروری» با مدل‌های هوش مصنوعی‌اش را ممنوع کرده است. بااین‌حال، این محدودیت فقط موارد شدید را در بر می‌گیرد و شامل نارضایتی معمول کاربران، مخالفت با پاسخ‌های مدل یا آزمایش و پژوهش روی مدل‌ها نمی‌شود.
این تغییر در ادامه تصمیمی است که آنتروپیک در آگوست سال گذشته اعلام کرد. بر اساس آن تصمیم، کلاد می‌تواند در صورت مواجهه مکرر با کاربران آزاردهنده یا آسیب‌زننده، مکالمه را خاتمه دهد. شرکت می‌گوید پایان‌دادن به مکالمه همچنان ابزار اصلی اجرای این سیاست است. آنتروپیک مشخص نکرده است که آیا اقدامات دیگری، از جمله مسدودکردن حساب کاربران، نیز در نظر گرفته شده‌اند یا خیر.
ممنوعیت رفتار بی‌رحمانه با کلود در شرایطی مطرح شده است که آنتروپیک طی سال گذشته درباره احتمال برخورداری مدل‌های هوش مصنوعی از نوعی تجربه درونی، آگاهی یا وضعیت اخلاقی قابل‌بررسی صحبت کرده است. «داریو آمودی»، مدیرعامل آنتروپیک، نیز گفته بود: «ما نمی‌دانیم که آیا مدل‌ها آگاه هستند یا نه.»
همچنین طبق سیاست جدید، ردیابی افراد با هوش مصنوعی بدون رضایت آن‌ها ممنوع است؛ چه این کار به‌صورت لایو انجام شود و چه با تحلیل داده‌هایی که پیش‌تر جمع‌آوری شده‌اند. همچنین، کلاد نباید برای تصمیم‌گیری یا توصیه درباره اینکه چه کسی باید در فرایندهای انتظامی یا قضایی تحت تحقیق قرار بگیرد، بازداشت شود یا تحت پیگرد قرار گیرد، استفاده شود. ساخت یا بهبود ابزارهای طراحی‌شده برای نظارت نیز ممنوع است.
بااین‌حال، آنتروپیک اعلام کرده است که ممکن است این محدودیت‌ها در قرارداد با برخی مشتریان دولتی تغییر کنند؛ مشروط بر اینکه از نظر شرکت، محدودیت‌های قراردادی و تدابیر حفاظتی موجود برای کاهش خطرهای احتمالی کافی باشند. آنتروپیک پیش‌تر با ارتش آمریکا قرارداد داشته است.