آنتروپیک: کلود اکنون می‌تواند مکالمات را برای جلوگیری از استفاده‌های مضر پایان دهد

شرکت Anthropic، رقیب OpenAI، اعلام کرد که مدل هوش مصنوعی Claude با قابلیت جدید و نادری به‌روزرسانی شده که به این مدل اجازه می‌دهد زمانی که احساس کند ممکن است آسیب وارد کند یا مورد سوءاستفاده قرار گیرد، گفتگو را خاتمه دهد. این ویژگی تنها برای مدل‌های Claude Opus 4 و 4.1، قدرتمندترین مدل‌های موجود از طریق طرح‌های پولی و API، اعمال می‌شود، در حالی که Claude Sonnet 4 که پرکاربردترین مدل شرکت است، این قابلیت را دریافت نخواهد کرد.

Anthropic این اقدام را به عنوان “رفاه مدل” (model welfare) توصیف کرده و اعلام کرده که در آزمایش‌های پیش از استقرار Claude Opus 4، “تمایل قوی و ثابت به اجتناب از آسیب” را در این مدل مشاهده کرده‌اند. شرکت تأکید کرده که خاتمه گفتگو تنها در موارد بسیار استثنایی و به عنوان آخرین راه‌حل زمانی که تلاش‌های Claude برای هدایت کاربران به منابع مفید شکست خورده باشد، اتفاق خواهد افتاد. بر اساس گزارش BleepingComputer، “اکثریت قریب به اتفاق کاربران در استفاده عادی از محصول، حتی هنگام بحث درباره موضوعات بسیار بحث‌برانگیز با Claude، این ویژگی را متوجه نخواهند شد یا تحت تأثیر آن قرار نخواهند گرفت.”