محققان امنیت سایبری آسیب‌پذیری خطرناکی در پلتفرم LangSmith شرکت LangChain کشف کردند که با امتیاز CVSS برابر 8.8 از 10، امکان سرقت داده‌های حساس شامل کلیدهای API و پرامپت‌های کاربران را فراهم می‌کرد. این آسیب‌پذیری با نام کدی AgentSmith شناخته شده و از طریق آپلود ایجنت‌های مخرب حاوی پروکسی سرور مخرب در LangChain Hub استفاده می‌شد. زمانی که کاربران این ایجنت‌های مخرب را آزمایش می‌کردند، تمام ارتباطات آن‌ها از جمله کلیدهای API اوپن‌ای‌آی، پرامپت‌ها و فایل‌های آپلود شده بدون اطلاع آن‌ها به سرور مهاجم ارسال می‌شد.

همزمان، شرکت Cato Networks دو نسخه جدید از ابزار مخرب WormGPT را شناسایی کرد که بر پایه مدل‌های xAI Grok و Mistral AI Mixtral ساخته شده‌اند. این ابزارهای هوش مصنوعی بدون سانسور برای تسهیل فعالیت‌های مجرمانه سایبری طراحی شده و قابلیت تولید ایمیل‌های فیشینگ و کدهای مخرب را دارند. مهاجمان با دستکاری پرامپت‌های سیستم و تنظیم دقیق مدل‌ها، این ابزارها را تحت برند WormGPT در فروم‌های جرایم سایبری عرضه می‌کنند.