گوگل نسبت به خانواده‌های جدید بدافزار مبتنی بر هوش مصنوعی که در طبیعت مستقر شده‌اند هشدار می‌دهد

گروه اطلاعات تهدید گوگل (GTIG) تغییر عمده‌ای را در سال جاری شناسایی کرده است که در آن مهاجمان از هوش مصنوعی برای استقرار خانواده‌های جدید بدافزار استفاده می‌کنند که مدل‌های زبانی بزرگ (LLMs) را در حین اجرا ادغام می‌کنند. این رویکرد جدید امکان تغییر پویا در میانه اجرا را فراهم می‌کند که به سطوح جدیدی از تطبیق‌پذیری عملیاتی می‌رسد که با بدافزارهای سنتی تقریباً غیرممکن است. گوگل این تکنیک را “خودتغییری بر حسب نیاز (just-in-time)” نامیده و بدافزارهای آزمایشی PromptFlux و PromptSteal (معروف به LameHug) که در اوکراین مستقر شده‌اند را به عنوان نمونه‌هایی از تولید اسکریپت پویا، مبهم‌سازی کد و ایجاد توابع بر اساس تقاضا برجسته کرده است.

علاوه بر بدافزارهای مبتنی بر هوش مصنوعی، گزارش گوگل موارد متعددی را مستند کرده که در آن‌ها بازیگران تهدید از Gemini در کل چرخه حمله سوءاستفاده کردند. بازیگر مرتبط با چین با جعل هویت شرکت‌کننده در مسابقات امنیتی (CTF) فیلترهای امنیتی Gemini را دور زد، هکرهای ایرانی MuddyCoast و APT42 از آن برای توسعه بدافزار و تجزیه و تحلیل داده استفاده کردند، و گروه‌های چینی APT41 و کره شمالی Masan و Pukchong نیز از این مدل برای اهداف مختلف مخرب بهره بردند. گوگل در تمام موارد شناسایی شده، حساب‌های مرتبط را غیرفعال کرد و محافظت‌های مدل را تقویت نمود.