محققان امنیت سایبری شرکت SentinelOne یک بدافزار جدید macOS با نام «Gaslight» کشف کردهاند که بهطور خاص برای فریب ابزارهای تحلیل بدافزار مبتنی بر هوش مصنوعی طراحی شده است. این بدافزار که با اطمینان بالا به یک عامل تهدید وابسته به کره شمالی نسبت داده میشود، یک فایل اجرایی Rust با قابلیتهای درپشتی (backdoor) و سرقت اطلاعات است. ویژگی برجسته آن، یک محموله (payload) ۳.۵ کیلوبایتی شامل ۳۸ پیام جعلی «سیستمی» است که مستقیماً در داخل فایل اجرایی جاسازی شدهاند. این پیامها شامل گزارشهای خرابی ساختگی، خطاهای اتصال به پایگاه داده، هشدارهای انقضای توکن و آسیبپذیریهای تزریق SQL هستند که هیچ ارتباطی به رفتار واقعی بدافزار ندارند.
هدف این تکنیک، تزریق دستور (prompt injection) به سیستمهای هوش مصنوعی است تا عاملهای تحلیل مبتنی بر مدلهای زبانی بزرگ (LLM) را وادار به توقف، کوتاهسازی یا رد تحلیل نمونه کند. SentinelOne توضیح میدهد که این بدافزار «به جای محیط اجرای ایزوله (sandbox)، ادراک عامل هوش مصنوعی را هدف قرار میدهد.» اگرچه این شرکت موفقیت عملی این تکنیک در دور زدن پلتفرمهای تحلیل بدافزار مبتنی بر هوش مصنوعی را به اثبات نرسانده، این یافتهها نشان میدهد که عوامل تهدید در حال آزمایش روشهای ضدتحلیل (anti-analysis) طراحیشده برای فریب سیستمهای امنیتی مبتنی بر هوش مصنوعی هستند.
کلمات کلیدی : بدافزار Gaslight, امنیت سایبری macOS, تزریق دستور هوش مصنوعی, بدافزار کره شمالی, دور زدن تحلیل بدافزار, prompt injection در امنیت
نظر شما چیست؟
خوشحال میشویم نظر شما را بدانیم. نظری بنویسید.