محققان امنیت سایبری دو مدل یادگیری ماشین (ML) مخرب را در پلتفرم Hugging Face کشف کردند که از تکنیک غیرمعمول فایل‌های pickle “شکسته” برای فرار از تشخیص استفاده می‌کردند. این روش که nullifAI نامیده شده، شامل تلاش‌های آشکار برای دور زدن حفاظت‌های موجود جهت شناسایی مدل‌های مخرب است. کارلو زانکی، محقق شرکت ReversingLabs، اعلام کرد که “فایل‌های pickle استخراج شده از آرشیوهای PyTorch مذکور، محتوای مخرب پایتون را در ابتدای فایل نشان دادند و در هر دو مورد، بار مخرب یک reverse shell معمولی بود که به آدرس IP کدگذاری شده متصل می‌شود.”
این مدل‌ها که در فرمت PyTorch ذخیره شده‌اند، به جای استفاده از فرمت فشرده‌سازی ZIP پیش‌فرض، از فرمت 7z استفاده کرده‌اند که باعث شد از رادار ابزار Picklescan که توسط Hugging Face برای تشخیص فایل‌های pickle مشکوک استفاده می‌شود، دور بمانند. تحلیل‌های بیشتر نشان داد که این فایل‌های pickle شکسته همچنان می‌توانند تا حدی deserialize شوند و کد مخرب را اجرا کنند، زیرا بار مخرب در ابتدای جریان Pickle قرار گرفته است. این ابزار متن‌باز پس از کشف این باگ به‌روزرسانی شده است.
کلمات کلیدی : امنیت سایبری, یادگیری ماشین, Hugging Face, pickle files, PyTorch, nullifAI
نظر شما چیست؟
خوشحال می‌شویم نظر شما را بدانیم. نظری بنویسید.