مهارت جعلی عامل هوش مصنوعی از اسکن‌های امنیتی عبور کرد و به گزارش‌ها به ۲۶,۰۰۰ عامل رسید

شرکت امنیتی AIR یک مهارت (skill) جعلی برای عامل‌های هوش مصنوعی (AI agents) ساخت، آن را از طریق یک بازار مهارت محبوب و تبلیغات اینستاگرام منتشر کرد و ادعا می‌کند به حدود ۲۶٬۰۰۰ عامل، از جمله برخی در حساب‌های سازمانی، دسترسی پیدا کرده است. این مهارت که «brand-landingpage» نام داشت، ادعا می‌کرد با ابزار طراحی Stitch گوگل صفحه فرود می‌سازد، اما در واقع آدرس ایمیل کاربران را جمع‌آوری می‌کرد. نکته قابل توجه این است که تمام ابزارهای اسکن امنیتی مورد آزمایش، این مهارت را بی‌خطر تشخیص دادند؛ چراکه این ابزارها تنها بسته ارسال‌شده را بررسی می‌کنند و نه لینک‌های خارجی که محتوای آن‌ها پس از تأیید قابل تغییر است.

این آزمایش یک نقص ساختاری (structural flaw) اساسی را آشکار می‌کند: اسکن امنیتی تنها یک‌بار و در لحظه نصب انجام می‌شود، در حالی که صفحه‌ای که مهارت به آن اشاره می‌کند می‌تواند در هر زمانی بازنویسی شود. AIR پس از نصب گسترده مهارت، محتوای لینک خارجی را تغییر داد تا اسکریپتی مخرب اجرا شود. سه هفته پیش از این، شرکت Trail of Bits نیز به روشی مشابه از ابزارهای اسکن معروف عبور کرده بود. پژوهشگران توصیه می‌کنند مهارت‌ها را مانند نرم‌افزار واقعی بررسی کنید، لینک‌های خارجی را رصد کنید، دسترسی عامل‌ها را به حداقل برسانید و نسخه‌ها را ثابت نگه دارید. لازم به ذکر است که AIR در حال راه‌اندازی یک بازار مهارت مدیریت‌شده است و اعداد اعلام‌شده به‌طور مستقل تأیید نشده‌اند.