این حمله با استفاده از کاراکترهای یونیکد پنهان و تکنیک‌های پیچیده فرار در محتوای دستورالعمل‌ها، مهاجمان را قادر می‌سازد تا هوش مصنوعی را دستکاری کنند تا کد مخربی تولید کند که از بررسی‌های معمول کد عبور می‌کند. هسته این حمله بر فایل‌های قوانین (rules files) متکی است که توسط عوامل هوش مصنوعی برای راهنمایی رفتار خود استفاده می‌شود، و شامل جاسازی دستورات دقیقاً طراحی شده در فایل‌های قوانین ظاهراً بی‌ضرر است که باعث می‌شود ابزار هوش مصنوعی کدی حاوی آسیب‌پذیری‌های امنیتی یا درهای پشتی تولید کند. کارلاینر هشدار داد که این حمله خطر قابل توجهی را نشان می‌دهد زیرا خود هوش مصنوعی را به عنوان بردار حمله سلاح می‌کند و دستیار مورد اعتمادترین توسعه‌دهنده را به همدست ناآگاهی تبدیل می‌کند که بالقوه بر میلیون‌ها کاربر نهایی از طریق نرم‌افزار به خطر افتاده تأثیر می‌گذارد.
کلمات کلیدی : امنیت سایبری, حمله زنجیره تأمین, GitHub Copilot, هوش مصنوعی, کد مخرب, آسیب‌پذیری امنیتی
نظر شما چیست؟
خوشحال می‌شویم نظر شما را بدانیم. نظری بنویسید.