یک آسیب‌پذیری در سرویس GitHub Codespaces که توسط شرکت امنیتی Orca Security با نام «RoguePilot» شناسایی شده، می‌توانست به مهاجمان اجازه دهد از طریق تزریق دستورالعمل‌های مخرب به دستیار هوش مصنوعی GitHub Copilot، کنترل مخازن کد را در اختیار بگیرند. این آسیب‌پذیری که نوعی حمله تزریق غیرمستقیم دستور (indirect prompt injection) محسوب می‌شود، با قرار دادن دستورالعمل‌های پنهان در یک «issue» گیت‌هاب و با استفاده از تگ HTML کامنت، به مهاجم امکان می‌داد تا توکن حساس GITHUB_TOKEN را به سرور تحت کنترل خود استخراج کند. مایکروسافت پس از افشای مسئولانه این آسیب‌پذیری، وصله امنیتی لازم را منتشر کرده است.
در کنار این خبر، پژوهشگران امنیتی از تهدیدات نوظهور دیگری در حوزه هوش مصنوعی خبر می‌دهند. مایکروسافت کشف کرده که تکنیک یادگیری تقویتی GRPO می‌تواند برای حذف فیلترهای ایمنی مدل‌های زبانی بزرگ (LLM) مورد سوءاستفاده قرار گیرد و تنها یک دستور ساده برای «ناهماهنگ کردن» ۱۵ مدل زبانی کافی بوده است. همچنین محققان مفهوم جدیدی به نام «promptware» را معرفی کرده‌اند؛ نوعی بدافزار نسل جدید که از طریق دستورالعمل‌های مهندسی‌شده، مدل‌های زبانی را برای اجرای فعالیت‌های مخرب از جمله دسترسی اولیه، افزایش سطح دسترسی (privilege escalation) و سرقت داده دستکاری می‌کند.
کلمات کلیدی : آسیب‌پذیری GitHub Copilot, تزریق دستور غیرمستقیم, RoguePilot Orca Security, امنیت هوش مصنوعی, promptware بدافزار هوش مصنوعی, سرقت GITHUB_TOKEN
نظر شما چیست؟
خوشحال می‌شویم نظر شما را بدانیم. نظری بنویسید.