تمام نوشته‌های برچسب‌خورده با "تزریق پرامپت"
79مرورگر وب Atlas جدید OpenAI در برابر حملات تزریق پرامپت آسیب‌پذیر است که در آن omnibox آن می‌تواند با جعل یک پرامپت مخرب به عنوان یک URL بی‌ضرر شکسته شود.
محققان امنیت سایبری سه آسیب‌پذیری امنیتی را که بر دستیار هوش مصنوعی Gemini گوگل تأثیر می‌گذاشت فاش کردند که در صورت سوءاستفاده موفقیت‌آمیز، می‌توانست کاربران را در معرض خطرات جدی حریم خصوصی و سرقت داده قرار دهد.
محققان امنیت سایبری آسیب‌پذیری بحرانی در پلتفرم Salesforce Agentforce را که برای ساخت عوامل هوش مصنوعی طراحی شده، افشا کردند. این نقص می‌تواند به مهاجمان اجازه دهد تا داده‌های حساس از ابزار مدیریت روابط مشتریان (CRM) را از طریق تزریق غیرمستقیم پرامپت استخراج کنند.
آسیب‌پذیری در Gemini CLI گوگل به مهاجمان اجازه می‌داد تا به صورت مخفیانه دستورات مخرب را اجرا کرده و داده‌ها را از رایانه‌های توسعه‌دهندگان با استفاده از برنامه‌های مجاز استخراج کنند.
تکنیک حمله جدیدی به نام EchoLeak به عنوان آسیب‌پذیری هوش مصنوعی "بدون کلیک" شناخته شده که به مهاجمان اجازه می‌دهد داده‌های حساس را از زمینه Microsoft 365 Copilot بدون هیچ تعامل کاربری استخراج کنند.
91متا روز سه‌شنبه چارچوب متن‌باز LlamaFirewall را معرفی کرد که برای ایمن‌سازی سیستم‌های هوش مصنوعی در برابر خطرات سایبری نوظهور مانند تزریق پرامپت، شکست امنیت و کد ناامن طراحی شده است.
خدمات مختلف هوش مصنوعی تولیدی (GenAI) در برابر دو نوع حمله جیل‌بریک آسیب‌پذیر شناخته شده‌اند که امکان تولید محتوای غیرقانونی یا خطرناک را فراهم می‌کنند.
