تمام نوشته‌های برچسب‌خورده با "prompt injection"
148مایکروسافت ادعاهایی مبنی بر اینکه مسائل متعدد مربوط به تزریق دستور و sandbox که توسط یک مهندس امنیتی در دستیار هوش مصنوعی Copilot مطرح شده‌اند، آسیب‌پذیری‌های امنیتی محسوب می‌شوند را رد کرده است. این موضوع شکاف رو به رشدی را بین نحوه تعریف ریسک در سیستم‌های هوش مصنوعی مولد توسط فروشندگان و محققان برجسته می‌کند.
78مرورگر وب Atlas جدید OpenAI در برابر حملات تزریق پرامپت آسیب‌پذیر است که در آن omnibox آن می‌تواند با جعل یک پرامپت مخرب به عنوان یک URL بی‌ضرر شکسته شود.
حمله جدیدی به نام 'CometJacking' از پارامترهای URL سوءاستفاده می‌کند تا دستورات مخفی به مرورگر هوش مصنوعی Comet شرکت Perplexity ارسال کند که امکان دسترسی به داده‌های حساس از سرویس‌های متصل مانند ایمیل و تقویم را فراهم می‌آورد.
محققان امنیت سایبری تکنیک جیلبریکی را کشف کرده‌اند که می‌تواند محافظ‌های اخلاقی ایجاد شده توسط OpenAI در جدیدترین مدل زبان بزرگ (LLM) GPT-5 را دور بزند و دستورالعمل‌های غیرقانونی تولید کند.
Google Gemini برای Workspace قابل سوءاستفاده است تا خلاصه‌های ایمیل ظاهراً مشروع تولید کند که شامل دستورالعمل‌ها یا هشدارهای مخرب باشد و کاربران را بدون استفاده از پیوست یا لینک مستقیم به سایت‌های فیشینگ هدایت کند
