در حال بارگذاری
تمام نوشته‌های برچسب‌خورده با "تزریق پرامپت"
تکنیک حمله جدیدی به نام EchoLeak به عنوان آسیب‌پذیری هوش مصنوعی "بدون کلیک" شناخته شده که به مهاجمان اجازه می‌دهد داده‌های حساس را از زمینه Microsoft 365 Copilot بدون هیچ تعامل کاربری استخراج کنند.
متا روز سه‌شنبه چارچوب متن‌باز LlamaFirewall را معرفی کرد که برای ایمن‌سازی سیستم‌های هوش مصنوعی در برابر خطرات سایبری نوظهور مانند تزریق پرامپت، شکست امنیت و کد ناامن طراحی شده است.
خدمات مختلف هوش مصنوعی تولیدی (GenAI) در برابر دو نوع حمله جیل‌بریک آسیب‌پذیر شناخته شده‌اند که امکان تولید محتوای غیرقانونی یا خطرناک را فراهم می‌کنند.
