تمام نوشته‌های برچسب‌خورده با "حملات تزریق دستور"

محققان امنیت سایبری تکنیک حمله جدیدی به نام TokenBreak را کشف کرده‌اند که می‌تواند با تغییر تنها یک کاراکتر، از محافظ‌های ایمنی و نظارت محتوای مدل‌های زبانی بزرگ (LLM) عبور کند. حمله TokenBreak استراتژی توکن‌سازی مدل طبقه‌بندی متن را هدف قرار می‌دهد تا نتایج منفی کاذب ایجاد کند و اهداف نهایی را در برابر حملاتی آسیب‌پذیر بگذارد که سیستم پیاده‌سازی شده