محققان امنیت سایبری تکنیک حمله جدیدی به نام TokenBreak را کشف کردهاند که میتواند با تغییر تنها یک کاراکتر، از محافظهای ایمنی و نظارت محتوای مدلهای زبانی بزرگ (LLM) عبور کند. حمله TokenBreak استراتژی توکنسازی مدل طبقهبندی متن را هدف قرار میدهد تا نتایج منفی کاذب ایجاد کند و اهداف نهایی را در برابر حملاتی آسیبپذیر بگذارد که سیستم پیادهسازی شده
محققان امنیت سایبری تکنیک حمله جدیدی به نام TokenBreak را کشف کردهاند که میتواند با تغییر تنها یک کاراکتر، از محافظهای ایمنی و نظارت محتوای مدلهای زبانی بزرگ (LLM) عبور کند. حمله TokenBreak استراتژی توکنسازی مدل طبقهبندی متن را هدف قرار میدهد تا نتایج منفی کاذب ایجاد کند و اهداف نهایی را در برابر حملاتی آسیبپذیر بگذارد که سیستم پیادهسازی شده