متا روز سهشنبه از LlamaFirewall رونمایی کرد، یک چارچوب متنباز برای محافظت از سیستمهای هوش مصنوعی در برابر تهدیدات سایبری نوظهور مانند تزریق پرامپت، جیلبریک و کدهای ناامن. این چارچوب شامل سه محافظ اصلی است: PromptGuard 2 برای تشخیص حملات جیلبریک و تزریق پرامپت در زمان واقعی، Agent Alignment Checks برای بررسی استدلال عاملها در برابر ربودن هدف و تزریق غیرمستقیم پرامپت، و CodeShield که یک موتور تحلیل استاتیک آنلاین برای جلوگیری از تولید کدهای ناامن توسط عاملهای هوش مصنوعی است.
همچنین متا نسخههای بهروزشده LlamaGuard و CyberSecEval 4 را منتشر کرد که شامل معیار جدید AutoPatchBench برای ارزیابی قابلیت مدلهای زبانی بزرگ در ترمیم خودکار آسیبپذیریهای C/C++ است. علاوه بر این، برنامه Llama for Defenders برای کمک به سازمانهای شریک و توسعهدهندگان هوش مصنوعی در دسترسی به راهحلهای امنیتی مختلف راهاندازی شد. واتساپ نیز فناوری Private Processing را معرفی کرد که امکان استفاده از ویژگیهای هوش مصنوعی بدون به خطر انداختن حریم خصوصی کاربران را فراهم میکند.
کلمات کلیدی : LlamaFirewall, هوش مصنوعی, امنیت سایبری, تزریق پرامپت, جیلبریک, متا
نظر شما چیست؟
خوشحال میشویم نظر شما را بدانیم. نظری بنویسید.