در حال بارگذاری
تمام نوشته‌های برچسب‌خورده با "امنیت مدل‌های زبانی بزرگ"
محققان امنیت سایبری جزئیات یک آسیب‌پذیری در ChatGPT شرکت OpenAI را فاش کردند که از اعتماد ضمنی دستیار هوش مصنوعی به لینک‌ها و تصاویر Markdown برای تزریق دستورات و باز کردن درِ حملات فیشینگ سوءاستفاده می‌کند. این تکنیک توسط Permiso Security با نام ChatGPhish نام‌گذاری شده است.
آنتروپیک روز دوشنبه اعلام کرد که «کمپین‌های در مقیاس صنعتی» سه شرکت هوش مصنوعی دیپ‌سیک، مونشات‌ای‌آی و مینی‌مکس را شناسایی کرده که به‌طور غیرقانونی قابلیت‌های کلود را برای بهبود مدل‌های خود استخراج کرده‌اند. این حملات تقطیر بیش از ۱۶ میلیون تبادل با مدل زبانی بزرگ این شرکت را از طریق حدود ۲۴٬۰۰۰ حساب جعلی و در نقض شرایط استفاده ایجاد کردند.
