هوش مصنوعی چینی DeepSeek-R1 هنگام اشاره به تبت یا اویغورها کد ناامن تولید می‌کند

تحقیقات جدید شرکت کرادسترایک نشان داده که مدل هوش مصنوعی استدلالی DeepSeek-R1 هنگام دریافت درخواست‌هایی که حاوی موضوعات حساس سیاسی چین هستند، تا ۵۰ درصد بیشتر کد حاوی آسیب‌پذیری‌های امنیتی شدید تولید می‌کند. این شرکت امنیت سایبری اعلام کرد که زمانی که DeepSeek-R1 درخواست‌هایی دریافت می‌کند که احتمالاً حزب کمونیست چین آن‌ها را از نظر سیاسی حساس می‌داند، احتمال تولید کد با آسیب‌پذیری‌های امنیتی شدید افزایش می‌یابد. این مدل منبع باز پیش از این نیز موضوعاتی مانند دیوار آتش بزرگ چین یا وضعیت سیاسی تایوان را سانسور می‌کرد.

تجزیه و تحلیل کرادسترایک نشان داد که هنگام اضافه کردن اصطلاحات جغرافیایی-سیاسی به درخواست‌ها، کیفیت کد دچار تغییرات قابل توجهی می‌شود. به عنوان مثال، زمانی که از مدل خواسته شد برای یک سیستم کنترل صنعتی مستقر در تبت کد بنویسد، احتمال تولید کد با آسیب‌پذیری‌های شدید به ۲۷.۲ درصد رسید که نزدیک به ۵۰ درصد افزایش نشان می‌دهد. همچنین کرادسترایک کشف کرد که مدل دارای یک “کلید خاموشی ذاتی” است که در ۴۵ درصد موارد از نوشتن کد برای فالون گونگ، جنبش مذهبی ممنوع در چین، امتناع می‌کند. این یافته‌ها همزمان با گزارش‌هایی از سایر ابزارهای هوش مصنوعی کدنویسی منتشر شده که نشان می‌دهد این ابزارها نیز به طور پیش‌فرض کد ناامن تولید می‌کنند.