محققان ۱۷۵,۰۰۰ سرور هوش مصنوعی Ollama در معرض عموم را در ۱۳۰ کشور کشف کردند

یک تحقیق مشترک توسط SentinelOne SentinelLABS و Censys نشان داده است که استقرار هوش مصنوعی متن‌باز یک «لایه گسترده و غیرمدیریت‌شده از زیرساخت محاسباتی هوش مصنوعی» ایجاد کرده که شامل ۱۷۵ هزار میزبان منحصربه‌فرد Ollama در ۱۳۰ کشور می‌شود. این سیستم‌ها که در شبکه‌های ابری و مسکونی در سراسر جهان پراکنده‌اند، خارج از محدودیت‌های امنیتی و سیستم‌های نظارتی که ارائه‌دهندگان پلتفرم به‌طور پیش‌فرض اعمال می‌کنند، عمل می‌کنند. بیشترین میزان این آسیب‌پذیری‌ها در چین با بیش از ۳۰ درصد قرار دارد و کشورهای آمریکا، آلمان، فرانسه، کره جنوبی، هند، روسیه، سنگاپور، برزیل و بریتانیا بیشترین حضور زیرساختی را دارند. محققان هشدار داده‌اند که نزدیک به نیمی از میزبان‌های مشاهده‌شده با قابلیت فراخوانی ابزار (tool-calling) پیکربندی شده‌اند که به آن‌ها امکان اجرای کد، دسترسی به APIها و تعامل با سیستم‌های خارجی را می‌دهد.

این وضعیت خطرات امنیتی جدیدی ایجاد کرده است، به‌ویژه در زمینه LLMjacking که در آن مهاجمان از منابع زیرساخت مدل‌های زبانی بزرگ (LLM) قربانیان سوءاستفاده می‌کنند. گزارش Pillar Security نشان می‌دهد که مهاجمان به‌طور فعال نقاط پایانی سرویس LLM را هدف قرار می‌دهند و دسترسی به زیرساخت هوش مصنوعی را در قالب عملیات Operation Bizarre Bazaar به فروش می‌رسانند. این عملیات شامل اسکن سیستماتیک اینترنت برای یافتن نمونه‌های Ollama، سرورهای vLLM و APIهای سازگار با OpenAI بدون احراز هویت است که سپس دسترسی به آن‌ها با نرخ‌های تخفیف‌دار تبلیغ می‌شود. محققان تأکید کرده‌اند که این سیستم‌ها باید با همان کنترل‌های احراز هویت، نظارت و شبکه‌ای که برای سایر زیرساخت‌های قابل دسترسی خارجی اعمال می‌شود، مدیریت شوند.