محققان دانشگاه تورنتو یک کرم رایانه‌ای (computer worm) مبتنی بر هوش مصنوعی ساخته و آزمایش کرده‌اند که با استفاده از یک مدل زبانی بزرگ (large language model) متن‌باز، قادر است به‌صورت کاملاً خودکار در شبکه‌های رایانه‌ای گسترش یابد، آسیب‌پذیری‌ها را شناسایی کند و استراتژی‌های حمله سفارشی برای هر هدف تولید نماید. در ۱۵ آزمایش مستقل روی یک شبکه ایزوله ۳۳ میزبانه، این کرم به‌طور میانگین ۳۱.۳ آسیب‌پذیری شناسایی کرد، به ۲۳.۱ میزبان دسترسی ارتقاءیافته (elevated access) به دست آورد و در طول هفت روز بدون هیچ‌گونه دخالت انسانی، خود را به ۶۲ درصد از کل شبکه منتقل کرد. برخلاف کرم‌های سنتی که با بارهای بهره‌برداری (exploit payload) از پیش تعریف‌شده کار می‌کنند، این کرم منطق حمله را در زمان اجرا تولید می‌کند و با خواندن توصیه‌نامه‌های امنیتی عمومی، حتی آسیب‌پذیری‌هایی را که پس از تاریخ آموزش مدل منتشر شده‌اند نیز بهره‌برداری می‌کند. این پژوهش که توسط آزمایشگاه CleverHans به رهبری استاد نیکولاس پاپرنوت انجام شده، نشان می‌دهد که چون این کرم به هیچ سرویس تجاری هوش مصنوعی وابسته نیست، کنترل‌های سمت ارائه‌دهنده مانند محدودیت نرخ (rate limiting) یا لغو کلید API کارایی ندارند. محققان توصیه می‌کنند که زیرساخت‌های دارای GPU به‌شدت تفکیک شوند، چرخه وصله‌گذاری (patching) برای آسیب‌پذیری‌های اینترنتی تسریع شود و سیگنال‌های رفتاری خاص عامل‌های هوش مصنوعی مانند تزریق کلید عمومی SSH و فعالیت‌های استنتاج (inference) غیرمعمول رصد شوند. کد این پژوهش به‌صورت عمومی منتشر نشده و دانشگاه تورنتو فرآیند بررسی دسترسی برای محققان دفاعی واجد شرایط را در دست اقدام دارد.
کلمات کلیدی : کرم رایانه‌ای هوش مصنوعی, مدل زبانی بزرگ امنیت سایبری, آسیب‌پذیری شبکه رایانه‌ای, حمله سایبری خودکار, امنیت زیرساخت هوش مصنوعی, بهره‌برداری از آسیب‌پذیری نرم‌افزار
نظر شما چیست؟
خوشحال می‌شویم نظر شما را بدانیم. نظری بنویسید.