هکرها از هوش مصنوعی برای توسعه اولین دور زدن شناخته‌شده احراز هویت دو مرحله‌ای با اکسپلویت روز-صفر استفاده کردند

گوگل روز دوشنبه فاش کرد که یک عامل تهدید ناشناس از یک آسیب‌پذیری روز صفر (zero-day exploit) بهره‌برداری کرده که احتمالاً با کمک هوش مصنوعی توسعه یافته است؛ این اولین بار در تاریخ است که هوش مصنوعی به‌طور مستقیم در کشف آسیب‌پذیری و تولید اکسپلویت در دنیای واقعی به‌کار گرفته شده است. گروه اطلاعات تهدید گوگل (GTIG) اعلام کرد این آسیب‌پذیری در قالب یک اسکریپت پایتون پیاده‌سازی شده و امکان دور زدن احراز هویت دو مرحله‌ای (2FA) در یک ابزار مدیریت وب متن‌باز را فراهم می‌کند. نشانه‌های موجود در کد، از جمله توضیحات آموزشی فراوان، امتیاز CVSS توهم‌زده (hallucinated)، و ساختار منظم پایتونیک، به‌وضوح حاکی از تولید آن توسط یک مدل زبانی بزرگ (LLM) است.

در کنار این کشف، گوگل از بدافزار اندرویدی خطرناکی به نام PromptSpy پرده برداشت که از هوش مصنوعی Gemini برای تحلیل صفحه‌نمایش، ثبت داده‌های بیومتریک، و جلوگیری از حذف برنامه سوءاستفاده می‌کند. همچنین گزارش این شرکت نشان می‌دهد گروه‌های هکری وابسته به چین، کره شمالی و روسیه از جمله APT45، APT27 و UNC2814 از Gemini برای تسریع تحقیقات آسیب‌پذیری، توسعه بدافزار و عملیات جاسوسی سایبری استفاده کرده‌اند. گوگل همچنین نسبت به رشد بازار خاکستری پلتفرم‌های واسط (relay platforms) که دسترسی غیرمجاز به مدل‌های هوش مصنوعی را تسهیل می‌کنند هشدار داد و تأکید کرد که این زیرساخت‌ها خطرات جدی امنیتی و حریم خصوصی برای کاربران ایجاد می‌کنند.