مرورگر وب جدید OpenAI Atlas در معرض حمله تزریق پرامپت (prompt injection) قرار دارد که امکان جیلبریک کردن نوار آدرس (omnibox) آن را از طریق مخفی کردن دستورات مخرب در قالب آدرس‌های ظاهراً بی‌ضرر فراهم می‌کند. شرکت امنیتی NeuralTrust در گزارشی اعلام کرد که مهاجمان می‌توانند با استفاده از عدم وجود مرزهای دقیق بین ورودی‌های قابل اعتماد کاربر و محتوای غیرقابل اعتماد، دستورات مخرب را در قالب رشته‌های شبیه URL طراحی کنند. در این حمله، آدرس‌های جعلی که با “https” شروع می‌شوند اما حاوی دستورات زبان طبیعی هستند، باعث می‌شوند مرورگر آن‌ها را به عنوان پرامپت برای عامل هوش مصنوعی تفسیر کند.
این آسیب‌پذیری در حالی کشف شده که مرورگرهای مجهز به هوش مصنوعی مانند Perplexity Comet و Opera Neon نیز در معرض حملات مشابه قرار دارند. مدیر امنیت اطلاعات OpenAI، Dane Stuckey، تزریق پرامپت را “مسئله امنیتی حل‌نشده مرزی” توصیف کرد و اذعان داشت که علی‌رغم اقدامات امنیتی گسترده شامل red-teaming و تکنیک‌های آموزش مدل، مهاجمان همچنان روش‌های جدیدی برای فریب عوامل هوش مصنوعی ابداع خواهند کرد. این حملات می‌توانند از هدایت کاربران به صفحات فیشینگ تا حذف فایل‌ها از اپلیکیشن‌های متصل مانند Google Drive را شامل شوند.
کلمات کلیدی : مرورگر OpenAI Atlas, تزریق پرامپت, prompt injection, جیلبریک omnibox, آسیب‌پذیری هوش مصنوعی, امنیت مرورگر
نظر شما چیست؟
خوشحال می‌شویم نظر شما را بدانیم. نظری بنویسید.