تمام نوشته‌های برچسب‌خورده با "امنیت هوش مصنوعی"
یک آسیب‌پذیری با بالاترین سطح شدت در آخرین نسخه Python FastAPI پروژه ChromaDB، به مهاجمان احراز هویت‌نشده اجازه می‌دهد تا کدهای دلخواه را روی سرورهای در معرض دید اجرا کنند.
105محققان امنیت سایبری یک ضعف بحرانی «ذاتی در طراحی» در معماری پروتکل زمینه مدل (MCP) کشف کرده‌اند که می‌تواند زمینه را برای اجرای کد از راه دور فراهم کرده و تأثیری زنجیره‌وار بر زنجیره تأمین هوش مصنوعی داشته باشد. این نقص امکان اجرای دستورات دلخواه (RCE) را بر روی هر سیستمی که پیاده‌سازی آسیب‌پذیر MCP را اجرا می‌کند فراهم می‌سازد و به مهاجمان دسترسی مستقیم می‌دهد.
تیم‌های امنیتی سال‌ها صرف ساخت کنترل‌های هویت و دسترسی برای کاربران انسانی و حساب‌های سرویس کرده‌اند. اما یک دسته جدید از عوامل به‌آرامی وارد اکثر محیط‌های سازمانی شده که کاملاً خارج از این کنترل‌ها عمل می‌کند. Claude Code، عامل هوش مصنوعی کدنویسی Anthropic، اکنون در سازمان‌های مهندسی در مقیاس گسترده اجرا می‌شود؛ فایل‌ها را می‌خواند، دستورات شل را اجرا می‌کند و APIهای خارجی را فراخوانی می‌کند.
63محققان امنیت سایبری جزئیات روش جدیدی را برای استخراج داده‌های حساس از محیط‌های اجرای کد هوش مصنوعی با استفاده از کوئری‌های سیستم نام دامنه (DNS) فاش کردند. BeyondTrust در گزارشی که روز دوشنبه منتشر شد، فاش کرد که حالت sandbox مفسر کد Amazon Bedrock AgentCore اجازه ارسال کوئری‌های DNS خروجی را می‌دهد که مهاجم می‌تواند از آن برای ایجاد شل‌های تعاملی سوءاستفاده کند.
128یک آسیب‌پذیری در GitHub Codespaces می‌توانست توسط عوامل مخرب برای تصاحب کنترل مخازن از طریق تزریق دستورالعمل‌های مخرب Copilot در یک Issue گیت‌هاب مورد سوءاستفاده قرار گیرد. این آسیب‌پذیری مبتنی بر هوش مصنوعی توسط Orca Security با نام RoguePilot شناخته شده و پس از افشای مسئولانه توسط مایکروسافت وصله شده است.
OpenClaw (که قبلاً Moltbot و Clawdbot نام داشت) اعلام کرده است که با VirusTotal متعلق به گوگل همکاری می‌کند تا مهارت‌هایی که به ClawHub، بازار مهارت‌های آن، آپلود می‌شوند را اسکن کند، این اقدام بخشی از تلاش‌های گسترده‌تر برای تقویت امنیت اکوسیستم عامل‌محور است. "تمام مهارت‌های منتشر شده در ClawHub اکنون با استفاده از هوش تهدید VirusTotal، از جمله قابلیت جدید Code Insight آنها، اسکن می‌شوند."
محققان امنیت سایبری آسیب‌پذیری امنیتی بحرانی در پروژه Model Context Protocol (MCP) Inspector شرکت هوش مصنوعی Anthropic کشف کرده‌اند که می‌تواند منجر به اجرای کد از راه دور (RCE) شده و به مهاجم اجازه دسترسی کامل به میزبان‌ها را بدهد. این آسیب‌پذیری با شناسه CVE-2025-49596 ردیابی می‌شود و امتیاز CVSS آن 9.4 از حداکثر 10.0 است.
خدمات مختلف هوش مصنوعی تولیدی (GenAI) در برابر دو نوع حمله جیل‌بریک آسیب‌پذیر شناخته شده‌اند که امکان تولید محتوای غیرقانونی یا خطرناک را فراهم می‌کنند.
کارمندان شما قصد افشای داده‌های حساس را نداشتند. آنها فقط می‌خواستند سریع‌تر عمل کنند. بنابراین از ChatGPT برای خلاصه‌سازی یک قرارداد استفاده کردند. یک جدول گسترده را به ابزاری با قابلیت هوش مصنوعی آپلود کردند. یک چت‌بات را در Salesforce ادغام کردند. مسئله بزرگی نیست—تا زمانی که بزرگ شود.
