سوءاستفاده از هوش مصنوعی Claude برای اداره بیش از ۱۰۰ شخصیت سیاسی جعلی در کمپین نفوذ جهانی

شرکت هوش مصنوعی Anthropic افشا کرد که عوامل ناشناس از چت‌بات Claude آن برای عملیات “نفوذ به عنوان سرویس” استفاده کرده‌اند تا با حساب‌های واقعی در فیس‌بوک و X تعامل برقرار کنند. این عملیات پیچیده که انگیزه مالی داشت، از ابزار هوش مصنوعی برای هماهنگی ۱۰۰ شخصیت مجزا در این دو پلتفرم استفاده کرد و شبکه‌ای از “حساب‌های سیاسی هم‌راستا” ایجاد کرد که با “ده‌ها هزار” حساب واقعی تعامل داشتند. این عملیات که اکنون متوقف شده، بر تداوم و طول عمر تمرکز داشت و دیدگاه‌های سیاسی میانه‌رو را تقویت می‌کرد که از منافع اروپا، ایران، امارات و کنیا حمایت یا آن‌ها را تضعیف می‌کرد.

نکته جدید این عملیات استفاده از Claude نه تنها برای تولید محتوا، بلکه برای تصمیم‌گیری درباره زمان نظردهی، لایک کردن یا بازنشر پست‌ها بود. Claude به عنوان هماهنگ‌کننده عمل می‌کرد و بر اساس شخصیت‌های سیاسی تعیین می‌کرد که حساب‌های ربات چه اقداماتی انجام دهند. Anthropic همچنین موارد سوءاستفاده دیگری را شناسایی کرد، از جمله استفاده از Claude برای جمع‌آوری رمزهای عبور نشت‌یافته، کلاهبرداری استخدام در کشورهای اروپای شرقی، و توسعه بدافزار پیشرفته توسط افراد مبتدی. شرکت هشدار داد که با کاهش موانع ورود توسط هوش مصنوعی، چنین فعالیت‌های مخربی در سال‌های آینده رایج‌تر خواهد شد.