هوش مصنوعی به ابزاری قدرتمند برای دستکاری اطلاعات و فریب در فرآیندهای دموکراتیک تبدیل شده است. بر اساس گزارشهای اخیر، بیش از ۱۱۵۰ وبسایت خبری غیرقابل اعتماد که توسط هوش مصنوعی تولید شدهاند شناسایی شدهاند، در حالی که حدود یکپنجم آمریکاییها اخبار خود را از رسانههای اجتماعی دریافت میکنند. مایکروسافت فعالیتهای چین و روسیه را در انتخابات آمریکا برجسته کرده که در آن “عوامل تهدید در حال ادغام هوش مصنوعی تولیدی در تلاشهای نفوذ انتخاباتی خود مشاهده شدند.”
تکنولوژیهای جدید شامل ویدیوهای دیپفیک (deepfake)، شبیهسازی صدا، و مدلهای زبانی بزرگ (LLMs) امکان تولید محتوای جعلی در مقیاس وسیع را فراهم کردهاند. نمونهای از این تهدیدات در انتخابات اسلواکی ۲۰۲۳ مشاهده شد که یک ضبط صوتی جعلی از سیاستمداری منتشر شد. با توجه به اینکه مغز انسان نمیتواند با سرعت تکامل هوش مصنوعی سازگار شود، متخصصان بر ضرورت آموزش نیروی کار و جوامع برای شناسایی و مقابله با این حملات مهندسی اجتماعی تأکید میکنند.
کلمات کلیدی : هوش مصنوعی, دیپ فیک, اخبار جعلی, انتخابات, مهندسی اجتماعی, رسانه های اجتماعی
نظر شما چیست؟
خوشحال میشویم نظر شما را بدانیم. نظری بنویسید.