جمهوری اسلامی اکنون بزرگترین تهدید خارجی برای انتخابات ۲۰۲۴ آمریکا است

OpenAI حساب‌های ChatGPT مرتبط با عملیات اطلاعات نادرست جمهوری اسلامی را غیرفعال می‌کند

OpenAI روز جمعه گفت که این هفته مجموعه ای از حساب های ChatGPT را غیرفعال کرده است که از چت ربات هوش مصنوعی برای ساخت مقالات اخبار جعلی و نظرات رسانه های اجتماعی به عنوان بخشی از یک کمپین اطلاعات نادرست جمهوری اسلامی استفاده می کردند.

دشمنان دولت-ملت قبلاً علاقه خاصی به اخلال در انتخابات ۲۰۲۴ ایالات متحده نشان داده اند و کارشناسان نگرانند که ابزارهای هوش مصنوعی مانند ChatGPT توانایی آنها را برای تولید سریع اطلاعات نادرست سرعت بخشد.

این اولین عملیاتی است که OpenAI مشاهده و حذف کرده و بر انتخابات ایالات متحده تمرکز دارد.

OpenAI در این هفته تعداد نامشخصی از حساب‌های ChatGPT را شناسایی، حذف و ممنوع کرد که از این ابزار برای ایجاد محتوا در مورد انتخابات ریاست‌جمهوری ایالات متحده و موضوعات دیگر استفاده می‌کردند.

OpenAI این فعالیت را به گروهی به نام Storm-2035 مرتبط کرد که به ایجاد وب سایت های خبری جعلی و به اشتراک گذاری آنها در رسانه های اجتماعی برای تأثیرگذاری بر انتخابات مشهور است.

اپراتورها از ChatGPT هم برای ایجاد اخبار جعلی طولانی مدت و هم برای نوشتن نظرات برای پست های رسانه های اجتماعی استفاده می کردند. موضوعات شامل جنگ اسرائیل و حماس، حضور اسرائیل در بازی های المپیک و انتخابات ریاست جمهوری ایالات متحده بود.

مایکروسافت در همان گزارشی که اخبار مربوط به حملات اخیر فیشینگ نیزه‌ای را که کمپین‌های ریاست‌جمهوری ایالات متحده را هدف قرار می‌دهند، منتشر کرد، هفته گذشته جزئیات مربوط به این گروه اطلاعات نادرست جمهوری اسلامی، از جمله برخی از سایت‌های خبری جعلی را به اشتراک گذاشت.

OpenAI مجموعه جدیدی از حساب های رسانه های اجتماعی را پیدا کرده است که این گروه از آنها برای انتشار این اطلاعات استفاده می کرد.

OpenAI به عنوان بخشی از تحقیقات خود، ده ها حساب را در X، قبلا توییتر، و یک حساب اینستاگرام شناسایی کرد.

یکی از سخنگویان متا گفت که اکانت اینستاگرام را غیرفعال کرده و گفته است که به یک کمپین ایرانی در سال ۲۰۲۱ مرتبط است که کاربران اسکاتلند را هدف قرار داده است.

X فوراً به درخواست اظهار نظر پاسخ نداد، اما OpenAI می‌گوید همه این حساب‌های رسانه اجتماعی دیگر فعال نیستند.

این بازیگران همچنین پنج وب‌سایت ایجاد کردند که هم به‌عنوان رسانه‌های خبری مترقی و هم محافظه‌کار ظاهر می‌شدند و اطلاعاتی درباره انتخابات به اشتراک می‌گذاشتند.

در یک مثال، اپراتورها از ChatGPT برای ایجاد عنوانی با عنوان چرا کامالا هریس تیم والز را به عنوان همسرش انتخاب کرد انتخاب محاسبه شده برای وحدت استفاده کردند.

به گفته OpenAI، اکثر حساب‌های رسانه‌های اجتماعی که این محتوای تولید شده توسط هوش مصنوعی را به اشتراک می‌گذارند، تعامل چندانی نداشتند.

بن نیمو، محقق اصلی تیم تحقیقات و اطلاعات OpenAI به خبرنگاران گفت همه ما باید هوشیار باشیم، اما آرام بمانیم.

تفاوت بزرگی بین ارسال یک عملیات نفوذ به صورت آنلاین و تأثیرگذار شدن با دستیابی به مخاطبان وجود دارد.

بن نیمو گفت OpenAI از ابزارهای خاص خود، از جمله ابزارهای جدیدی که از آخرین گزارش تهدید خود در ماه می توسعه یافته است، برای شناسایی این حساب‌ها پس از اخبار مایکروسافت در هفته گذشته استفاده کرد.

هنوز راه زیادی تا انتخابات نوامبر باقی مانده است و اینکه آیا عملیات نفوذ خارجی به صورت آنلاین قدرت بیشتری پیدا خواهد کرد، یک سوال باز است.