بخشی از گزارش آنتروپیک با عنوان “شناسایی و مقابله با سوءاستفاده از هوش مصنوعی: سپتامبر ۲۰۲۶” که در رابطه با شناسایی و انهدام شبکه نفوذ مجاهدین با سواستفاده از هوش مصنوعی است.
پرونده ای با کد GTG-84006:
مختلسازی یک عملیات نفوذِ توزیعیافته و همسو با سازمان مجاهدین خلق (MEK) و شورای ملی مقاومت ایران (NCRI) که از یک عامل هوش مصنوعی مشترک برای جعل هویت افراد واقعی و جذب نیرو در داخل ایران استفاده میکرد.
ما یک عملیات نفوذِ توزیعیافته را شناسایی و متوقف کردیم که مخاطبان ایرانی در داخل و خارج از کشور را هدف قرار داده بود. این عملیات برای فریب کاربران، با مأمور کردن یک عامل هوش مصنوعی مشترک برای شبیهسازی حساب تلگرام شخصی یک فعال واقعی و سپس دادن دستورالعملهایی به زبان فارسی مبنی بر اینکه اکنون آن شخص است، هویت آن فعال را جعل میکرد. عاملان عملیات به مدل هوش مصنوعی «کلود» (Claude) دستور دادند تا حدود ۸۴۰۰ مورد از پستهای تلگرامی آن فرد را بخواند و سبک نوشتاری او را تقلید کند؛ سپس از آن برای انجام گفتگوهای سیاسی زنده با مخاطبان آن فرد استفاده کردند. تا آنجا که ما اطلاع داریم، این مخاطبان نمیدانستند که در حال گفتگو با حسابی هستند که توسط هوش مصنوعی پشتیبانی میشود.
اگرچه عاملان عملیات زیرساخت حساب کاربری مشترکی نداشتند یا نشانههای آشکاری از هماهنگی از خود بروز ندادند، اما تحقیقات ما این فعالیت را به سازمان مجاهدین خلق ایران (PMOI/MEK) و بازوی سیاسی آن، یعنی شورای ملی مقاومت ایران (NCRI)، مرتبط دانست.
تحقیقات ما نشان داد که دستکم چهار نفر از گردانندگان این کارزار، برای رسانههای رسمی شورای ملی مقاومت (NCRI) کار میکنند. این عملیات متکی بر رسانههای تحت مدیریت NCRI/MEK در پلتفرمهای متعدد، از جمله تلویزیون، رادیو ماهوارهای و موج کوتاه، اینستاگرام، تلگرام و ایکس (توییتر) بود. اگرچه وجود فرآیندهای تأیید توسط کمیتهها و یادداشتهایی درباره رهبری سازمان مجاهدین خلق (MEK) حاکی از احتمال وجود مأموریتدهی مرکزی است، اما ما قادر به تأیید دقیق سطح کنترل متمرکز نیستیم.
با استفاده از «مقیاس بریکاوت» (Breakout Scale)، ما این عملیات را در «رده دوم» ارزیابی میکنیم (شامل پلتفرمهای متعدد، با توزیع از طریق رسانههای متعلق به خودِ شبکه NCRI و حسابهای تقویتکننده).
یافتههای کلیدی
• این عملیات با موفقیت اطلاعات بیش از ۵۰۰ کانال شبکههای اجتماعی را گردآوری کرد تا پروفایلهای دقیقی از افراد داخل ایران بسازد. سپس آنها این افرادِ هدف را بر اساس شهر، سن، شغل، گرایش سیاسی و سابقه بازداشت دستهبندی کردند؛ اقدامی که احتمالاً به آنها کمک میکرد تا پیامهای خود را متناسب با مخاطبان خاص تنظیم کنند.
• این شبکه حدود ۵۱،۹۴۴ پیام آرشیو شده از این گفتگوها را تحلیل کرد تا پروندههای روانشناختی (سایکولوگرافیک) دقیقی درباره دهها فرد خاص در ایران تشکیل دهد. برای گسترش بیشتر پیام، حسابهای کاربری جعلی همچنین یک عنوان خبری فوریِ ساختگی را بهطور همزمان برای بیش از ۳۰ مخاطب ارسال کردند.
• برای ترویج طرح دهمادهای مریم رجوی (رئیس شورای ملی مقاومت ایران)، این شبکه برای هر مقاله آواتارهایی با هوش مصنوعی ایجاد کرد. گردانندگان این عملیات به آواتارها جان بخشیدند (انیمیشنسازی کردند)، صدای فارسی روی آنها گذاشتند و ظاهرشان را طوری طراحی کردند که شبیه ایرانیان عادی به نظر برسند، در حالی که عمداً ماهیت هوش مصنوعی آنها را پنهان میکردند.
• عوامل پشت این کارزار از یک سازوکار خودکار برای مدیریت شبکهای از حسابهای اینستاگرام استفاده کردند که زمانبندی انتشار پستهایشان با هم هماهنگ بود. آنها محتوا را متناسب با مخاطبان هدفِ مختلف تنظیم میکردند. برای پنهان کردن انگیزههای واقعی، در پستهای اولیه عمداً از نام بردن از «مجاهدین» خودداری میشد تا تبلیغات این گروه شبیه اخبار بیطرفانه و مستقل به نظر برسد.
• تمرکز پیامرسانی این عملیات بر دولت ایران، گروههای سلطنتطلب و طیف هواداران پهلوی بود. عوامل عملیات ویدیویی ساختگی را در حمله به یکی از اعضای خانواده پهلوی منتشر کردند و از شعار «نه شاه، نه شیخ» علیه اهداف خود بهره بردند. این محتوا با هدف تقویت جایگاه سازمان مجاهدین خلق (MEK) در میان اپوزیسیون ایران طراحی شده بود.
چرخه حیات حمله و استفاده از هوش مصنوعی
این شبکه برای پشتیبانی از تمام مراحل عملیات نفوذ خود به کلود متکی بود. بازیگران این وظایف را با استفاده از یک پلتفرم عامل هوش مصنوعی مشترک مدیریت میکردند، که در آن هر فضای کاری فایلهای حافظه بلندمدت خود را نگهداری میکرد. با گذشت زمان، آنها این فایلها را با دستورالعملهای خاص، مانند فهرست کلمات ممنوعه، منابع تأیید شده، قوانین مدیریت حساب و راههای جلوگیری از شناسایی، بهروزرسانی میکردند. این امر به عامل اجازه میداد تا بدون هدایت هر جلسه توسط کاربر انسانی، به تولید محتوا ادامه دهد. یکی از بازیگران، دکترین بنیانگذاری مجاهدین خلق را به عنوان «دادههای پایه استراتژیک» در حافظه مدل بارگذاری کرد تا دیگران در داخل عملیات بتوانند از آن استفاده مجدد کنند.
مدیریت انسانی پشت این عملیات بسیار ساختار یافته بود. این شامل یک حلقه تأیید توسط یک کمیته اختصاصی و یک فرآیند بررسی رسمی از اصلاحکنندگان محتوا تا مدیران بود. در طول ارتباطات خود، بازیگران بارها از عبارت «طبق قرارداد ما» استفاده کردند و مرتباً به رهبری مجاهدین خلق اشاره میکردند. ما دریافتیم که همان دستورالعمل عملیاتی به طور یکنواخت در تمام فضاهای کاری اعمال میشود.
اکثریت خروجی اولین بار فارسی بود زیرا شعار اعتراضی ارگانیک 2022 «زن، زندگی، آزادی» را با نوع «زن، مقاومت، آزادی» مجاهدین خلق عوض کرد.
گزارش آنتروپیک
جدول ۱۱. جنبههای گوناگون عملیات نفوذ، شامل پلتفرم مشترک عاملان (از طریق جعل هویت)، نظارت و پایش، رفتار غیرواقعیِ هماهنگ، رسانههای مصنوعی و پولشویی رسانهای.
گزارش آنتروپیک
شکل ۱۵. یک شبکه توزیعشده که حول یک پلتفرم عامل مشترک مبتنی بر مدل «کلود» (با نام «ویکتور») شکل گرفته و طیف وسیعی از فعالیتها، شامل جعل هویت زنده، نظارت و پایش در داخل ایران، رفتارهای غیرواقعیِ هماهنگشده، سخنگویان مصنوعی و پولشویی رسانهای را در بر میگیرد.
گزارش آنتروپیک
شکل ۱۶. این عملیات مبتنی بر «رفتار غیرواقعیِ هماهنگشده»، «رسانههای مصنوعی» و «پولشویی رسانهای» (انتشار محتوا در پلتفرمهای مختلف برای مشروعیتبخشی به آن) بود. نمونهای از پستهای اینستاگرامِ متعلق به حسابهای این شبکه.
اقدامات مقابلهای و کاهش اثرات
ما در جریان تحقیقات داخلی خود متوجه این فعالیت شدیم و حسابهای مذکور را مسدود کردیم. در حال حاضر، امکان تأیید مستقل این موضوع را نداریم که چه میزان تعامل واقعی توسط حسابهای تقویتکننده (amplification accounts) این شبکه جذب شده است.
گزارش آنتروپیک
جدول ۱۲. جدول شاخصهای سازش (IoCs) شامل شناسههای شبکه، وبسایتهای مرتبط و حسابهای انتشارِ دخیل در این فعالیت.