استفاده ایران و چین از هوش مصنوعی برای کارزارهای نفوذ آنلاین

ایران، چین و شرکت‌های اسرائیلی از مدل‌های متن‌باز هوش مصنوعی برای نفوذ آنلاین استفاده کرده‌اند.

این اقدامات نگرانی‌های امنیتی درباره سرعت تحول فناوری و دستکاری افکار عمومی را افزایش داده است.

ترکیب تاکتیک‌های هوش مصنوعی، سرعت و مقیاس کارزارهای آنلاین را بدون نیاز به دخالت انسانی افزایش داده است.

استفاده از مدل‌های متن‌باز چینی و ساخت عامل‌های هوش مصنوعی، امکان اجرای خودکار وظایف را فراهم کرده است.

عامل‌های هوش مصنوعی به‌طور خودکار حساب‌های جعلی ساخته و محتوای نادرست منتشر می‌کنند.

این یکی از نخستین موارد مدیریت کامل کارزار نفوذ توسط عامل‌های هوش مصنوعی است.

سازوکارهای حفاظتی در این سامانه‌ها توسط گردانندگان غیرفعال شده‌اند.

عملیات‌ها ابتدایی اما نگران‌کننده بودند؛ کارزارهای ایران و چین دولتی و اسرائیلی‌ها خصوصی بودند.

نگرانی‌ها درباره اجرای کارزارهای نفوذ بدون دخالت انسان افزایش یافته است.

احتمال استفاده از این روش‌ها در انتخابات میان‌دوره‌ای آمریکا وجود دارد.

روسیه، ایران و چین سابقه استفاده از هوش مصنوعی در انتخابات‌های گذشته را دارند.

کارزارهای مبتنی بر عامل‌های هوش مصنوعی با پیشرفت فناوری رایج‌تر خواهند شد.

عامل‌ها می‌توانند خود را با محیط وفق داده و شبیه انسان به نظر برسند.

بحث ایمنی هوش مصنوعی پس از نفوذ به استارت‌آپ Hugging Face تشدید شده است.

مدیران فناوری درباره سرعت توسعه هوش مصنوعی و نیاز به سازوکارهای حفاظتی اختلاف‌نظر دارند.

تیک‌تاک و متا از استفاده هوش مصنوعی برای تولید محتوا در پلتفرم‌هایشان خبر داده‌اند.

متا شاهد تحولی فنی در استفاده بازیگران مخرب از هوش مصنوعی بوده است.

هوش مصنوعی در سامانه‌های خودکار برای تولید و توزیع محتوا ادغام شده است.

کارزارهای عامل‌محور به دلیل خودمختاری، از روش‌های قدیمی متمایز هستند.

مدل‌های متن‌باز سطح جدیدی از خودمختاری را امکان‌پذیر می‌کنند.

مدل‌های متن‌باز روی سخت‌افزار خصوصی اجرا شده و غیرقابل توقف هستند.

کارزار ایران مخاطبان آمریکایی را هدف قرار داده بود.

حساب‌های جعلی ایرانی با معرفی خود به‌عنوان آمریکایی، دیدگاه‌های ضد جمهوری‌خواه منتشر می‌کردند.

جزئیات کارزار چینی منتشر نشده اما از تاکتیک‌های مشابه استفاده کرده است.

شرکت اسرائیلی IntelEye توسط فارغ‌التحصیلان NSO Group تأسیس شده است.

فعالیت‌های IntelEye توجه سازمان‌های اطلاعاتی آمریکا را جلب کرده بود.

این شرکت هزاران حساب برای پاسخ به پست‌های انتخابات اسرائیل ایجاد کرده بود.

حساب‌های IntelEye محتوای متناقض در حمایت و مخالفت با نتانیاهو منتشر می‌کردند.

بنیان‌گذار IntelEye مدعی است استفاده از مدل چینی صرفاً برای تحقیقات دفاعی بوده است.

هدف IntelEye درک سوءاستفاده از مدل‌های بدون حفاظ برای بهبود تشخیص فعالیت‌ها بوده است.

IntelEye هزاران حساب خریداری کرده بود که حدود هزار مورد آن عملیاتی شد.

متا اعلام کرد بخش عمده حساب‌های غیرواقعی را شناسایی و حذف کرده است.

متا به کارزار پیچیده دیگری از یک عملیات تجاری اسرائیلی اشاره کرد.