تقابل قدرت و امنیت؛ رهبران هوش مصنوعی خواستار نظارت جهانی شدند

رهبران شرکت‌های هوش مصنوعی در سازمان ملل نسبت به خطرات امنیتی و تمرکز قدرت هشدار دادند.

مدیران اوپن‌ای‌آی، آنتروپیک و ‌هاگینگ‌فیس در نشستی به ریاست وزیر خارجه فرانسه سخنرانی کردند.

سخنرانان بر سر خطرات توافق داشتند اما راهکارهای متفاوتی برای مدیریت ایمنی ارائه کردند.

سم آلتمن بر دو خطر اصلی: ازدست‌رفتن کنترل انسان و تمرکز قدرت تأکید کرد.

آلتمن رقابت را توجیهی برای توسعه بی‌ملاحظه ندانست و خواستار مشارکت دولت‌های پاسخ‌گو شد.

پیشنهادهای آلتمن شامل سنجش توانایی مدل‌ها، گزارش حوادث و ایجاد کانال‌های ارتباطی امن بود.

چالش اصلی، تبدیل چارچوب‌های مشترک به معیارهای ارزیابی یکسان برای کشورهای مختلف است.

مدیرعامل آنتروپیک بر لزوم استانداردهای سخت‌گیرانه و کاهش سرعت توسعه در صورت نیاز تأکید کرد.

اجرای تعهدات کاهش سرعت توسعه نیازمند معیارهای مشخص و نظارت مستقل است.

یوشوا بنجیو خواستار صدور مجوز، بیمه مسوولیت و اثبات ایمنی توسط کارشناسان مستقل شد.

بنجیو بر ضرورت پایش حوادث و نظارت علمی مستقل از شرکت‌های توسعه‌دهنده تأکید کرد.

نفوذ به سامانه‌های ‌هاگینگ‌فیس، بحث امنیت هوش مصنوعی را در سازمان ملل داغ کرد.

گزارش سازمان ملل میان حادثه فعلی و سناریوهای آینده تمایز قائل شد.

شواهد نقص امنیتی باید به اصلاح منجر شود، اما پیش‌بینی رفتار آینده نیازمند ارزیابی جداگانه است.

کلمنت دلانگ بر اهمیت هوش مصنوعی متن‌باز برای ابزارهای دفاعی تأکید کرد.

دولت‌ها بر سر نحوه نظارت اختلاف دارند؛ ترامپ با کنترل بین‌المللی مخالفت کرد.

ایجاد کانال اطلاع‌رسانی حوادث میان کشورها می‌تواند همکاری را بدون توافق کامل تقویت کند.

کارآمدی استانداردهای مشترک به جزئیات فنی و دسترسی ارزیابان مستقل بستگی دارد.