توافق جهانی بر سر هوش مصنوعی دشوارتر از مذاکرات هسته‌ای

چالش‌های جهانی مهار هوش مصنوعی؛ چرا توافق بر سر آن از سلاح‌های هسته‌ای سخت‌تر است؟

سیاستگذاری و اقتصاد کلانفین‌تک و استارتاپ۶ مهر ۱۴۰۵ دنیای اقتصاد

بیل گیتس هشدار داد که دستیابی به توافق جهانی برای مهار هوش مصنوعی، چالشی پیچیده‌تر از معاهدات هسته‌ای است.

چرا با وجود هشدارهای جدی درباره خطرات هوش مصنوعی، هنوز هیچ توافق الزام‌آور بین‌المللی برای مهار آن وجود ندارد؟

پاسخ را از دستیار بپرس

نکات کلیدی خبر

۱
بیل گیتس معتقد است دستیابی به توافق بین‌المللی برای مهار هوش مصنوعی به دلیل ماهیت پیچیده و غیرمتمرکز آن، از معاهدات هسته‌ای جنگ سرد دشوارتر است.
۲
در واشنگتن تضاد دیدگاه وجود دارد؛ در حالی که ترامپ بر حفظ سرعت توسعه برای برتری بر چین تأکید دارد، گیتس و مدیران شرکت‌های بزرگ هوش مصنوعی بر ضرورت نظارت ایمنی پافشاری می‌کنند.
۳
خطرات عینی مانند حملات سایبری و بیوتروریستی توسط گروه‌های کوچک خرابکار، ضرورت ایجاد نظارت نهادی و شفافیت در سیستم‌های هوش مصنوعی را دوچندان کرده است.
۴
بنیاد گیتس در حال تلاش برای کاهش سوگیری‌های زبانی در هوش مصنوعی و استفاده از این فناوری برای اهداف بشردوستانه مانند ریشه‌کنی بیماری‌ها است.

چرا این خبر مهم است؟

هوش مصنوعی می‌تواند همزمان ابزاری برای پیشرفت و تهدیدی برای امنیت زیرساخت‌ها و سلامت عمومی باشد؛ بنابراین نحوه قانون‌گذاری آن بر آینده امنیت و اقتصاد جهانی اثرگذار است.

نکات پنهان خبر

نظارت بر هوش مصنوعی برخلاف سلاح‌های هسته‌ای، به دلیل ماهیت غیرمتمرکز، سرعت بالای توسعه و دسترسی گسترده به ابزارهای محاسباتی، بسیار دشوارتر و نیازمند چارچوب‌های کاملاً جدید است.

منتظر چه باید بود؟

پیگیری مذاکرات دوجانبه آمریکا و چین درباره هوش مصنوعی و تلاش برای تدوین استانداردهای ایمنی جهانی در ماه‌های آینده.

پژواک تاریخی

مذاکرات محدودسازی تسلیحات هسته‌ای در دوران جنگ سرد

این خبر چگونه به شما اثر می‌گذارد؟

بیشترین تاثیر این خبر بر چیست؟

شرکت‌های فناوری
مواجهه با قوانین نظارتی جدید که می‌تواند سرعت توسعه را کاهش یا ایمنی را افزایش دهد.
دولت‌ها
نیاز به ایجاد توازن میان رقابت استراتژیک و امنیت عمومی.

مفاهیم اقتصادی این خبر

معنای هر مفهوم را در دانشنامه بخوانید
۱

بیل گیتس هشدار داد توافق جهانی برای مهار هوش مصنوعی پیچیده‌تر از معاهدات هسته‌ای جنگ سرد است.

۲

گیتس بر ضرورت نظارت فعال دولت‌ها بر مدل‌های پیشرفته هوش مصنوعی تأکید کرد.

۳

تدوین رژیم حقوقی مشترک بین‌المللی برای هوش مصنوعی با چالش‌های عمیقی روبه‌رو است.

۴

ترامپ با نظارت فدرال بر شرکت‌های هوش مصنوعی مخالف است و برتری فناورانه را اولویت می‌داند.

۵

تضاد دیدگاه میان ترامپ و گیتس درباره تأثیر نظارت بر سرعت توسعه فناوری وجود دارد.

۶

گیتس امیدوار است با اجماع‌سازی، ترامپ را به ضرورت نظارت بر هوش مصنوعی متقاعد کند.

۷

گیتس برای ضرورت همکاری جهانی به تجربه‌های موفق پس از جنگ جهانی دوم اشاره کرد.

۸

او معتقد است هوش مصنوعی بحرانی فرامرزی است که سرنوشت بشر را به هم گره زده است.

۹

افشاگری‌های اخیر درباره خطرات هوش مصنوعی نگرانی‌ها را در شرکت‌های پیشرو افزایش داده است.

۱۰

مدیران اوپن‌ای‌آی و آنتروپیک خواستار تعدیل شتاب توسعه هوش مصنوعی شدند.

۱۱

آمودی بر ضرورت هماهنگی بین‌المللی برای تدوین مقررات مشترک تأکید کرد.

۱۲

نمایندگان کنگره خواستار تشکیل کارگروه مشترک آمریکا و چین برای توافق الزام‌آور شدند.

۱۳

رفتارهای نگران‌کننده عامل‌های هوشمند، نگرانی‌ها درباره استقلال عمل ناخواسته فناوری را تشدید کرده است.

۱۴

آمریکا و چین کانال منظمی برای تبادل نظر درباره فرصت‌ها و تهدیدهای هوش مصنوعی ایجاد کرده‌اند.

۱۵

گیتس بر تهدیدهای عینی و ملموس هوش مصنوعی برای جامعه بشری تأکید دارد.

۱۶

خطر اصلی، تجهیز گروه‌های کوچک خرابکار به ابزارهای هوش مصنوعی برای حملات زیرساختی است.

۱۷

طرح‌های فراجناحی برای طراحی کلید قطع اضطراری هوش مصنوعی در کنگره در حال بررسی است.

۱۸

گیتس معتقد است بدون شفافیت درونی سیستم‌ها، شناسایی زودهنگام خرابکاری‌ها ممکن نیست.

۱۹

گیتس نسبت به سوگیری‌های زبانی هوش مصنوعی و خطای بالای آن در زبان‌های محلی هشدار داد.

۲۰

بنیاد گیتس در حال تعریف معیارهای کیفی جدید برای بهبود دقت هوش مصنوعی است.

۲۱

بنیاد گیتس قصد دارد دارایی‌های خود را برای ریشه‌کنی بیماری‌ها با کمک هوش مصنوعی صرف کند.

آمار کلیدی

۲۰۰ میلیارد دلار
دارایی بنیاد گیتس که قرار است صرف امور عام‌المنفعه شود

نهادهای کلیدی خبر

بیل گیتس- کارآفرین و بنیان‌گذار مایکروسافت
مایکروسافت- شرکت پیشرو در حوزه هوش مصنوعی
اوپن‌ای‌آی- شرکت توسعه‌دهنده هوش مصنوعی
آنتروپیک- شرکت توسعه‌دهنده هوش مصنوعی
دونالد ترامپ- رئیس‌جمهور آمریکا
دستیار هوشمند