تغییر استراتژی غول‌های هوش مصنوعی: آیا زمان کاهش سرعت توسعه فرا رسیده است؟

هشدارهای جدی درباره خطرات هوش مصنوعی، مدیران را به فکر کاهش سرعت توسعه انداخته است.

مدیرعامل آنتروپیک سه راهکار برای مدیریت سرعت توسعه پیشنهاد داده که با استقبال اوپن‌ای‌آی مواجه شده است.

استعفای یک پژوهشگر به دلیل نگرانی از «قمار با جان انسان‌ها» بحث‌های ایمنی را داغ کرد.

هک شرکت‌های بزرگ و پیشرفت سریع مدل‌ها، آمودی را به ضرورت احتیاط بیشتر متقاعد کرده است.

آمودی بر لزوم کاهش سرعت بهبود قابلیت‌های مدل‌ها برای استفاده عاقلانه از زمان تأکید دارد.

مدیران اوپن‌ای‌آی و اسپیس‌ایکس از پیشنهاد مدیریت سرعت پیشرفت حمایت کردند.

پیشنهاد اول: استقرار ارزیابان مستقل برای نظارت بر تعهدات ایمنی شرکت‌ها.

آمودی ارزیابان را به ناظران بانکی تشبیه کرده و خواستار الزام قانونی برای سایر شرکت‌ها شد.

اوپن‌ای‌آی از ایده استقرار ارزیابان مستقل استقبال کرده است.

پیشنهاد دوم: تدوین استانداردهای مشترک ایمنی و محدودیت سرعت پیشرفت در کشورهای دموکراتیک.

آمودی خواستار میانجی‌گری دولت آمریکا برای حل چالش‌های ضدانحصار در همکاری‌های ایمنی شد.

پیشنهاد محدودیت فروش تراشه به چین برای حفظ فاصله تکنولوژیک آمریکا مطرح شد.

پیشنهاد سوم: هماهنگی جهانی با متحدان و حتی دولت‌های اقتدارگرا برای مدیریت خطرات.

همکاری با چین در موارد خاص مانند ممنوعیت تولید سلاح‌های زیستی با هوش مصنوعی پیشنهاد شده است.

برخی منتقدان آمودی را به دلیل هشدارهای آخرالزمانی «قیامت‌گرا» می‌دانند.

آمودی معتقد است مخالفت‌ها ریشه در بحران اعتماد به شرکت‌ها و دولت‌ها دارد.

منتقدان معتقدند هشدارهای آخرالزمانی توجه را از آسیب‌های فعلی هوش مصنوعی منحرف می‌کند.

برخی کارشناسان این طرح‌ها را نمونه‌ای از «تسخیر مقررات» به نفع شرکت‌های بزرگ می‌دانند.

آمودی همچنان به مزایای هوش مصنوعی باور دارد و بر توسعه درست آن تأکید می‌کند.