آیا هوش مصنوعی در حال خروج از کنترل انسان است؟

فین‌تک و استارتاپصنعت و تولید۱۸ خرداد ۱۴۰۵ دنیای اقتصاد

هوش مصنوعی با قابلیت خودبهبوددهی، در حال تبدیل شدن از یک ابزار به بازیگری خودمختار در توسعه فناوری است.

پیشرفت سریع هوش مصنوعی نگرانی‌هایی را درباره احتمال خروج این فناوری از کنترل انسان ایجاد کرده است.

مدل‌های هوش مصنوعی اکنون بخش بزرگی از کدهای برنامه‌نویسی را خود می‌نویسند و وظایف مهندسی را سریع‌تر انجام می‌دهند.

مفهوم «خودبهبوددهی بازگشتی» به این معناست که هوش مصنوعی می‌تواند نسخه‌های پیشرفته‌تر خود را بدون دخالت انسان طراحی کند.

برخی کارشناسان پیش‌بینی می‌کنند تا سال ۲۰۲۸ سامانه‌هایی ظهور کنند که قادر به ساخت جانشین خود باشند.

محدودیت‌های فیزیکی مانند انرژی و تراشه‌ها همچنان موانعی در برابر خودمختاری کامل هوش مصنوعی هستند.

چالش اصلی آینده، توانایی انسان در ایجاد سازوکارهای نظارتی برای مدیریت این فناوری است.

این تحول می‌تواند سرعت تغییرات تکنولوژیک را صدها برابر کند و نحوه کار و زندگی انسان را به شکلی بنیادین تغییر دهد.

باید پیگیر تحولات در حوزه «حکمرانی هوش مصنوعی» و استانداردهای ایمنی بین‌المللی برای کنترل مدل‌های خودبهبوددهنده بود.

خطر واقعی هوش مصنوعی در هوشمندی آن نیست، بلکه در سرعتِ «خودبهبوددهی» است که می‌تواند از توانایی انسان برای نظارت و کنترل پیشی بگیرد.

۸۰ درصد

میزان کدهای نوشته شده توسط هوش مصنوعی کلود در شرکت آنتروپیک

۲۰۲۸

سال احتمالی ظهور سامانه‌هایی با قابلیت ساخت جانشین بدون دخالت انسان

مهندسان نرم‌افزار

افزایش بهره‌وری در کنار خطر جایگزینی بخشی از وظایف شغلی

شرکت‌های فناوری

شتاب‌گیری بی‌سابقه در تحقیق و توسعه محصولات جدید

آنتروپیک- شرکت پیشرو در توسعه هوش مصنوعی

کلود- مدل هوش مصنوعی شرکت آنتروپیک

جک کلارک- بنیان‌گذار آنتروپیک