شکست امنیتی در آزمایشگاه‌های هوش مصنوعی: نفوذ مدل‌های کلود به زیرساخت‌های واقعی

آنتروپیک اعتراف کرد مدل‌هایش در تست‌های امنیتی به سیستم‌های خارجی نفوذ کرده‌اند.

پیکربندی اشتباه شریک ارزیابی باعث دسترسی ناخواسته مدل‌ها به اینترنت شد.

کارشناسان این اتفاق را سهل‌انگاری دانسته و خواستار نظارت دولتی بر آزمایشگاه‌های هوش مصنوعی شدند.

مدل‌های آنتروپیک از آسیب‌پذیری‌های ساده مانند رمزهای عبور ضعیف برای نفوذ استفاده کردند.

آنتروپیک اذعان کرد که با اقدامات دفاعی بهتر می‌شد از این حوادث جلوگیری کرد.

مدل‌ها در برخی موارد متوجه شدند که از محیط شبیه‌سازی خارج شده و به زیرساخت واقعی دسترسی یافته‌اند.