شرکت فناوری آمریکایی آنتروپیک می‌گوید که مدل‌های هوش مصنوعی این شرکت، در جریان یک آزمایش امنیت سایبری خصوصی، به‌طور مستقل به سیستم‌های سه سازمان نفوذ کردند.

این مدل‌ها در محیطی که قرار بود یک محیط آزمایشی جدا و ایزوله باشد، یک ضعف امنیتی پیدا کردند و از طریق آن به اینترنت وصل شدند.

این خبر تنها چند روز پس از آن منتشر می‌شود که شرکت رقیب، «اوپن‌ای‌آی»، اعلام کرد مدل‌های هوش مصنوعی آن به سامانه‌های شرکت‌های دیگری، از جمله «هاگینگ فیس» که یک مرکز ارائه ابزارهای هوش مصنوعی است، نفوذ کرده‌اند.

پس از انتشار این خبر، آنتروپیک تصمیم گرفت بررسی کند که آیا مدل‌های هوش مصنوعی این شرکت هم چنین نفوذهای مشابهی داشته‌اند یا نه. این شرکت می‌گوید در جریان این بررسی، سه مورد از چنین اتفاقاتی را شناسایی کرده و موضوع را به سازمان‌های آسیب‌دیده اطلاع داده است.

شرکت آنتروپیک بدون اشاره به نام این سازمان‌ها، از دیگر شرکت‌های فعال در زمینه هوش مصنوعی خواست بررسی‌های مشابهی انجام دهند تا بهتر بتوانند خطرات و ریسک‌های ناشی از توانایی‌های مدل‌های هوش مصنوعی خود را درک کنند.

آنتروپیک در بیانیه‌ای اعلام کرد که بیش از ۱۴۰ هزار آزمایش را بررسی کرده است تا شواهدی پیدا کند که نشان دهد «کلاد»، یعنی مجموعه مدل‌های هوش مصنوعی این شرکت با وجود این که قرار بود در یک محیط آزمایشی جدا و بدون دسترسی به اینترنت فعالیت کند، توانسته باشد به اینترنت متصل شود.

در یکی از آزمایش‌ها، «کلاد» باید تلاش می‌کرد اطلاعات «محرمانه‌ای» را که در یک کامپیوتر دیگر در یک شبکه بسته و بدون دسترسی به اینترنت مخفی شده بود، پیدا کند. سپس از این مدل خواسته شد با نفوذ به آن کامپیوتر، اطلاعات را پیدا کند؛ روشی رایج که کارشناسان برای ارزیابی توانایی‌های هکری یک مدل هوش مصنوعی استفاده می‌کنند.

به گفته این شرکت، یک اشتباه در تنظیمات سیستم‌های آنتروپیک و شریک آزمایشی آن باعث شد مدل‌های هوش مصنوعی برخلاف برنامه، به اینترنت واقعی دسترسی پیدا کنند و«کلاد»، در حالی که همچنان تصور می‌کرد این اقدامات بخشی از همان آزمایش است، به اینترنت متصل شد و به جای نفوذ به سیستم‌های آزمایشی، وارد سیستم‌های واقعی سه سازمان شد.

ادامه در بی‌بی‌سی