شرکت اوپن‌ای‌آی اعلام کرده است که برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت، پس از آنکه در جریان یک آزمایش امنیتی از کنترل خارج شدند، به یک شرکت نوپا (استارتاپ) نفوذ کردند.

شرکت سازنده چت‌جی‌پی‌تی اعلام کرد که عامل هوش مصنوعی (ایجنت) این شرکت ــ سامانه‌ای که پس از دریافت دستور از انسان می‌تواند به‌طور مستقل عمل کند ــ در یک محیط کنترل‌شده تحت آزمایش بود، اما پس از شناسایی نقاط ضعف، توانست از محدودیت‌های تعیین‌شده برای این آزمایش فراتر برود.

آنها شرکت «هاگینگ فیس»، یکی از بزرگ‌ترین بسترهای جهان برای اشتراک‌گذاری مدل‌های هوش مصنوعی را هدف قرار دادند و توانستند به برخی از سامانه‌های داخلی این شرکت دسترسی پیدا کنند.

اوپن‌ای‌آی این رویداد را «بی‌سابقه» توصیف کرده و گفته است که همراه با هاگینگ فیس در حال بررسی آن است. کلمن دلانگ، مدیرعامل هاگینگ فیس، نیز در پیامی در شبکه اجتماعی ایکس نوشت: «این‌که همه این اتفاق‌ها به‌صورت خودکار رخ داده، حیرت‌انگیز است.»

آقای دلانگ گفت: «تحقیقات همچنان ادامه دارد و یافته‌های بیشتری را درباره آنچه ممکن است نخستین رخداد از این دست باشد، منتشر خواهیم کرد.»

یک سخنگوی دولت بریتانیا گفت مؤسسه امنیت هوش مصنوعی این کشور در حال بررسی رفتار سامانه هوش مصنوعی در این رویداد است و همچنان با اوپن‌ای‌آی و دیگر آزمایشگاه‌های فعال در این حوزه برای تقویت تدابیر حفاظتی همکاری می‌کند.

آنها گفتند سازمان‌ها باید با اقداماتی از جمله دریافت گواهی‌نامه «سایبر اسنشالز» که با حمایت دولت اجرا می‌شود، توان دفاع سایبری خود را تقویت کنند.

محیط‌های آزمایشی ناامن

جینا نف، رئیس مرکز فناوری و دموکراسی میندرو در دانشگاه کمبریج، به برنامه «تودی» رادیو ۴ بی‌بی‌سی گفت که آزمایش‌های امنیتی قرار است در «محیط‌های امن» یا آنچه «سندباکس» نامیده می‌شود انجام شوند؛ محیط‌هایی که امکان مشاهده توانایی‌های مدل‌های هوش مصنوعی را فراهم می‌کنند.

ادامه در  بی بی سی فارسی