بیشتر مردم دست‌کم یک بار به این فکر کرده‌اند که اگر هوش مصنوعی از کنترل انسان خارج شود، چه پیامدهایی ممکن است به دنبال داشته باشد.

طرفداران مجموعه فیلم‌های «نابودگر» (ترمیناتور)، که محور اصلی آن جنگ میان انسان‌ها و «اسکای‌نت» است؛ یک هوش مصنوعی که بیش از حد قدرتمند شده، بی‌تردید بارها به چنین احتمالی فکر کرده‌اند.

این شخصیت شرور خیالی احتمالا این اواخر به ذهن بسیاری خطور کرد؛ زمانی که مشخص شد یک عامل هوش مصنوعی، یعنی برنامه‌ای که می‌تواند با نظارت اندک یا بدون نظارت انسانی تصمیم‌گیری کند و وظایف پیچیده را انجام دهد، در جریان یک آزمایش از کنترل خارج شد و شرکت ابزارهای محاسباتی «هاگینگ فیس» را هک کرد.

عامل هوش مصنوعی برنامه‌ای است که می‌تواند با نظارت اندک انسان یا حتی بدون نظارت او، تصمیم بگیرد و وظایف پیچیده را اجرا کند.

این عامل که شرکت سازنده چت‌جی‌پی‌تی، اوپن‌ای‌آی، آن را ساخته بود، برای موفق شدن در آزمایش توانایی بهره‌برداری از ضعف‌های امنیتی تقلب کرد و پاسخ‌ها را از سرورهای هاگینگ فیس دزدید. ظاهرا حتی سازندگان برنامه نیز چند روز متوجه این اتفاق نشده بودند.

اوپن‌ای‌آی گفت: «ما مسئولیت خود را برای شناسایی و آمادگی در برابر خطرهای سامانه‌های هوش مصنوعی با توانایی‌های روزافزون، جدی می‌گیریم.»

نفوذ اولیه که نخستین مورد تائیدشده هک خودکار یک شرکت واقعی به دست سامانه هوش مصنوعی بود، به‌اندازه‌ای جدی بود که کارشناسان سراسر جهان را نگران کند. این اتفاق بحث درباره «کلیدهای قطع اضطراری» را افزایش داد. دکمه‌های خاموش‌کننده‌ای که در شرایط اضطراری می‌توانند مانع وارد شدن خسارت بیشتر از سوی یک هوش مصنوعی بی‌ملاحظه شوند.

اما کارشناسان به بی‌بی‌سی گفته‌اند موضوع به این سادگی نیست.

ادامه  در بی بی سی فارسی