
در حالی که شرکت اپل نسل جدیدی از ابزارهای هوشمند خانگی خود را معرفی کرده که همگی با قابلیتهای جدید هوش مصنوعی تقویت شدهاند، شرکت آنتروپیک در تازهترین ارزیابی خود هشدار داده است که مدلهای پیشرفتۀ هوش مصنوعی، ممکن است تا پایان سال ۲۰۲۶ به سطحی از توانایی برسند که بتوانند نسخهای از خود را بهصورت مستقل روی تجهیزات خانگی متصل به اینترنت مستقر کنند. این تجهیزات میتوانند اسبابهایی مانند جاروبرقیها، یخچالها و سایر لوازم خانگی هوشمند باشند. آنتروپیک چنین سناریویی را مشابه عملکرد «کرمهای رایانهای» توصیف کرده که میتوانند بدون دخالت مستقیم انسان، در شبکه گسترش یابند.
با این حال، آنتروپیک تأکید کرده است که تاکنون هیچ نمونهای از تکثیر کاملاً خودمختار هوش مصنوعی مشاهده نشده است. اما به گفتۀ این شرکت، عاملهای هوش مصنوعی بهسرعت در حال کسب توانایی انجام مستقل مراحل مختلف یک مأموریت هستند؛ روندی که نگرانیها درباره از دست رفتن کنترل بر این سامانهها را افزایش داده است.
از حمله به فروشگاههای زنجیرهای در فرانسه تا جنجال رباتی در آلمان
این هشدارها در شرایطی مطرح میشود که در ماههای اخیر چندین مورد نفوذ بدون مجوز مدلهای هوش مصنوعی متعلق به شرکتهای اوپن آی، گوگل، متا و آنتروپیک به وبسایتها گزارش شده و بحثهای تازهای را درباره حدود اختیارات و رفتار مستقل این سامانههای هوش مصنوعی برانگیخته است.
باید گفت که همۀ کارشناسان با این ارزیابیها موافق نیستند. مارکوس هاچینز، پژوهشگر امنیت سایبری، معتقد است که ظرفیت محدود ساختار بسیاری از دستگاههای متصل به اینترنت و همچنین بازنشانی دورهای سیستمعامل آنها، میتواند مانع از بروز خسارات گسترده شود. در مقابل، وارون چاندرسکاران، استاد علوم رایانه در دانشگاه ایلینوی، هشدار میدهد که حتی پس از بازنشانی نیز، نفوذ دوباره به این دستگاهها ممکن است و خطر اصلی، در افزایش قدرت مهاجمان انسانی از طریق ابزارهای هوش مصنوعی نهفته است.
وی به حملۀ سایبری اخیر علیه سامانههای سردکننده و یخچالهای هوشمند صدها فروشگاه زنجیرهای در فرانسه اشاره میکند که از دید بسیاری از کارشناسان، نمونهای از آسیبپذیری گستردۀ تجهیزات متصل به اینترنت به شمار میرود.
در آلمان و دیگر کشورهای اروپایی نیز برخی موارد جنجالی مرتبط با رباتها و سامانههای مبتنی بر هوش مصنوعی، بحثها دربارۀ لزوم مقررات سختگیرانهتر را تشدید کرده است. در تازهترین نمونه در آلمان، پلیس دو نوجوان را مظنون به کنترل رباتی دانستهاست که گفته میشود یک دختر ١٦ ساله را مورد آزار جنسی قرار داده است.
هشدار نشست دوبلین دربارۀ حوادث بزرگ
اما نگرانیها دربارۀ رفتارهای مستقل سامانههای هوش مصنوعی، تنها به محافل دانشگاهی محدود نیست. روز چهارشنبه این هفته ( ١٤ اکتبر)، شماری از مقامهای اروپایی و مدیران برجستۀ صنعت فناوری، در نشست بینالمللی هوش مصنوعی در دوبلین، هشدار دادند که فرصت زیادی برای جلوگیری از «حوادث بزرگ» مرتبط با هوش مصنوعی نمانده است.
دمیس هاسابیس، مدیر گوگل دیپمایند و برندۀ جایزه نوبل شیمی، رخدادهای اخیر مرتبط با عاملهای خودمختار هوش مصنوعی را «نشانههای هشدار اولیه» توصیف کرد و گفت این سامانهها شاید امروز قدرت محدودی داشته باشند، اما در یک تا دو سال آینده میتوانند به تهدیدهای جدی تبدیل شوند.
دریافت رایگان خبرنامهبا خبر-پیامک های ما اخبار را بصورت زنده دریافت کنید
آبونه شویددر همین چارچوب، برد اسمیت، رئیس مایکروسافت، خواستار گنجاندن «ترمزهای اضطراری» یا کلیدهای قطع اجباری برای سامانههای هوش مصنوعی شد تا در صورت رفتار غیرمنتظره یا خروج سامانه از کنترل، امکان توقف یا محدود کردن فعالیت آن را فراهم کند. او تأکید کرد که هوش مصنوعی، برخلاف بسیاری از فناوریهای دیگر هنوز از استانداردها و چارچوبهای نظارتی کافی برخوردار نیست.
مقررات هوش مصنوعی اروپا: شرکتها موظفاند کنترل سامانههای خود را حفظ کنند
در این میان، هنا ویرکونن، معاون رئیس کمیسیون اروپا، هشدار داد که رقابت جهانی برای عرضۀ مدلهای قدرتمندتر، باعث شده که برخی شرکتها، ایمنی بودن سازمانهها را را فدای سرعت توسعه کنند. او یادآوری کرد که طبق قانون یا مقررات هوش مصنوعی اتحادیه اروپا (AI Act)، شرکتها موظفاند کنترل سامانههای خود را حفظ کنند و به همین دلیل، بروکسل خواستار اطلاعات بیشتری درباره سازوکارهای ایمنی و ارزیابی مستقل مدلهای پیشرفته شده است.
در مقابل، سارا فرایر، مدیر مالی اوپنآی، تأکید کرد که هرچند تقویت ایمنی هوش مصنوعی ضروری است، اما مقررات نباید آنقدر محدودکننده باشد که نوآوری را کند کرده یا شرکتهای قانونمدار را در برابر بازیگران مخرب و غیرشفاف، تضعیف کند.
با آنچه گفته شد، به نظر میرسد نگرانیها درباره آیندۀ هوش مصنوعی و اینترنت بیدلیل نیست و کارشناسان به این نتیجه رسیدهاند که تهدید اصلی دیگر صرفاً خودهوش مصنوعی نیست بلکه اتصال آن به شبکۀ عظیمی از تجهیزات هوشمند است که هر روز در خانهها، شرکتها و زیرساختهای حیاتی به کار گرفته میشوند. به باور آنها، با گسترش اتصال اسباب روزمره به اینترنت و افزایش توان عاملهای هوش مصنوعی، موضوع امنیت سایبری و نظارت و کنترل این فناوری، به یکی از مهمترین چالشهای سالهای پیشرو خواهد شد.