آنتروپیک، شرکت آمریکایی فعال در حوزه هوش مصنوعی و سازنده مدل “کلود” اعلام کرده است چندین مورد عملیات نظارتی با حمایت دولت‌ها را که با استفاده از فناوری این شرکت در چین، ایران و غرب آفریقا انجام می‌شد، شناسایی و متوقف کرده است.

هوش مصنوعی و عملیات نظارتی

در گزارش منتشر شده از سوی شرکت آنتروپیک هشدار داده شده است که دولت‌ها و بازیگران همسو با آنها به‌طور فزاینده‌ای از هوش مصنوعی برای جاسوسی از اقلیت‌های قومی و مخالفان سیاسی استفاده می‌کنند.
به گزارش این شرکت مستقر در سان‌فرانسیسکو، این موارد بین ژانویه و ژوئیه شناسایی و فعالیت حساب‌های مرتبط با آنها متوقف شده است و منشأ آن چین، ایران و غرب آفریقا بوده است.

در این گزارش آمده است که هدف این عملیات‌ نظارتی علاوه بر جوامع مهاجر و مخالفان حکومت‌هاافراد دیگر شامل چهره‌های طرفدار دموکراسی در هنگ‌کنگ، جوامع تبتی و فالون گونگ در سراسر آسیا و همچنین جوامع اتینکی ایرانی و مخالفان حکومت ایران در خارج از کشور بوده‌اند.

آنتروپیک اعلام کرده است که در یک مورد عوامل ایرانی، روشی برای شناسایی افراد از طریق حساب‌های آنها در شبکه‌های اجتماعی ایجاد کرده بودند و در موردی دیگر، یک پیمانکار که برای نهادهای امنیت ملی کشور مالی، در غرب آفریقا، کار می‌کرد از کلود برای طراحی نرم‌افزار زیربنایی مورد نیاز برای جمع‌آوری اطلاعات استفاده کرده بود.

هشدار درباره کاهش نقش نیروی انسانی

در ژوئیه ۲۰۲۶، داریو آمودی، مدیرعامل آنتروپیک، از دولت آمریکا خواست از “کاهش هماهنگ” سرعت توسعه هوش مصنوعی پیشرفته حمایت کند.
آنتروپیک در گزارش خود با اشاره به افزایش استفاده از هوش مصنوعی در فرآیند توسعه این فناوری اشاره کرد که “هوش مصنوعی اکنون به جای نیروی انسانی متخصص مهندسی مورد استفاده قرار می‌گیرد”.

این شرکت همچنین اعلام کرد که موارد استفاده از مدل‌های هوش مصنوعی برای طراحی سلاح و ایجاد کلاهبرداری‌های عاطفی در سایت‌های دوست‌یابی را شناسایی و متوقف کرده است.

اتهام آنتروپیک علیه شرکت‌های چینی

آنتروپیک همچنین توسعه‌دهندگان چینی را متهم کرده است که به‌طور فریبکارانه از کلود برای تولید پاسخ به پرسش‌های کاربران استفاده کرده‌اند و سپس از این پاسخ‌ها برای آموزش و بهبود مدل‌های هوش مصنوعی خود بهره گرفته‌اند.
در این روش، پاسخ‌ها و خروجی‌های تولیدشده توسط یک مدل هوش مصنوعی قدرتمند برای آموزش مدل دیگری به کار گرفته می‌شود تا آن مدل  بتواند قابلیت‌ها و عملکرد خود را بهبود دهد.

آنتروپیک مدعی است شرکت‌های چینی مون‌شات و دیپ‌سیک نیز به‌طور مخفیانه از کلود برای تولید پاسخ‌هایی که در اختیار کاربران خود قرار می‌دادند، استفاده کرده‌اند.
در این گزارش آمده است که در یک مورد، مون‌شات طی یک دوره ۱۰ روزه نزدیک به ۳۰۰ هزار درخواست مشتریان خود را از طریق شبکه‌ای متشکل از ۵۳۸۰ حساب جعلی به آنتروپیک منتقل کرده است. بیشتر این حساب‌ها در سنگاپور و ژاپن و بخشی از این داده‌ها حاوی اطلاعات حساس کاربران بوده‌اند که احتمالاً نقض توافق‌های مربوط به حفظ حریم خصوصی محسوب می‌شود.

و تصریح شده است: «ما نمی‌دانیم آیا مون‌شات به مشتریان خود اطلاع داده بود که درخواست‌های آنها به آنتروپیک هدایت می‌شود و در اختیار یک شخص ثالث قرار می‌گیرد یا خیر، دیپ‌سیک نیز از روش‌های مشابهی استفاده کرده است.»

هشدار کمیسیون اروپا درباره خطرات هوش مصنوعی

هنا ویرکونن، معاون اجرایی کمیسیون اروپا در امور حاکمیت فناوری، امنیت و دموکراسی، در همین‌باره گفته است وضع قوانین جهانی برای هوش مصنوعی و فناوری‌هایی که می‌توانند وظایفی مانند تحلیل اطلاعات، تولید متن و تصویر و حل مسائل را انجام دهند، “واقعاً ضروری” است.
ویرکونن در پاسخ به پرسش‌ها درباره گزارش تازه آنتروپیک درباره سوءاستفاده از هوش مصنوعی گفت این شرکت اعلام کرده است که تلاش‌ها برای استفاده از مدل‌های هوش مصنوعی خود در توسعه سلاح‌های بیولوژیک را شناسایی و مختل کرده است.

او در گفت‌وگو با خبرنگاران در دوبلین افزود: «براساس قانون هوش مصنوعی اتحادیه اروپا، اگر مدل‌های بسیار توانمند هوش مصنوعی وارد بازار شوند، ارائه‌دهندگان آنها موظف‌اند خطرات احتمالی این مدل‌ها را به‌طور مستمر ارزیابی و برای کاهش آنها اقدام کنند و پس از عرضه نیز عملکرد و آسیب‌های احتمالی آنها را به‌طور مداوم زیر نظر داشته باشند.»

ضرورت مقررات جهانی برای هوش مصنوعی

ویرکونن تاکید کرد: «همکاری بین‌المللی بسیار مهم است، هرچند می‌دانیم که در سطح جهانی هنوز هماهنگی لازم وجود ندارد.»
او با اشاره به ظرفیت بالای هوش مصنوعی برای انجام فعالیت‌های مثبت، درباره خطرات این فناوری هشدار داد و گفت: «هوش مصنوعی ظرفیت بسیار زیادی دارد و می‌تواند کارهای مثبت بسیاری انجام دهد، اما در عین حال خطراتی نیز به همراه دارد که باید نسبت به آنها آگاه باشیم.»
او افزود: «خطرات سایبری و زیستی را می‌شناسیم و می‌دانیم که این خطرات بسیار جدی هستند.»

سوءاستفاده زیستی از مدل‌های هوش مصنوعی

آنتروپیک، در گزارش “شناسایی و مقابله با سوءاستفاده از هوش مصنوعی” پنج مطالعه موردی درباره سوءاستفاده احتمالی زیستی از مدل‌های خود را فهرست و این موارد را از جمله “جدی‌ترین خطرات مدل‌های پیشرفته هوش مصنوعی” توصیف کرده است.

پژوهش‌های علمی مطرح‌شده در این مطالعات شامل کار روی ویروس چیکونگونیا، ویروسی که عمدتاً از طریق پشه منتقل می‌شود، گونه‌ بسیار بیماری‌زای آنفلوآنزای پرندگان، خانواده‌ای از ویروس‌ها که آبله و ام‌پاکس را شامل می‌شود و دیگر مواد سمی بوده است.

آنتروپیک اعلام کرده است افرادی توانسته‌ند محدودیت‌های اعمال‌شده برای جلوگیری از دسترسی کاربران مناطق غیرمجاز به مدل‌های این شرکت را دور بزنند و برای پنهان کردن هدف پژوهش‌های خود و فرار از سازوکارهای حفاظتی آنتروپیک اقداماتی انجام دهند.
این شرکت اعلام کرده است که پس از شناسایی و بررسی این موارد، حساب‌های کاربران را مسدود کرده و یافته‌های تحقیقات خود را در سازوکارهای حفاظتی مدل‌های پیشرفته، فرآیندهای اجرای مقررات و اطلاعات مربوط به تهدیدها به کار گرفته است تا در آینده بتواند از این فعالیت‌ها بهتر پیشگیری، آنها را شناسایی و متوقف کند. هرچند هدف این افراد به‌طور قطعی مشخص نبوده و هویت آنها شناسایی نشده است.

آنتروپیک اعلام کرده است که هدفش از انتشار این نمونه‌ها، ایجاد گفت‌وگو در صنعت هوش مصنوعی و میان دولت‌ها درباره خطرات بیولوژیکی نوظهور و بهترین راه‌های مقابله با آنهاست.

خروج اعتراضی پژوهشگر آنتروپیک

اوایل سپتامبر، جیکوب کاکسون، پژوهشگر هوش مصنوعی که پیش‌تر در اوپن‌ای‌آی فعالیت می‌کرد و سپس به آنتروپیک پیوسته بود، از صنعت هوش مصنوعی خارج شد. او آنتروپیک و اوپن‌ای‌آی را متهم کرد که در رقابت برای توسعه مدل‌های هوش مصنوعی با قابلیت بهبود توانایی‌های خود، با وجود خطرات احتمالی این فناوری “با جان انسان‌ها قمار می‌کنند”.

کاکسون معتقد است هر دو شرکت برای دستیابی به هوش مصنوعی بسیار پیشرفته و خودبهبود‌یابنده با سرعت زیادی در حال رقابت‌اند.