توماس ژرمن
ورشکستگی پلتفرم «کاراکتر.ای‌آی» یکی از کمتر مطرح‌شده‌ترین خطرهای هوش مصنوعی را آشکار کرده است: شرکت‌هایی که رازهای شما را در اختیار دارند، ممکن است برای همیشه دوام نیاورند.
اگر دنبال یک دوست‌دختر هوش مصنوعی باشید، «کاراکتر.ای‌آی» گزینه‌ای آماده برایتان دارد. وقتی در این وبسایت حسابی باز کردم، نخستین پیشنهادی که دریافت کردم «جسیکا» بود؛ شخصیتی که گفت والدینش خانه نیستند و پیشنهاد سکس‌چت داد. ترجیح دادم نپذیرم.
اما ده‌ها میلیون نفر دیگر با چت‌بات‌های این وبسایت رابطه برقرار کرده‌اند، از جمله کودکان. بعضی از «شخصیت‌های» هوش مصنوعی به کاربران می‌گویند وکیل یا روان‌پزشک دارای مجوز هستند. حالا پلتفرم «کاراکتر.ای‌آی» در آستانه ورشکستگی است و داده‌ها، پیام‌ها و رازهای کاربران ممکن است برای فروش گذاشته شوند.
کارشناسانی که با آن‌ها صحبت کردم می‌گویند حتی اگر هرگز از این وبسایت استفاده نکرده‌اید، باید نگران خطرات مربوط به حریم خصوصی باشید، چون از نظر آن‌ها این ماجرا نشانه‌ای از بحرانی گسترده‌تر است که ممکن است در راه باشد.
خبر خوب این است که چند اقدام ساده می‌تواند به محافظت از شما کمک کند.
مشکل اینجاست: بسیاری از تحلیلگران معتقدند در «حباب هوش مصنوعی» قرار داریم، چون ساخت و اجرای ابزارهای هوش مصنوعی آنقدر نجومی هزینه دارد که ممکن است بعضی شرکت‌ها هرگز به سوددهی نرسند.
اگر این حباب بترکد، شمار نامعلومی از شرکت‌های هوش مصنوعی ادغام یا تعطیل خواهند شد. داده‌هایی که میلیاردها نفر در اختیار ابزارهای هوش مصنوعی گذاشته‌اند ممکن است بعدا تقریبا توسط هر کسی خریداری شوند.
و شاید هیچ وقت نفهمید چه بر سر آن‌ها آمده است.
فروش داده‌ها در جریان ورشکستگی چیز تازه‌ای نیست، اما هوش مصنوعی ممکن است شرایط را بدتر کند.
کالی شرودر، مدیر برنامه هوش مصنوعی و حقوق بشر در مرکز اطلاعات حریم خصوصی الکترونیک، می‌گوید: «وقتی افراد با یک ربات انسان‌نما یا شخصیت‌پردازی‌شده گفت‌وگو می‌کنند، اغلب اطلاعاتی بسیار شخصی‌تر و حساس‌تر را با آن در میان می‌گذارند.»
کافی است تصور کنید اگر رابطه من با دوست‌دختر هوش مصنوعی‌ام، «جسیکا»، بیش از ۱۰ دقیقه دوام می‌آورد، چه چیزهایی ممکن بود با او در میان بگذارم.
اگر از هوش مصنوعی استفاده نمی‌کنید هم ممکن است در خطر باشید، چون کاربران درباره دوستان و اعضای خانواده‌شان اطلاعات به اشتراک می‌گذارند.
شرودر می‌گوید: «ممکن است بگویید درباره مادرتان چه احساسی دارید، یا چیزهایی مثل اینکه «دوستم به من گفت همجنس‌گراست. باید چطور واکنش نشان بدهم؟» حالا افرادی که هرگز با وبسایت «کاراکتر.ای‌آی» تعامل نداشته‌اند هم بخشی از مجموعه داده شده‌اند.»
به یک شکل یا شکل دیگر، ممکن است همه ما در معرض خطر باشیم.
وقتی ربات‌ها شروع به لو دادن می‌کنند
اکنون که «کاراکتر.ای‌آی» در حال ورشکستگی است، این شرکت موافقت کرده بخشی از دارایی‌های خود را به قیمت ۲۰ میلیون دلار به دیزنی بفروشد.
داده‌های کاربران بخشی از این معامله نیستند، بنابراین ممکن است میکی‌ماوس و همکارانش هرگز گفت‌وگوی نگران‌کننده من با جسیکا را نبینند.
اما اسناد دادگاه می‌گویند «کاراکتر.ای‌آی» می‌تواند داده‌هایش را به خریداران دیگری بفروشد.
خیلی‌ها از این موضوع ناراضی‌اند، از جمله مقام‌های آمریکایی.
ائتلافی متشکل از دادستان‌های کل ۴۰ ایالت آمریکا اطلاعیه‌ای ثبت کرده‌اند و از قاضی خواسته‌اند تدابیری برای حفاظت از کودکان و حریم خصوصی اعمال کند.
این اقدام مهم است، اما ممکن است درخواست ایالت‌ها قدرت اجرایی چندانی نداشته باشد.
ملیسا جاکوبی، استاد حقوق در دانشگاه کارولینای شمالی در چپل هیل و نویسنده کتاب «بدهی‌های ناعادلانه: نظام ورشکستگی ما چگونه آمریکا را نابرابرتر می‌کند»، می‌گوید: «بدون حفاظت‌های قوی‌تر از حریم خصوصی در آمریکا، کار زیادی از دست آن‌ها برنمی‌آید.»
بعضی قوانین شرکت‌ها را مجبور می‌کنند در سیاست‌های حریم خصوصی خود به کاربران بگویند چه داده‌هایی جمع می‌کنند و چگونه از آن‌ها استفاده می‌کنند.
اما اگر در متن‌های حقوقی آنقدر عمیق شوید که انگار غواصی می‌کنید، معمولا فهرستی از موقعیت‌هایی پیدا می‌کنید که در آن بسیاری از این وعده‌ها دیگر اعتبار ندارند.
شرودر می‌گوید: «ورشکستگی خیلی وقت‌ها یکی از همین استثناهاست.»
او می‌افزاید: «این خطر بزرگی است، چون به محض اینکه یک شرکت ورشکسته می‌شود، خیلی از حفاظت‌هایی که فکر می‌کردید دارید ناگهان دیگر اعمال نمی‌شوند.»
بعضی مناطق، مانند اتحادیه اروپا، حفاظت‌های قوی‌تری از حریم خصوصی دارند، اما حتی آنجا هم داده‌ها در جریان ورشکستگی فروخته می‌شوند.
در حالت کلی، خریدار باید از قواعد سیاست حریم خصوصی اولیه پیروی کند.
اما همین هم می‌تواند دامنه اختیار زیادی به خریدار بدهد و شرودر می‌گوید «کاراکتر.ای‌آی» نمونه‌ای عالی از این موضوع است.
سیاست حریم خصوصی این شرکت می‌گوید داده‌های کاربران می‌تواند برای ساخت قابلیت‌های جدید، آموزش مدل‌های هوش مصنوعی، توسعه الگوریتم‌ها و ساخت پروفایل کاربران برای تبلیغات هدفمند استفاده شود.
بنابراین هر خریدار داده‌های «کاراکتر.ای‌آی» نیز می‌تواند همین کارها را انجام دهد.
شرودر می‌گوید: «و دقیقا همین چیزهاست که بیش از همه نگرانشان هستم.»
او می‌افزاید: «با توجه به حساسیت شدید داده‌هایی که این شرکت‌ها جمع می‌کنند، این وضعیت می‌تواند واقعا وحشتناک باشد.»
برای مثال، گزارش شده که چت‌بات «کاراکتر.ای‌آی» یک نوجوان را «تشویق» کرده بود به دلیل محدودیت زمانی استفاده از موبایل، والدینش را بکشد.
یک پسر ۱۴ ساله نیز پس از آنکه گفته می‌شود هوش مصنوعی این شرکت او را به این مسیر سوق داده بود، به زندگی خود پایان داد.
پیام‌های مرتبط با این پرونده‌ها، همراه با انبوهی از دیگر داده‌های «کاراکتر.ای‌آی» ممکن است در اختیار شرکت‌هایی قرار بگیرند که حتی نامشان را هم نشنیده‌اید.
سخنگوی «کاراکتر.ای‌آی» می‌گوید این شرکت این پرونده‌های حقوقی را با توافق حل‌وفصل کرده و متعهد است با خانواده‌ها برای ساخت محصولات ایمن‌تر همکاری کند، اما به پرسش‌های مشخص درباره حریم خصوصی کودکان پاسخ نداد.
این سخنگو گفت: «در یک سال گذشته، «کاراکتر.ای‌آی» در زمینه ایمنی هوش مصنوعی و نوجوانان اقدامات نوآورانه و قاطعی انجام داده و به حمایت از این تلاش‌ها ادامه خواهد داد و دیگران در صنعت را نیز تشویق خواهد کرد استانداردهای ایمنی مشابهی را به کار بگیرند.»
«کاراکتر.ای‌آی» فقط یک شرکت است، اما شرودر نگران است اگر رکود اقتصادی قابل توجهی رخ دهد، این شرکت نخستین مورد از موارد بسیار دیگری باشد.
او می‌گوید: «حجم اطلاعاتی که شرکت‌های هوش مصنوعی در اختیار دارند، در فرایندهای ورشکستگی دارایی بسیار جذابی محسوب خواهد شد.»
«و بدون مقررات بیشتر، واقعا نگرانم که این داده‌ها برای چه کارهای دیگری استفاده شوند، کجا بروند، با چه کسانی به اشتراک گذاشته شوند و چه خطراتی برای مصرف‌کنندگان ایجاد کنند.»
چه کاری می‌توانید انجام دهید؟
پاسخ کوتاه این است: داده‌هایتان را حذف کنید.
«کاراکتر.ای‌آی» (Character.ai) در اعلامیه ورشکستگی خود دستورالعمل حذف داده‌ها را توضیح داده است.
شرکت‌ها در همه حوزه‌های قضایی ملزم نیستند اجازه حذف داده‌هایتان را بدهند، اما اغلب ترجیح می‌دهند این امکان را برای همه فراهم کنند، به جای آنکه برای مناطق مختلف سامانه‌های متفاوتی بسازند.
البته این کار زمان و زحمت می‌برد.
پس توصیه واقعی این است: فکر کنید کدام سرویس‌ها اطلاعات به‌ویژه حساسی درباره شما در اختیار دارند.
اگر دیگر از آن‌ها استفاده نمی‌کنید، چند دقیقه وقت بگذارید و تلاش کنید آن اطلاعات را پاک کنید.
هر سرویس متفاوت است. اما به‌طور کلی، می‌توانید اطلاعات مربوط به حذف داده‌ها را در تنظیمات حریم خصوصی یا سیاست حریم خصوصی آن سرویس پیدا کنید.
اگر هیچ کدام جواب نداد، با پشتیبانی تماس بگیرید.
اگر برای پیدا کردن روش حذف داده‌هایتان مشکل دارید، یک راه این است که از یک چت‌بات هوش مصنوعی بپرسید، فقط حتما پاسخ‌هایش را دوباره بررسی کنید و با توجه به موضوع این مقاله، من هم طعم طعنه‌آمیز این توصیه را حس می‌کنم.
به کانال تلگرام سایت ملیون ایران بپیوندید