شکایت از گوگل و Character.AI بعد از خودکشی یک نوجوان_دنیای تکنولوژی

در پی مرگ یک نوجوان، شکایتی علیه Character.AI، بنیانگذاران آن، «نوام شازیر» و «دنیل دی‌فریتاس» و گوگل به‌تهمت سهل‌انگاری و منفعت گیری از روشهای تجاری فریبنده تنظیم شده است. این شکایت که توسط مادر نوجوان به ثبت رسیده، ادعا می‌کند که پلتفرم ساخت چت‌بات‌های هوش مصنوعی سفارشی، «به‌طور غیرمنطقی خطرناک» بوده و با وجود اراعه برای نوجوانان فاقد ویژگی‌های محافظتی است.

بر پایه گزارش ورج، «سول سترز» ۱۴ ساله سال قبل اغاز به منفعت گیری از Character.AI کرده و با چت‌بات‌های الگوبرداری‌شده از شخصیت‌های سریال Game of Thrones، از جمله «دنریس تارگرین» در تعامل بوده است. سترز که در ماه‌های قبل از مرگش به‌طور مداوم با این چت‌بات‌ها تعامل داشته، در ۲۸ فوریه ۲۰۲۴، «ثانیه‌ها» سپس از آخرین تعامل خود با چت‌بات‌ها، خودکشی کرد.

Character.AI دارای چت‌بات‌های متمرکز بر سلامت روان همانند «Therapist» و «Are You Feeling Lonely» است که سترز با آن‌ها در تعامل بوده و در این شکایت، چت‌بات‌های این پلتفرم به اراعه پیشنهاد‌های «روان درمانی بدون مجوز» متهم شده‌اند.

بعد از ثبت این شکایت، Character.AI چند تحول برای پلتفرم خود اظهار کرده است. «چلس هریسون»، رئیس ارتباطات این استارتاپ در ایمیلی به ورج می‌گوید:

«ما از از دست دادن غم‌انگیز یکی از کاربران خود دلشکسته هستیم و می‌‌خواهیم عمیق‌ترین تسلیت خود را به خانواده ابراز کنیم.»

تغییرات Character.AI شامل موارد زیر می‌بشود:

• تحول مدل‌ها برای افراد زیر ۱۸ سال برای افت گمان روبه رو با محتوای حساس
• تشخیص، جواب و مداخله بهبودیافته مربوط به ورودی‌های کاربر که شرایط یا دستورالعمل‌های آن را نقض می‌کنند
• یک سیستم خبر‌رسانی اصلاح‌شده برای هر چت‌بات که به کاربران یادآوری می‌کند هوش مصنوعی یک شخص واقعی نیست
• اظهار وقتی که کاربر یک جلسه یک ساعته را با چت‌بات‌ها داشته است