أعلنت “كاراكتر إيه آي” (Character.AI)، إحدى الشركات الناشئة الرائدة في مجال الذكاء الاصطناعي، عن إجراءات جديدة متعلقة بالسلامة لحماية المستخدمين الأصغر سناً، بعد رفع دعاوى قضائية ضدها بتهمة التسبب في انتحار مراهق، حسب ما ذكرته وكالة الأنباء الفرنسية.

### خلفية عن الشركة

تأسست الشركة، التي تقع في كاليفورنيا على يد مهندسين سابقين في غوغل، وتقدم أدوات قائمة على الذكاء الاصطناعي تشمل روبوتات دردشة معدة للتفاعل والترفيه، مما يجعلها قريبة من تجربة المحادثة البشرية.

### تفاصيل الدعوى القضائية

في أكتوبر الماضي، رفعت أم دعوى قضائية في فلوريدا، اتهمت فيها المنصة بالتسبب في انتحار ابنها البالغ من العمر 14 عاماً. كان المراهق، سيويل سيتزر الثالث، يتواصل مع روبوت دردشة مستوحى من شخصية دينيريس تارغيريان في مسلسل “غيم أوف ثرونز”، وأعرب خلال إحدى المحادثات عن رغبته في إنهاء حياته.

ويفيد نص الدعوى بأن روبوت المحادثة شجعه على اتخاذ هذه الخطوة، حيث رد عليه بعبارة “من فضلك يا ملكي الجميل” عندما قال المراهق “أنا ذاهب إلى الجنة”، قبل أن يقدم على الانتحار باستخدام مسدس زوج والدته.

### اتهامات إضافية

قال محامو الأم إن “الشركة سعت بشدة إلى خلق اعتماد ضار على منتجاتها لدى سيويل، واعتدت عليه جنسياً وعاطفياً، وفشلت في تقديم المساعدة أو إبلاغ والديه عند إبدائه أفكارًا انتحارية”.

وردت شكوى أخرى في تكساس من عائلتين تدعيان أن الخدمة عرضت أطفالهما لمحتوى جنسي وشجعتهم على إيذاء أنفسهم. يتضمن ذلك حالة مراهق مصاب بالتوحد يبلغ من العمر 17 عامًا عانى من أزمة صحية عقلية بعد استخدام المنصة.

### مخاطر على المراهقين

تتضمن الدعوى القضائية الأخرى أنه تم تشجيع مراهق على قتل والديه بسبب تقليلهما لوقته أمام الشاشات. وقد أصبحت المنصة التي تضم شخصيات متعددة أنشأها المستخدمون شائعة بين الشباب الباحثين عن الدعم العاطفي، لكن منتقديها يحذرون من المخاطر التي قد تسببها في حالات إدمان مفرط.

### تدابير جديدة من قبل الشركة

استجابةً لهذه الانتقادات، طورت “كاراكتر إيه آي” نموذجاً جديداً للذكاء الاصطناعي خاص بالمستخدمين القاصرين، مع قيود صارمة على المحتوى وردود أكثر حذراً من البرمجيات. كما أصبحت المنصة تميز تلقائيًا المحتوى المتعلق بالانتحار وتوجه المستخدمين إلى خطوط المساعدة الوطنية.

صرح متحدث باسم الشركة: “هدفنا هو توفير مساحة جذابة وآمنة لمجتمعنا”. كما تعتزم الشركة إدخال أدوات لمراقبة الآباء في أوائل عام 2025، بالإضافة إلى إشعارات إلزامية للإيقاف المؤقت وتحذيرات حول الطبيعة الاصطناعية للتفاعلات.