بعد حالات انتحار.. "كاراكتر.إيه آي" تحظر دخول القصّر

تعتزم شركة "كاراكتر.إيه آي" Character.AI المتخصصة في روبوتات الدردشة حظر نفاذ القصّر إلى روبوتاتها، وذلك إثر حالات انتحار عدة لمراهقين، وفق بيان أصدرته الشركة الأربعاء.

وأوضحت الشركة في شأن هذا التغيير الذي يدخل حيز التنفيذ في 25 نوفمبر: "نعتقد أن هذا القرار المناسب نظرا إلى الأسئلة التي طُرحت بشأن الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها".

وبعد إطلاق تطبيقها في مايو 2023، حققت الشركة الناشئة التي تتخذ مقرا في مينلو بارك بولاية كاليفورنيا شهرة في القطاع بفضل أدوات المساعدة العاملة بالذكاء الاصطناعي التي تحاكي اهتمامات المستخدمين أو تجسّد لهم شخصيات المشاهير.

وأصبحت المنصة التي تضمّ شخصيات بالملايين أنشأها المستخدمون في محاكاة لشخصيات تاريخية أو أصدقاء متخيلين أو حتى انطلاقا من مفاهيم مجردة، شائعة بين المستخدمين الشباب الباحثين عن الدعم العاطفي.

ويحذر منتقدو هذه الخدمة من مخاطر تسببها بحالات إدمان خطرة بين المراهقين الضعفاء.

وأثار التطبيق الذي حقق نجاحا لدى المستخدمين اليافعين، قلق مراقبين خصوصا حيال التعلق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

وفي أكتوبر 2024، رفعت أمٌّ دعوى قضائية ضد "كاراكتر.إيه آي" بتهمة المساهمة في انتحار ابنها البالغ 14 عاما بسبب عدم تقديم إرشادات واضحة لثنيه عن إنهاء حياته.

وفي ديسمبر من العام نفسه أعلنت "كاراكتر.إيه آي" عن سلسلة تدابير للرد على الانتقادات، بينها استحداث مساعد إلكتروني مخصص لمواكبة المراهقين عبر منصتها.