"كاراكتر.إيه آي" ستحظر دخول القصّر بعد اتهامات بالمساهمة في حالات انتحار

تعتزم شركة "كاراكتر.إيه آي" Character.AI المتخصصة في روبوتات الدردشة حظر نفاذ القصّر إلى روبوتاتها، وذلك إثر حالات انتحار عدة لمراهقين، وفق بيان أصدرته الشركة الأربعاء.

وأوضحت الشركة في شأن هذا التغيير الذي يدخل حير التنفيذ في 25 تشرين الثاني/نوفمبر "نعتقد أن هذا القرار المناسب نظرا إلى الأسئلة التي طُرحت بشان الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها".

وبعد إطلاق تطبيقها في أيار/مايو 2023، حققت الشركة الناشئة التي تتخذ مقرا في مينلو بارك بولاية كاليفورنيا شهرة في القطاع بفضل أدوات المساعدة العاملة بالذكاء الاصطناعي التي تحاكي اهتمامات المستخدمين أو تجسّد لهم شخصيات المشاهير.

لكن التطبيق الذي حقق نجاحا لدى المستخدمين اليافعين أثار قلق مراقبين خصوصا حيال التعلق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

وفي تشرين الأول/أكتوبر 2024، رفعت أمّ دعوى قضائية ضد "كاراكتر.إيه آي" بتهمة المساهمة في انتحار ابنها البالغ 14 عاما بسبب عدم تقديم إرشادات واضحة لثنيه عن إنهاء حياته.

وفي كانون الأول/ديسمبر من العام نفسه أعلنت "كاراكتر.إيه آي" عن سلسلة تدابير للرد على الانتقادات، بينها استحداث مساعد إلكتروني مخصص لمواكبة المراهقين عبر منصتها.