تعتزم شركة «كاراكتر.إيه آي» Character.AI المتخصصة في روبوتات الدردشة حظر نفاذ القصّر إلى روبوتاتها، وذلك إثر حالات انتحار عدة لمراهقين، وفق بيان أصدرته الشركة الأربعاء.

وأوضحت الشركة في شأن هذا التغيير الذي يدخل حيز التنفيذ في 25 نوفمبر «نعتقد أن هذا القرار المناسب نظرا إلى الأسئلة التي طُرحت بشان الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها»، وفقا لوكالة «فرانس برس».

يذكر أن الشركة الناشئة، التي تتخذ مقرا في مينلو بارك بولاية كاليفورنيا، حققت شهرة في القطاع بعد إطلاق تطبيقها في مايو 2023 بفضل أدوات المساعدة العاملة بالذكاء الصناعي التي تحاكي اهتمامات المستخدمين أو تجسّد لهم شخصيات المشاهير.

قلق حيال التعلق المفرط 
لكن التطبيق الذي حقق نجاحا لدى المستخدمين اليافعين أثار قلق مراقبين خصوصا حيال التعلق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

- الاتحاد الأوروبي يتهم «ميتا» و«تيك توك» بانتهاك قانون الخدمات الرقمية
- أميركية تتهم روبوت دردشة بدفع نجلها للانتحار

وفي أكتوبر 2024، رفعت أمّ دعوى قضائية ضد «كاراكتر.إيه آي» بتهمة المساهمة في انتحار ابنها (14 عاما) بسبب عدم تقديم إرشادات واضحة لثنيه عن إنهاء حياته.

وفي ديسمبر من العام نفسه أعلنت «كاراكتر.إيه آي» عن سلسلة تدابير للرد على الانتقادات، بينها استحداث مساعد إلكتروني مخصص لمواكبة المراهقين عبر منصتها.