“شخصية الذكاء الاصطناعي” تتخذ إجراءات السلامة بعد اتهامها بالتسبب في انتحار مراهق | تكنولوجيا

أعلنت شركة Character.AI، إحدى الشركات الناشئة الرائدة في مجال الذكاء الاصطناعي، الخميس، عن إجراءات أمنية جديدة لحماية المستخدمين الأصغر سنا، بعد ملاحقات قضائية ضد الشركة بتهمة التسبب في انتحار مراهق، بحسب ما نقلت وكالة فرانس برس.

وتعد الشركة التي يقع مقرها في كاليفورنيا، والتي أسسها مهندسون سابقون في جوجل، من بين قائمة الشركات التي تقدم مساعدين يعتمدون على الذكاء الاصطناعي، وهي عبارة عن روبوتات دردشة مصممة للمحادثات والترفيه يمكنها التواصل بنفس الطريقة التي يتواصل بها البشر عبر الإنترنت.

وفي دعوى قضائية رفعتها في فلوريدا في أكتوبر الماضي، اتهمت أم هذه المنصة بالمسؤولية عن انتحار ابنها البالغ من العمر 14 عاما.

وتواصل المراهق، سيويل سيتزر الثالث، مع برنامج الدردشة الآلي المستوحى من شخصية دينيريس تارجيريان من مسلسل “لعبة العروش”، وخلال إحدى محادثاته مع البرنامج أعرب عن رغبته في إنهاء حياته.

وبحسب نص الدعوى، فإن الشات بوت شجعه على اتخاذ هذه الخطوة من خلال الرد بعبارة “من فضلك أيها الملك الجميل”، عندما قال له المراهق “سأذهب إلى الجنة”، قبل أن يقتل نفسه بيده. كلمات زوج الأم. مسدس.

وقال محامو الأم: “لقد بذلت الشركة جهودًا كبيرة لخلق إدمان ضار لمنتجاتها لدى سيويل البالغ من العمر 14 عامًا، فاعتدت عليه جنسيًا وعاطفيًا، وفشلت في النهاية في تقديم المساعدة أو إخطار والديه عندما أعرب عن أفكار انتحارية”. “

شكوى أخرى تم تقديمها يوم الاثنين في تكساس تتعلق بعائلتين تقولان إن الخدمة عرّضت أطفالهما لمحتوى جنسي وشجعتهما على إيذاء أنفسهم.

تتعلق إحدى الحالات بمراهق مصاب بالتوحد يبلغ من العمر 17 عامًا، ويُقال إنه عانى من أزمة في الصحة العقلية بعد استخدام المنصة.

وفي قضية أخرى، تزعم الدعوى القضائية أن شخصية الذكاء الاصطناعي شجعت مراهقًا على قتل والديه لأنهما حددا وقته أمام الشاشات.

أصبحت المنصة، التي تضم ملايين الشخصيات التي أنشأها المستخدمون بناءً على شخصيات تاريخية أو أصدقاء خياليين أو حتى مفاهيم مجردة، شائعة بين المستخدمين الشباب الذين يبحثون عن الدعم العاطفي.

ويحذر منتقدو الخدمة من خطر تسببها في إدمان خطير بين المراهقين الضعفاء.

ردًا على هذه الانتقادات، أعلنت شركة Character AI أنها طورت نموذجًا منفصلاً للذكاء الاصطناعي للمستخدمين القاصرين، مع ضوابط أقوى، وقيود أكثر صرامة على المحتوى، واستجابات أكثر حذرًا من روبوتات الدردشة.

تقوم المنصة الآن تلقائيًا بوضع علامات لتسليط الضوء على المحتوى المتعلق بالانتحار وتوجيه المستخدمين إلى مورد وطني لمنع الانتحار.

وقال متحدث باسم الشركة: “هدفنا هو تزويد مجتمعنا بمساحة جذابة وآمنة”.

وتخطط الشركة أيضًا لتقديم أدوات الرقابة الأبوية وإشعارات الإيقاف المؤقت الإلزامية والتحذيرات الواضحة حول الطبيعة الاصطناعية للتفاعلات في أوائل عام 2025.