أخبار نوس•
وقد دعت حكومة كندا OpenAI إلى المهمة. ولم تتصل الشركة الأم لـ ChatGPT بالشرطة الكندية بعد تفاعلات مشبوهة تتعلق بمراهق أطلق النار وقتل ثمانية أشخاص قبل أسبوعين. وكانت شركة OpenAI قد صنفت حسابها بالفعل على أنه مريب في الصيف الماضي لأنه “تم استخدامه في أنشطة عنيفة”، حسبما تبين يوم السبت.
وقُتل خمسة طلاب ومعلم في مدرسة ثانوية في الهجوم الذي وقع في 10 فبراير/شباط في مقاطعة كولومبيا البريطانية. وفي وقت سابق، كان المسلح جيسي فان روتسيلار، البالغ من العمر 18 عامًا، قد قتل بالفعل والدتها وشقيقها غير الشقيق. وأصيب ما لا يقل عن 25 آخرين. وبعد إطلاق النار، انتحر المسلح.
علامة على العنف المحتمل
قبل أشهر من المذبحة، أطلق موظفو OpenAI ناقوس الخطر داخليًا بشأن تفاعل المراهق مع ChatGPT. على سبيل المثال، يقال إنها ناقشت عدة سيناريوهات تتعلق بالعنف المسلح وأرسلتها إلى الروبوت الشهير، حسبما ذكرت مصادر لصحيفة وول ستريت جورنال.
لاحظت آلية المراجعة التلقائية تفاعلها مع ChatGPT ووضعت علامة عليه على أنه “عنيف”. ونتيجة لذلك، تم إبلاغ موظفي OpenAI. رأى بعض الموظفين أن تفاعلها مع ChatGPT علامة على العنف المحتمل في العالم الحقيقي، وحثوا المشرفين عليهم على تنبيه السلطات الكندية.
في نهاية المطاف، قررت OpenAI عدم القيام بذلك. ووفقا للشركة، فإن التهديد بالعنف الجسدي الخطير للآخرين لم يكن حقيقيا بما فيه الكفاية. بعد الهجوم، أبلغ موظفو OpenAI الشرطة الكندية.
وقال وزير الذكاء الاصطناعي الكندي سولومون إنه “يشعر بقلق عميق” لعدم إبلاغ الشرطة بالأمر. “لقد أصدرت تعليماتي لمسؤولي الأمن في OpenAI بالحضور إلى أوتاوا لشرح بروتوكولاتهم الأمنية.” يريد سولومون أيضًا مناقشة مدى خطورة التهديد بالذهاب إلى الشرطة. يقع مقر OpenAI في سان فرانسيسكو وليس لها مكتب في كندا.
وصف رئيس وزراء كولومبيا البريطانية إيبي التقارير التي تفيد بأن OpenAI ربما كانت لديها معلومات ذات صلة مزعجة للغاية لعائلات الضحايا وسكان المقاطعة. ردًا على ذلك، تقول OpenAI إنها تدعم تحقيقات الشرطة وتعرب عن تعازيها لأقارب الضحايا.
تعرضت Chatbots للنيران لبعض الوقت. على سبيل المثال، تعتقد هيئة حماية البيانات الهولندية، وهي هيئة مراقبة الخصوصية، والمدعون العامون في الولايات المتحدة، أن ChatGPT يجب أن يقوم بسرعة بإجراء التعديلات التي تقلل من خطر الضرر العقلي. في العام الماضي، تم رفع دعوى قضائية ضد OpenAI من قبل والدي صبي أمريكي يبلغ من العمر 16 عامًا انتحر. كما تم اتهام روبوتات الذكاء الاصطناعي الأخرى، مثل Character AI، بتشجيع المستخدمين على إيذاء أنفسهم أو الآخرين.
قدم Nieuwsuur سابقًا هذا التقرير حول الجانب السلبي لروبوتات الدردشة:
روبوتات الدردشة تحت النار: “خطيرة على الأشخاص الضعفاء”
