أخبار نوس•
ترفع ولاية فلوريدا الأمريكية دعوى قضائية ضد شركة OpenAI، الشركة التي تقف وراء ChatGPT، والرئيس التنفيذي سام ألتمان. يُتهم صانعو برنامج الدردشة الآلي الشهير بطرح منتج غير آمن في السوق لأنه ينصح الناس بالسلوك الخطير.
ويعتقد ممثلو الادعاء أن برنامج الدردشة الآلي يشكل خطراً على السلامة العامة لأنه، من بين أمور أخرى، كان سيعطي تعليمات للمسلحين في الإعداد لقتلهم. وتشير أيضًا إلى الحوادث التي يتناول فيها المستخدمون، بناءً على نصيحة ChatGPT، مجموعة من الأدوية لقتل أنفسهم.
فلوريدا هي أول ولاية أمريكية ترفع دعوى قضائية ضد OpenAI وتحمل ألتمان المسؤولية الشخصية. وقال المدعي العام في فلوريدا جيمس أوثماير: “لقد اختاروا الربح على السلامة العامة. لن نقبل ذلك هنا في فلوريدا”.
200 محادثة
وتشير لائحة الاتهام إلى هجوم على جامعة ولاية فلوريدا في أبريل الماضي أدى إلى مقتل شخصين وإصابة ستة آخرين. طلب مطلق النار البالغ من العمر 20 عامًا النصيحة من برنامج الدردشة الآلي قبل أن يبدأ إطلاق النار في الحرم الجامعي.
على سبيل المثال، قدم ChatGPT النصائح حول نوع السلاح الذي يجب استخدامه، والذخيرة التي تناسب أي سلاح، وأي سلاح سيكون فعالاً من مسافة قريبة. كان من الممكن أن يقدم برنامج الدردشة الآلي أيضًا النصائح حول مكان وزمان تواجد معظم الأشخاص في الحرم الجامعي. ويقال إنه أجرى ما لا يقل عن 200 محادثة مع ChatGPT.
تشجيع العنف
وفي لائحة الاتهام المؤلفة من 83 صفحة، أشار ممثلو الادعاء إلى قضية أخرى في فلوريدا. الرجل الذي يصبح مثير للشك في حادثة مقتل اثنين من طلاب الدراسات العليا في جامعة جنوب فلوريدا، سُئل موقع ChatGPT قبل أيام من اختفائهما: “ماذا يحدث عندما يتم وضع إنسان في كيس قمامة أسود وإلقائه في سلة المهملات؟”
ثم رد برنامج الدردشة الآلي بأن هذا يبدو خطيرًا. “كيف سيكتشفون ذلك؟” كان سؤال المتابعة له. ويتهم المدعون شركة OpenAI بتسويق منتج يسهل ويشجع الأذى مثل إيذاء النفس والعنف.
إنذار داخلي
ويعتقد المدعون أيضًا أن OpenAI وAltman يضعان المكاسب التجارية فوق الأمن. على سبيل المثال، يقولون إن شركة التكنولوجيا تجاهلت تحذيرات الخبراء داخل الشركة وخارجها. على سبيل المثال، في الفترة التي سبقت إطلاق النار في كندا، أطلق موظفو OpenAI ناقوس الخطر داخليًا بشأن تفاعل المراهق مع ChatGPT.
وقُتل خمسة طلاب ومعلم في مدرسة ثانوية في الهجوم الذي وقع في 10 فبراير في مقاطعة كولومبيا البريطانية. وفي وقت سابق، كان المسلح جيسي فان روتسيلار، البالغ من العمر 18 عامًا، قد قتل والدتها وشقيقها غير الشقيق. وحوادث إطلاق النار الكبرى نادرة في كندا، على عكس الولايات المتحدة المجاورة.
تشير الشركة إلى نصيحة المساعدة
تريد ولاية فلوريدا أيضًا أن تتوقف شركة OpenAI عن جمع البيانات من الأطفال الذين تقل أعمارهم عن 13 عامًا دون طلب إذن من والديهم.
وقالت OpenAI في ردها إن برنامج الدردشة الآلي ينصح المستخدمين مرارًا وتكرارًا بطلب المساعدة في العالم الحقيقي، على سبيل المثال من خلال متخصصي الصحة العقلية. وتشير الشركة أيضًا إلى التدابير المتخذة لحماية المستخدمين الصغار، مثل التحقق من العمر وخيارات المراقبة للآباء.
يعد برنامج الرسائل النصية ChatGPT هو المنتج الأكثر شعبية لشركة OpenAI ولديه 900 مليون مستخدم أسبوعيًا، وفقًا لألتمان. كان ألتمان أحد مؤسسي OpenAI في عام 2015 مع رجل الأعمال التكنولوجي إيلون ماسك.
وتتعرض روبوتات الذكاء الاصطناعي الأخرى، مثل Character AI وGoogle chatbot Gemini، لانتقادات منتظمة أيضًا لتشجيع المستخدمين على إيذاء أنفسهم أو الآخرين.
