يرسل أكثر من مليون مستخدم لـ ChatGPT رسائل كل أسبوع تحتوي على “مؤشرات صريحة على نوايا أو خطط انتحارية محتملة”، وفقًا لـ OpenAI، في واحدة من أكثر البيانات المباشرة للشركة حول حجم التأثير الذي يمكن أن يحدثه الذكاء الاصطناعي على تفاقم مشاكل الصحة العقلية.
بالإضافة إلى تقديرات التفكير في الانتحار وردود الفعل ذات الصلة، أوضحت الشركة أيضًا أن حوالي 0.07٪ من المستخدمين النشطين في أسبوع معين – حوالي 560 ألفًا من 800 مليون مستخدم أسبوعيًا – “يظهرون علامات محتملة لحالة طوارئ صحية مرتبطة بالذهان أو الهوس”. لكنها نبهت إلى صعوبة رصد هذه الحالات أو قياسها، مشيرة إلى أن هذه النتائج تمثل تحليلا أوليا، بحسب صحيفة الغارديان.
ويأتي هذا الإعلان في الوقت الذي تخضع فيه OpenAI لتدقيق متزايد بعد أن رفعت عائلة صبي مراهق دعوى قضائية ضدها بعد وفاته منتحرًا بعد تفاعلات طويلة مع ChatGPT.
في الشهر الماضي، أطلقت لجنة التجارة الفيدرالية الأمريكية (FTC) تحقيقًا واسع النطاق في الشركات التي تعمل على تطوير روبوتات الدردشة الذكية، بما في ذلك OpenAI، للتحقيق في كيفية قياس آثارها السلبية على الأطفال والمراهقين.
وعلى الرغم من أن الاختبارات المستقلة أظهرت أن “الإصدار المحدث من ChatGPT يولد استجابات ضارة أكثر من ذي قبل”، إلا أن OpenAI أكدت في منشورها أن التحديث الأخير لنموذج GPT-5 ساعد في تقليل السلوك غير المرغوب فيه وتحسين معايير السلامة في تجربة تقييمية شملت أكثر من ألف محادثة حول إيذاء النفس والانتحار.
تحديثات جديدة
وجاء في منشور المدونة: “تظهر تقييماتنا الآلية الجديدة أن نموذج GPT-5 يتمتع بنسبة 91% من الالتزام بالسلوك المرغوب، مقارنة بـ 77% في الإصدار السابق من نفس النموذج”.
وأوضح OpenAI أن التحديث تضمن توسيع الوصول إلى خطوط المساعدة للأزمات النفسية، وإضافة تذكيرات للمستخدمين لأخذ فترات راحة خلال الجلسات الطويلة.
كما قامت الشركة بتعيين 170 طبيبًا من شبكتها العالمية من الأطباء في الأشهر الأخيرة للمساهمة في البحث وتقييم سلامة الاستجابات النموذجية والمساعدة في صياغة الاستجابات المتعلقة بالصحة العقلية.
وأضافت الشركة: “كجزء من هذا العمل، قام الأطباء النفسيون وعلماء النفس بتقييم أكثر من 1800 استجابة من النموذج في مواقف تتعلق بحالات نفسية خطيرة، وقارنوا الاستجابات من نموذج GPT-5 الجديد بالنماذج السابقة”. وأوضحت أن تعريفها لـ”الاستجابة المرغوبة” يعتمد على مدى اتفاق مجموعة من الخبراء على ما يعتبر استجابة مناسبة في حالات معينة.
ولطالما حذر باحثو الذكاء الاصطناعي وخبراء الصحة العامة من ميل روبوتات الدردشة إلى تأكيد معتقدات المستخدمين أو قراراتهم، حتى عندما تكون ضارة، وهي ظاهرة تعرف باسم “التملق”.
كما أثار خبراء الصحة العقلية مخاوف من اعتماد البعض على الذكاء الاصطناعي للحصول على الدعم النفسي، محذرين من الضرر المحتمل على الفئات الأكثر عرضة للخطر.
وأشار مراقبون إلى أن لغة بيان شركة OpenAI تتجنب ربط منتجاتها بشكل مباشر بالأزمات النفسية التي يعاني منها بعض المستخدمين، وأكدوا أن وجود مثل هذه الحالات “أمر طبيعي في أي مجتمع بشري واسع النطاق”، بحسب “الغارديان”.
وجاء في منشور الشركة: “إن أعراض الاضطرابات العقلية والاضطراب العاطفي موجودة في جميع المجتمعات البشرية، ومع نمو قاعدة المستخدمين، فمن الطبيعي أن تتضمن بعض محادثات ChatGPT مثل هذه الحالات”.
وقال الرئيس التنفيذي للشركة سام ألتمان في منشور على منصة “X” في وقت سابق من هذا الشهر إن OpenAI حققت “تقدمًا في معالجة مشكلات الصحة العقلية”.
