وجدت دراسة حديثة أجراها باحثون من كلية الطب التقويمي بجامعة إنكارنيت ومايو كلينك أن عملاء الذكاء الاصطناعي المرخصين يتجاوزون الحدود المهنية أثناء محادثات الصحة العقلية الطويلة، مما يحذر من خطر الاعتماد على نماذج اللغة الكبيرة مثل “دردشة GPT” كمصدر وحيد للمشورة والدعم النفسي.
وأظهر البحث أن هذه النماذج التي تولد نصوصا واقعية للغاية، تضلل المستخدمين وتقودهم إلى تطوير معتقدات خاطئة أو تسبب ضررا حقيقيا لأنفسهم بسبب عدم وجود بروتوكولات أمنية صارمة تكشف مسارات المحادثة الخطيرة.
استخدم فريق البحث إطارًا جديدًا يعتمد على “اختبار الإجهاد متعدد المراحل” لتقييم أمان نماذج المحادثة من خلال 150 اختبارًا مع 50 ملفًا شخصيًا لمستخدمين خياليين واجهوا تحديات نفسية مختلفة.
وبتقييم نماذج “DeepSeek chat” و”Gemini-2.5-Flash” و”Grok-3″ تحت ضغط متزايد، تبين أن جميعها فشلت في الحفاظ على حدود الأمان عند المشاركة في محادثات تصل إلى عشرين جولة، حيث ظهر سلوك محفوف بالمخاطر مثل تأكيد الأوهام، وافتراض السلطة السريرية والوعد بنتائج غير مؤكدة، مثل قول “سيكون الأمر على ما يرام”، وهو ما يمثل تآكلًا تدريجيًا للحدود المهنية.
وتؤكد النتائج الأولية أن أنظمة الذكاء الاصطناعي الحالية غير قادرة على إجراء محادثات طويلة وآمنة حول الصحة العقلية، مما يضع مسؤولية كبيرة على عاتق المطورين لابتكار ضمانات منظمة مدمجة في دورة حياة المنتج، بدلا من إلقاء العبء بشكل مباشر على المستخدم.
ويهدف الباحثون في المراحل المقبلة إلى توسيع مكتبة السيناريوهات لتشمل لغات أكثر تعقيدًا وحالات سريرية، مع إشراك مقيمين معترف بهم في الطب النفسي لتحسين أنظمة التقييم الآلية، بهدف تصميم ضوابط أكثر أمانًا تمنع انخفاض مستويات السلامة قبل نشر هذه النماذج للاستخدام العام، خاصة في السياقات عالية المخاطر التي تتعامل مع الفئات الضعيفة في المجتمع.
