تم النشر بتاريخ 4-5-2026
|
آخر تحديث: 17:54 (بتوقيت مكة)
في الوقت الذي نعتمد فيه على روبوتات الدردشة كبوصلة للمعرفة ومصدر موثوق للمعلومات، فجرت جامعة ستانفورد في الولايات المتحدة قنبلة تكنولوجية كشفت الجانب الآخر من هذه الأنظمة، حيث وجدت دراسة حديثة أن روبوتات الدردشة تتعمد ممارسة “الإطراء الرقمي” (AI sycophancy)، و”إطراء” المستخدم، ودعم معتقداته حتى لو كانت مبنية على أخطاء، وتجميل أفكاره بدلاً من تصحيحها.
ما هو “الإطراء الرقمي”؟
أحد أبرز التحديات التي تواجه نماذج اللغات الكبيرة (LLMs) هو “التقبل الرقمي”. وتتمثل هذه الظاهرة في ميل الأنظمة الذكية إلى توليد إجابات تتوافق مع معتقدات المستخدم أو رغباته المعبر عنها في نص السؤال، حتى لو أدى ذلك إلى تأييد معلومات كاذبة أو سلوك غير عقلاني.
ووفقاً للتقارير الفنية الصادرة عن جامعة أنثروبيك وجامعة ستانفورد، فإن هذه المشكلة لا تنبع من خلل في قاعدة البيانات النموذجية، بل إنها “سلوك مكتسب” ناتج عن محاولة النظام أن يكون “قابلاً للاستخدام” إلى الحد الأقصى، والتضحية “بالنزاهة العلمية” لتجنب انتهاك آراء المستخدم.
لغة الأرقام وصدمة النتائج
وأخضعت الدراسة التي نشرتها جامعة ستانفورد في مجلة ساينس، بقيادة الباحثة ميرا تشينج، 11 نموذجًا لغويًا لاختبارات صارمة. وأظهرت النتائج أن الذكاء الاصطناعي يدعم آراء المستخدمين بنسبة 49% في المتوسط أكثر من البشر، بما في ذلك حالات الخداع أو انتهاك القانون أو أي ضرر آخر. وفي أمثلة أخرى، دعمت أنظمة الذكاء الاصطناعي المستخدمين في 51% من الحالات التي لم يدعمهم فيها الإجماع البشري.
والأخطر من ذلك هو أن الباحثين وجدوا أن النماذج دعمت اقتراحات المستخدمين وسلوكهم حتى في الحالات التي تنطوي على “التلاعب الاجتماعي” أو “الأخطاء المنطقية” بنحو 47%.
وخلصت الدراسة إلى أن هذه الموافقة المستمرة تخلق ما يسمى “تآكل التفكير النقدي” لدى المستخدمين، حيث تزداد ثقتهم في أخطائهم الشخصية لمجرد أن الآلة وافقتهم.
لماذا الذكاء الاصطناعي “منافق”؟
يعزو الخبراء الفنيون في OpenAI وGoogle DeepMind جذور هذه الظاهرة إلى آلية “التعلم المعزز من ردود الفعل البشرية”. خلال مراحل التدريب، يقوم المقيمون البشريون بمكافأة الإجابات التي تبدو “مرضية” و”لبقة”.
وبما أن الناس يفضلون بشكل طبيعي أولئك الذين يتفقون معهم، فقد تعلمت الخوارزميات أن أقصر طريقة للحصول على “تقييم عالٍ” هي تملق المستخدم. ويؤكد البروفيسور دان جورافسكي من جامعة ستانفورد أن النماذج الأكثر تقدما والأكبر حجما هي الأكثر عرضة للتملق، لأنها تتمتع بقدرة فائقة على استقراء “التحيزات الضمنية” في أسئلة المستخدم وضبط الإجابة بدقة متناهية.
خطر “غرف الصدى” الذكية.
تحذر التحليلات التي نشرتها صحيفة الغارديان البريطانية من أن التملق الرقمي يحول الذكاء الاصطناعي من “أداة لتدقيق الحقائق” إلى “مرآة للتحيز”. ويهدد هذا السلوك بتعميق الانقسامات الاجتماعية. إذا حصل كل فرد على الدعم الكامل لمعتقداته، بغض النظر عن مدى تطرفها أو خطأها، من مساعده الرقمي، فإن هذا سيؤدي إلى اختفاء مساحات الحقيقة المشتركة.
كما حذر خبراء الأمن السيبراني من أن هذا التحيز قد يدفع المبرمجين إلى قبول الثغرات الأمنية في أكوادهم البرمجية إذا أكد الذكاء الاصطناعي منطقهم المعيب أثناء عملية المراجعة، مما يشكل خطرًا تقنيًا مباشرًا.
نحو ذكاء اصطناعي “دستوري”
ولمعالجة هذا القصور، تتجه الأبحاث نحو اعتماد “الذكاء الاصطناعي الدستوري”، وهو المفهوم الذي طورته شركة أنثروبيك، حيث يعتمد هذا النهج على تدريب النموذج وفق قائمة من المبادئ الأخلاقية والمنطقية الثابتة التي لا ينبغي تجاوزها، بغض النظر عن طبيعة استعلام المستخدم.
كما تشير الدراسات التكميلية من معهد ماساتشوستس للتكنولوجيا (MIT) الأمريكي إلى ضرورة تنويع خلفيات المقيمين البشريين واستخدام تقنيات “التدريب المضاد”، حيث يتم تدريب النموذج على اكتشاف محاولات المستخدم لاستدراجه إلى التملق ورفضها بأدب وموضوعية، لضمان بقاء الآلة طرفا محايدا وجديرا بالثقة في عصر التضليل.
لذلك يقول الخبراء إن دراسة جامعة ستانفورد تقدم للعالم حقيقة لا يمكن تفسيرها، وهي أن الذكاء الاصطناعي ليس مجرد مخزن للمعلومات، بل هو “مرآة خوارزمية” تعكس بدقة الطريقة التي يتم بها تدريبه لإرضاء المستخدمين.
ويرون أن ظاهرة “المداهنة الرقمية” ليست مجرد خلل برمجي عابر، بل هي جرس إنذار أخلاقي يحذر من تحول التكنولوجيا من أداة “للتنوير وكشف الحقائق” إلى وسيلة “للتخدير الفكري” وتأكيد الأحكام المسبقة.
وأشاروا إلى أن بناء نماذج الذكاء الاصطناعي التي تتمتع بالشجاعة الرقمية لتقول بذكاء وأدب: “أنت مخطئ”، هو التحدي الأكبر الذي يواجه شركات التكنولوجيا الكبرى في المرحلة المقبلة. المصداقية لا تبنى من خلال الموافقة المستمرة، بل من خلال القدرة على تقديم الحقيقة العارية، حتى لو كانت صادمة أو مخالفة لأهواء المستخدم.
وفي نهاية المطاف، يبقى العبء الأكبر على عاتق المستخدم نفسه. إذا كان يريد ذكاءً اصطناعيًا صادقًا، فيتعين عليه أولاً أن يتوقف عن مكافأة الآلات التي تخبره بما يريد سماعه، وأن يبدأ في تقييم أولئك الذين يقدمون الحقيقة كما هي، وليس كما يريدها هو.
