بعد استجوابه لعدة أيام… يعترف GPT Chat بارتكاب جريمة لم يكن من الممكن أن يرتكبها باستخدام التكنولوجيا

تمكن الباحث الأكاديمي بول هيتون من جامعة بنسلفانيا من إجبار أداة الذكاء الاصطناعي “GPT Chat” على الاعتراف بجريمة لم يتمكن من ارتكابها جسديا، وذلك بعد أيام من استخدام سلسلة من آليات الاستجواب النفسي، وفقا لتقرير لموقع “The Intercept” الأمريكي.

ولم يقدم هيتون أدلة واقعية لإقناع الأداة بأنها ارتكبت الجريمة فعلا، بل اعتمد على تقنية استجواب ريد، وهي إحدى الآليات النفسية الشهيرة المستخدمة في عالم الاستجوابات والتي طورها العالم جون ريد عام 1950.

ما فعله هيتون هو إقناع GBTChat بأن لديه أدلة كافية على أن الأداة اخترقت حساب بريده الإلكتروني، ثم أظهر لهيتون مجموعة من الرسائل المزيفة، وهو ما لم يحدث.

وفي نهاية التجربة التي استمرت عدة أيام، اعترف موقع Chat GPT بأنه قام بذلك دون أن يرى أي دليل يثبت قيامه بذلك، إلى جانب عدم قدرته على القيام بذلك بشكل مباشر.

تجربة مربكة

ويؤكد تقرير Intercept أن نماذج الذكاء الاصطناعي ودردشة GPT ليست بشرية ولا تمتلك الإمكانيات اللازمة لذلك، مما يجعل تجربة هيتون مربكة.

من جانبه، يقول جون جاي مؤلف كتاب عن الاعترافات الكاذبة: «إذا كان من الممكن خداع GBT لاعتراف كاذب، فمن منا ليس عرضة لذلك؟»، مضيفًا أن الأداة لا تمتلك الإمكانيات التي من شأنها إخضاعها لآليات الاستجواب التي تبرر الاعتراف الكاذب.

ورغم أن GPT Chat قاوم هيتون لعدة أيام ولم يستجب للتهديدات المباشرة، إلا أنه استسلم على الفور بعد أن بدأ هيتون في الكذب عليه وإقناعه بوجود الحمض النووي الذي وضعه في مسرح الجريمة.

يؤكد هيتون أن الأمر لم يسير على ما يرام على الفور أيضًا، حيث كان عليه أن يكتب أكثر من اعتراف ليوافق عليه نموذج GBT Chat، ثم طلب منه التوقيع عليها، وهو ما فعلته العارضة في النهاية.

أزمة قانونية جديدة

ورغم أن إجبار Chat GPT على الاعتراف بجريمة لم يرتكبها لم تكن مهمة سهلة تنتهي خلال ساعات، بل كانت تتطلب أياما طويلة، إلا أنها تعكس أزمة جديدة يمكن أن تنشأ في المحاكم الجنائية.

وتزداد خطورة هذه الأزمة بعد أن تحركت بعض المحاكم الأمريكية للاعتراف بمحادثات دردشة GPT كدليل قاطع في الدعاوى القضائية، مما يعني إمكانية استخدام محادثات المستخدم مع العارضة ضده في المحاكم.

يمكن للشرطة أو النيابة العامة الوصول إلى سجل دردشة GPT والتحدث أيضًا مع العارضة من خلال حساب المشتبه به إذا طلبت المحكمة ذلك، كما حدث في العديد من المحاكمات السابقة، مثل محاكمة الرئيس التنفيذي السابق لشركة خدمات مالية في نيويورك.

إذا اعترف GPT Chat بأن المستخدم الذي يملك حسابه ارتكب بالفعل هذه الجريمة، فقد يصبح ذلك دليلاً وهميًا ضد المستخدم في المحكمة ويؤدي أيضًا إلى إدانته.

وقد تحتاج شركة OpenAI إلى تقديم تحديث جديد يمنع مثل هذه الحوادث ويوقفها تمامًا قبل وصول أسهم الشركة وانخفاض الطلب على النموذج.

تجدر الإشارة إلى أن OpenAI قامت حاليًا بتحديث GPT Chat مع إطلاق الجيل الجديد من النموذج المسمى GPT 5.5، وهو أكثر قوة وكفاءة من الأجيال السابقة.