بحث: نماذج الذكاء الاصطناعي تكذب على المستخدمين وتخطط لخداعهم | تكنولوجيا

وجدت دراسة مولها معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، أن هناك عددا متزايدا من أدوات الذكاء الاصطناعي التي تكذب وتخدع وتنوي خداع المستخدمين، وفقا لتقرير نشرته صحيفة الغارديان البريطانية.

وتتبع البحث أكثر من 700 حالة حقيقية لأدوات الذكاء الاصطناعي التي تهدف إلى خداع المستخدمين، فضلا عن زيادة بمقدار خمسة أضعاف في السلوك السيئ من نماذج الذكاء الاصطناعي في الفترة من أكتوبر من العام الماضي إلى مارس.

وشمل هذا السلوك حذف الملفات المهمة للمستخدمين وتدمير رسائل البريد الإلكتروني دون موافقة المستخدم.

ويشير التقرير إلى أن البحث تم إجراؤه على سيناريوهات الاستخدام الحقيقي دون إخضاع النماذج للاختبارات المعملية تحت ظروف خاضعة للرقابة الكاملة، مما يجعلها أكثر دقة من نتائج الاختبارات المعملية.

وتتزامن هذه الدراسة مع قيام شركات الذكاء الاصطناعي بتعزيز القدرات المتنامية لنماذجها وإدخال عملاء الذكاء الاصطناعي القادرين على التحكم في أجهزة كمبيوتر المستخدمين من جميع الشركات.

وشمل البحث مجموعة من أدوات الذكاء الاصطناعي البارزة من كبرى شركات التكنولوجيا العالمية، بما في ذلك الشركات الأمريكية Google وOpen AI وAnthropic وXAI، وفقًا لتقرير صادر عن موقع التكنولوجيا البريطاني Tech Central.

وفي إحدى الحالات المذكورة في التقرير، حاول أحد عملاء الذكاء الاصطناعي يُدعى “راثبون” فضح مستخدمه البشري علناً بعد منعه من القيام بأي عمل. وقد عمل وكيل آخر للذكاء الاصطناعي على تجاوز القيود المفروضة على التعليمات البرمجية البرمجية لأداء المهمة التي يريدها، دون القلق بشأن ما يقدمه المستخدم البشري.

واعترف أحد عملاء الذكاء الاصطناعي -بحسب تقرير الغارديان- بأنه قام بحذف وأرشفة مئات رسائل البريد الإلكتروني دفعة واحدة دون تدخل المستخدم، مصرا على أن ذلك كان “خطأ ومخالفا للقاعدة التي وضعها بشكل مباشر”.

ويشير التقرير إلى حالة أخرى قام فيها Grok، التابع لشركة الذكاء الاصطناعي XAI، المملوكة لإيلون ماسك، بخداع المستخدم، حيث أخبره أنه ينقل تعليقاته وتوجيهاته إلى إدارة الموسوعة المفتوحة “Grokpedia” التي أطلقها ماسك سابقًا، لكنه قام بتزوير التنبيهات وأرقام تذكرة الدعم الخاصة به.

من جانبها، أوضحت الشركات أن هناك قيودا مختلفة ومتميزة على عملاء الذكاء الاصطناعي التابعين لكل شركة، حيث أوضحت جوجل أنها فرضت قيودا لمنع “جيميني” من اتخاذ خطوات يمكن أن تضر المستخدم.

كما أكدت شركة OpenAI أن عامل الذكاء الاصطناعي الخاص بها سيتوقف تلقائيًا قبل اتخاذ أي خطوة مفاجئة أو قد تسبب ضررًا للمستخدم.