تكشف ثغرة GPT بياناتك وتفتح الباب أمام المتسللين. ماذا تقصد؟ | تكنولوجيا

اكتشف مجموعة من الباحثين ثغرة أمنية في أنظمة “GPT Chat” تفتح الباب أمام هجمات التصيد الاحتيالي باستخدام حقن الأوامر الخبيثة في النظام وإساءة استخدام القدرة على تلخيص صفحات الإنترنت، بحسب تقرير لموقع “The Hacker News” التقني الأمريكي.

وتعتمد الثغرة بشكل أساسي على اعتماد GPT Chat السابق على الملفات التي تأتي مع ملحق Markdown، وهو امتداد ملف جديد يمكن أن يحتوي على روابط وصور ويمكن للذكاء الاصطناعي التعرف عليه وقراءته.

سيعرض النموذج أي روابط أو صور في هذا الامتداد إذا تم تضمينها في صفحات الإنترنت ويطلب من المستخدم مباشرة ملخصًا للصفحة. أطلق باحثون من شركة الأمن Prismo Security على هذا الأمر اسم “التصيد الاحتيالي للدردشة عبر GPT”.

ويشير تقرير من موقع “ذا ريجستر” البريطاني إلى أن الثغرة الأمنية تنشأ لأن “GPT Chat” لا يستطيع التمييز بين المحتوى الذي أنشأته والمحتوى الذي تم حقنه في صفحات الإنترنت بقصد خبيث، وبالتالي يعرض كل هذا المحتوى عند تلخيص الصفحة.

من جهتها، لم تقدم شركة OpenAI أي رد أو توضيح حول الثغرة وما إذا كان يمكنها إصلاحها أم لا، بحسب ما ورد في تقرير “The Register”.

ويتوقع آندي أحمدي، الباحث الأمني ​​في شركة Bersmo، في تصريحه لموقع The Register أن الثغرة لا تقتصر على GPT Chat أو أنها نتيجة خطأ برمجي فيها. وبدلاً من ذلك، فهو يعتقد أنها يمكن أن تتوسع لتشمل مجموعة من الأدوات الأخرى بسبب ارتباطها بآليات كيفية عمل نماذج الذكاء الاصطناعي التوليدي.

وأوضح أحمدي أن نماذج الذكاء الاصطناعي تطورت الآن لتصبح أكثر شبهاً بأنظمة التشغيل والمتصفحات، مما يسمح باكتشاف نقاط الضعف وإنشاء نقاط الضعف البرمجية مباشرة داخلها.

كيف تعمل الثغرة؟

تنتمي هذه الثغرة الأمنية إلى فئة هجمات حقن الأوامر في نماذج الذكاء الاصطناعي. وهي هجمات تخفي سلسلة من الأوامر الضارة على الصفحات ثم توجهها إلى نماذج الذكاء الاصطناعي للكشف عن بيانات المستخدم.

وفي هذه الحالة، تكشف الثغرة عنوان IP الخاص بالمستخدم ومجموعة من البيانات الأخرى المتعلقة به، مثل رابط المجال وموقع المستخدم والكمبيوتر الذي يستخدمه وأي بيانات داخلية أخرى تتم مشاركتها مع النموذج.

وتتضمن الأوامر أيضًا آلية لإرسال الإجابات والمعلومات مباشرة إلى المهاجم بطريقة غير مزعجة لاستخدامها لاحقًا.

مخاطر معقدة

ويؤكد أحمدي أن الهجوم يشكل تهديدًا معقدًا لأمن المستخدم في عصر الذكاء الاصطناعي. ورغم أن الخطر الأول في النموذج هو مشاركة بيانات المستخدم مع المهاجمين، إلا أن هناك خطرًا آخر وهو إظهار الروابط الضارة أو رموز الاستجابة السريعة.

في هذه الحالة، ينقر المستخدم على الرابط من هاتفه أو يقوم بمسح رمز الاستجابة السريعة، مما يسمح للمهاجم بالاستيلاء على هاتف المستخدم والقيام بكل ما يريد.

وتمثل هذه الخطوة آلية هجوم أساسية، أي أنها الباب الذي يتيح للمهاجم أن يفعل ما يريد على جهاز الضحية، خاصة إذا قام الضحية بمسح رموز QR الخبيثة أو النقر على رابط خارجي داخل الأجهزة.

واختتم الأحمدي حديثه بالإشارة إلى خطورة هجمات حقن الأوامر، خاصة أنها تتناول قدرات تطبيقات الذكاء الاصطناعي وليس نقاط الضعف التي يمكن إغلاقها برمجيا.