أخبار نوس•
البحث بسرعة وسهولة عن المشكلات الأمنية في برامج الكمبيوتر: هذا ممكن باستخدام الذكاء الاصطناعي (AI). تعمل أنظمة الذكاء الاصطناعي هذه بشكل أسرع من الإنسان ولا تتعب أبدًا. ويمكن أن يكون لذلك عواقب وخيمة على الأمن الرقمي لجميع أنواع الشركات والمؤسسات.
يمكن لأنظمة الذكاء الاصطناعي اكتشاف المشكلات الأمنية الخطيرة. على سبيل المثال، يمكنك من خلالها اختراق أجهزة الكمبيوتر أو إيقاف تشغيلها. قد تكون هذه أخطاء موجودة في برامج الكمبيوتر منذ سنوات، دون أن يلاحظها أحد.
ويحذر ماتيس فان أملسفورت، مدير المركز الوطني للأمن السيبراني (NCSC): “لهذا السبب يجب أن تكون الشركات والمنظمات قادرة على الاستجابة بسرعة كبيرة”. ويقول: “كان الأمر يستغرق أيامًا حتى يستغل المهاجم الخلل، أما الآن فقد يستغرق الأمر ساعات”. “سيستغرق ذلك دقائق.”
يقول ديمتري فان زاندفليت إن التحذير العاجل معروف للأشخاص الذين يتعاملون معه. وهو رئيس الجمعية المهنية لهؤلاء الأشخاص: منصة CISO. ويقول: “ليس هناك ذعر، لكنه بالتأكيد أمر عاجل”.
هذا الأسبوع، اجتمع المئات منهم في حدث ما، جزئيًا لمناقشة هذا الأمر. “يعني هذا التطور أنه تم العثور على نقاط ضعف في الأنظمة التي يبلغ عمرها بالفعل عشرين عامًا. ويجب علينا الإسراع حتى نتمكن من إصلاح تلك العيوب قبل استغلالها.”
اختراق الحكومة بمساعدة الذكاء الاصطناعي
يثبت روجير فيشر من شركة هادريان للأمن السيبراني أنه يمكنك العثور بسرعة وبشكل تلقائي على المشكلات الأمنية باستخدام برامج الذكاء الاصطناعي. يوضح في مكتبه بأمستردام كيف يمكنه اختراق الحكومة بهذا.
قام فيشر بإلقاء نظرة على نظام الذكاء الاصطناعي في كود البرمجة لموقع ويب حكومي. لقد سأل عما إذا كان هناك خطأ ما يسمح له بالوصول إلى الملفات التي لا ينبغي الوصول إليها. ورد برنامج الذكاء الاصطناعي بأن هذا هو الحال بالفعل.
سمح هذا الخطأ لفيشر بتنزيل ملف بينما لم يكن من المفترض أن يتمكن من الوصول إليه. ويشير إليها على شاشته. يقول: “هنا يمكنك رؤية كلمات المرور حرفيًا”.
سمح هذا لفيشر بتسجيل الدخول إلى قاعدة بيانات الموقع. يقول المتسلل: “لا يوجد شيء يمنعني”. “إذا كنت في الداخل، فيمكنك، على سبيل المثال، تعديل الأشياء. أو تنفيذ هجمات جديدة في قاعدة البيانات تلك. نحن لا نفعل ذلك: لقد أثبتنا بالفعل أن لدينا إمكانية الوصول. لذلك أوقفنا الهجوم.”
“الوصول الكامل مقابل 10 يورو”
يقول فيشر إن هادريان كان قادرًا على اختراق الحكومة باستخدام برنامج ذكاء اصطناعي رخيص الثمن من شركة OpenAI، الشركة التي تقف وراء ChatGPT. ويقدر أن الهجوم بأكمله كلفه حوالي 10 يورو. “وهذا أعطاني حق الوصول الكامل.”
تعتبر برامج الذكاء الاصطناعي الرخيصة الأخرى مناسبة أيضًا للعثور على هذه الأنواع من الأخطاء، وفقًا لبحث أجرته شركة الأمن السيبراني AISLE. منذ سبتمبر/أيلول، اكتشفت الشركة أكثر من 200 خطأ باستخدام مجموعة متنوعة من أنظمة الذكاء الاصطناعي، كما يقول جايا بالو، أحد المؤسسين.
قامت AISLE بالتحقيق، من بين أمور أخرى، فيما إذا كانت الأنظمة الرخيصة يمكنها العثور على أخطاء في برنامجين كمبيوتر تم اكتشافهما مؤخرًا باستخدام برنامج الذكاء الاصطناعي Mythos. استخدمت الشركة التي تقف وراء Mythos هذين الخطأين اللذين وجدهما البرنامج للإعلان عن نظام الذكاء الاصطناعي. وقالت الشركة إن هذا أمر جيد للغاية، بحيث لا يتمكن من الوصول إليه سوى مجموعة صغيرة جدًا.
يقول بالو: “كانت القصة هي أن الذكاء الاصطناعي أصبح فجأةً جيدًا جدًا في العثور على نقاط الضعف”. “لكننا تمكنا من العثور على نفس الأخطاء في أنظمة الذكاء الاصطناعي الأقدم. فماذا تعني بـ “فجأة”؟ نحن نفعل هذا منذ أشهر”.
العثور على المزيد من الأخطاء
يعتقد بالو وفيشر أن المدافعين لديهم الأفضلية في الوقت الحالي. لكنهم يقولون إن هناك عجلة من أمرهم: إذا بدأ المتسللون الإجراميون في العمل مع برامج الذكاء الاصطناعي هذه، فيمكنهم أيضًا العثور على هذه المشكلات الأمنية واستغلالها.
يقول فان أملسفورت، مدير مركز NCSC: “غالبًا ما يتم استخدام التكنولوجيا بعد بضعة أشهر من قبل أشخاص ذوي نوايا سيئة”. ويقول إنه من المهم أن نأخذ هذا الأمر على محمل الجد، لأنه يتعلق بالأمن الرقمي لنا جميعًا.
“لقد شهدنا بالفعل إغلاق أحد الموانئ أو سرقة بياناتنا. هولندا دولة رقمية للغاية. وهذا أيضًا يجعلنا عرضة للخطر. وسيواصل المهاجمون والمدافعون القتال مع بعضهم البعض، حتى مع تطور الذكاء الاصطناعي هذا. علينا حقًا التأكد من أن دفاعنا منظم.”
