قدمت شركة OpenAI ميزة أمان جديدة ضمن تطبيق ChatGPT تسمى Lockdown Mode، لحماية المستخدمين الذين يتعاملون مع بيانات حساسة للغاية، وسط مخاوف متزايدة بشأن هجمات الحقن الفوري ومحاولات تسريب البيانات عبر أدوات الذكاء الاصطناعي المتصلة بالإنترنت.
وقالت الشركة في تدوينة إن وضع Lockdown Mode هو إعداد أمان اختياري مصمم خصيصًا لتقليل مخاطر استخراج البيانات بسبب هجمات الحقن الفوري، من خلال الحد من قدرة ChatGPT على إجراء اتصالات شبكة خارجية أو الوصول مباشرة إلى الإنترنت والخدمات المرتبطة به.
وأوضحت الشركة أن وضع الأمان هذا لا يستهدف جميع المستخدمين، ولكنه تم تطويره في المقام الأول للأشخاص والمؤسسات التي تتعامل مع معلومات حساسة للغاية وتتطلب مستوى أعلى من الحماية من المعتاد، حتى على حساب تعطيل بعض الميزات المتقدمة داخل ChatGPT.
ما هي هجمات الحقن الفوري؟
تعتمد هجمات حقن الأوامر على إدراج تعليمات مخفية أو مضللة في المحتوى الذي تتم معالجته بواسطة نموذج الذكاء الاصطناعي، مثل صفحات الويب أو الملفات أو الرسائل النصية أو الصور، بهدف خداع النموذج لتنفيذ أوامر غير مقصودة أو تسريب بيانات حساسة.
أوضحت OpenAI أن هذه الأنواع من الهجمات تظل “تحديًا بحثيًا معقدًا” وأن الشركة تواصل تطوير أنظمة أمان متعددة الطبقات، بما في ذلك وضع الحماية، وآليات منع خرق البيانات عبر الارتباط، وأنظمة المراقبة والتحكم في المؤسسات.
ومع ذلك، أكدت الشركة في الوقت نفسه أن وضع Lockdown Mode لا يمنع ظهور تعليمات Prompt حقن في المحتوى الذي تتم معالجته بواسطة ChatGPT، حيث يمكن أن تظهر هذه التعليمات على صفحات الويب المخزنة مؤقتًا أو حتى في الملفات التي يقوم المستخدم بتحميلها بنفسه، مما قد يؤثر على دقة الإجابات أو سلوك النموذج. إلا أن الوضع الجديد يهدف إلى تجنب المرحلة الأكثر خطورة، وهي المرحلة التي يتم فيها نقل البيانات الحساسة خارج النظام عبر اتصالات الشبكة.
كيف يعمل وضع التأمين داخل ChatGPT؟
يعتمد الوضع الأمني الجديد على الحد من قدرات ChatGPT المتعلقة بالإنترنت والخدمات الخارجية، مما يجعل النموذج أكثر انغلاقًا وأقل قدرة على إرسال أو استقبال البيانات من مصادر خارجية.
عند تمكين الميزة، يتم تعطيل التصفح المباشر للويب، حيث لا يستطيع ChatGPT الوصول إلى صفحات الويب المباشرة ويعتمد فقط على المحتوى المخبأ عندما يكون متاحًا. وهذا يعني أن نتائج البحث قد تكون في بعض الأحيان محدودة أو قديمة أو غير متوفرة.
سيؤدي تمكين وضع التأمين إلى تعطيل البحث العميق تمامًا، وهي الأداة التي تسمح للنموذج بإجراء عمليات بحث وتحليلات متقدمة عبر الإنترنت، بالإضافة إلى وضع الوكيل، الذي يسمح لـ ChatGPT بأداء مهام متعددة بشكل شبه مستقل عبر الإنترنت.
وتشمل القيود الجديدة أيضًا منع ChatGPT من تثبيت الملفات من الإنترنت بغرض تحليلها، على الرغم من أنه سيستمر في دعم الملفات التي يتم تحميلها يدويًا من قبل المستخدم، بالإضافة إلى تعطيل قدرة المستخدم على منح الإذن لتشغيل كود Canvas المتصل بالشبكة.
وفيما يتعلق بالصور، أوضحت OpenAI أن ChatGPT قد لا يعرض الصور في الردود التقليدية، أو يسحب الصور من الويب أثناء وجوده في وضع Lockdown، لكن هذا لا يعني أن إنشاء الصور معطل تمامًا، حيث تظل ميزة إنشاء الصور متاحة في الحسابات التي تدعمها بالفعل.
كما تم تعطيل عدد من التجارب المتعلقة بالخدمات الخارجية، بما في ذلك بعض أدوات التسوق الذكية والخدمات المالية داخل ChatGPT، بالإضافة إلى تعطيل وضع المطور تلقائيًا، حيث لا يمكن تشغيل وضع المطور ووضع الإغلاق في نفس الوقت.
وأشارت الشركة إلى أن تمكين أحد الوضعين سيؤدي إلى تعطيل الآخر تلقائيًا.
وعلى الرغم من القيود الكبيرة التي يفرضها وضع الأمان الجديد، تؤكد OpenAI أن هناك العديد من الميزات التي لا تتأثر بعملها. تستمر الذاكرة في العمل بشكل طبيعي ويستمر المستخدم في تحميل الملفات يدويًا ومشاركة المحادثات مع الآخرين. كما أن وضع القفل لا يغير إعدادات استخدام المحادثات لتحسين النماذج، حيث يمكن التحكم في هذه الخيارات بشكل منفصل عبر إعدادات الخصوصية.
وأوضحت الشركة أن وضع التأمين لا يؤثر على الوصول إلى الشبكة داخل Codex أو تغيير سجلات الاستخدام داخل Enterprise Compliance API Logs Platform.
من يمكنه استخدام وضع التأمين؟
وفقًا لـ OpenAI، ستبدأ الميزة تدريجيًا في الوصول إلى الحسابات الشخصية المؤهلة، بما في ذلك الحسابات الشخصية المجانية والمدفوعة، بالإضافة إلى حسابات ChatGPT Business المُدارة ذاتيًا.
وأشارت الشركة إلى أن عدم ظهور الميزة في إعدادات التطبيق يعني ببساطة أنه لم يتم الوصول إلى الحساب بعد، مؤكدة أن وضع القفل متاح لجميع أنواع الحسابات ومساحات العمل، ولكن يجب عليك تسجيل الدخول لاستخدامه.
كيفية تفعيل وضع القفل على الهواتف
ويمكن تفعيل الميزة الجديدة، في حال توفرها، من خلال الدخول إلى إعدادات تطبيق ChatGPT على الهاتف، واختيار علامة تبويب الأمان، ثم التمرير لتحديد وضع القفل وتفعيل الميزة.
عند تمكين الميزة، سيظهر شريط الحالة أعلى نافذة الكتابة داخل المحادثة، مما يؤكد أن وضع التأمين نشط حاليًا.
يتيح OpenAI للمستخدمين تعطيل وضع الأمان لدردشة واحدة فقط دون الحاجة إلى إيقافه تمامًا، وذلك من خلال النقر على “إدارة” في شريط الحالة ثم اختيار “تعطيل لهذه الدردشة”، أو عبر قائمة الاختيارات الثلاثة (•••) ثم اختيار “قفل” وتغيير الحالة إلى “معطل”.
يمكن إعادة تنشيط الوضع لاحقًا بنفس الطريقة لنفس المكالمة.
وتعكس هذه الخطوة اتجاهًا متزايدًا داخل صناعة الذكاء الاصطناعي نحو بناء ممارسات أكثر أمانًا، خاصة مع توسع قدرات الوكلاء الأذكياء وأدوات الوصول إلى الإنترنت والأنظمة البعيدة.
من خلال وضع التأمين، يبدو أن OpenAI تحاول إيجاد توازن جديد بين القدرات المتقدمة لـ ChatGPT والحاجة المتزايدة لحماية البيانات الحساسة، خاصة بين المستخدمين المحترفين والمؤسسات.
