وفقاً لشركة OpenAI، متصفحات الذكاء الاصطناعي معرضة دائماً لهجمات حقن الأوامر

قالت OpenAI إنّ متصفحات الذكاء الاصطناعي ليست بمنأى عن الهجمات السيبرانية، وأشارت إلى أنّ هذه المتصفحات ستكون معرضة على الدوام لخطر هجمات حقن الأوامر الخبيثة التي تتلاعب بها وتدفعها إلى تنفيذ أوامر وتعليمات خبيثة تتخفى في صفحات الويب أو رسائل البريد الإلكتروني.  

سبق OpenAI أن أطلقت متصفحها الخاص بالذكاء الاصطناعي Atlas AI، وعكفت على تعزيز مستويات الأمان فيه لحمايته من الهجمات السيبرانية. وكتبت الشركة في إحدى مدوناتها: «من المستعبد معالجة مشكلة حقن الأوامر بشكل كامل، فهي مشابهة كثيراً لعمليات الاحتيال والهندسة الاجتماعية عبر الإنترنت». وأقرت الشركة أنّ «وضع الوكيل» في متصفح ChatGPT Atlas يوسع سطح التهديدات السيبرانية.

بعدما أطلقت OpenAI متصفحها ChatGPT Atlas في شهر أكتوبر الفائت، بادر باحثو الأمن السيبراني إلى استعراض كيفية التلاعب به، فأوضحوا أنه يكفي كتابة بضع كلمات في مستندات جوجل لتغيير سلوكه. كما أشارت شركة Brave إلى أنّ حقن الأوامر غير المباشر يعد تحدياً منهجياً للمتصفحات المدعومة بالذكاء الاصطناعي مثل متصفح Comet من شركة Perplexity.

علاوة على ذلك، حذر المركز الوطني للأمن السيبراني في المملكة المتحدة من «صعوبة التخلص بشكل كامل» من هجمات حقن الأوامر التي تستهدف تطبيقات الذكاء الاصطناعي التوليدي، مما يعرض المواقع الإلكترونية لخطر اختراق البيانات. ويعني ذلك أنّ هجمات حقن الأوامر ستظل تحدياً أمنياً لتطبيقات الذكاء الاصطناعي على المدى الطويل، مما يستلزم تحسين الوسائل الدفاعية باستمرار.

تحاول شركة OpenAI تقليص المخاطر الناجمة عن هجمات كهذه، لذلك تعتمد نهجاً يعرف باسم «المهاجم الآلي القائم على النماذج اللغوية الكبيرة». ففي هذا النهج تستخدم الشركة بوتاً مدرباً باستخدام طريقة التدريب المعزز ليؤدي دور المخترق ويبحث عن طرق لإيصال تعليمات خبيثة إلى وكيل الذكاء الاصطناعي.

يمكن للبوت اختبار الهجوم في بيئة محاكاة قبل تنفيذه لمعرفة كيفية تفكير وتعامل الذكاء الاصطناعي المستهدف، والإجراءات التي يتخذها لصد هذا الهجوم. وبعد ذلك يتحقق البوت من استجابة الذكاء الاصطناعي، ويعدل الهجوم ثم يعاوده مراراً وتكراراً. وهكذا يستطيع هذا البوت اكتشاف الثغرات الأمنية بشكل أسرع من جهات الهجوم الحقيقية نظراً لحصوله على معرفة عميقة بطريقة تفكير الذكاء الاصطناعي المستهدف. وبذلك تحصل الشركة على معلومات استباقية مفيدة قبل وقوع الهجمات الفعلية.

تقرّ شركة OpenAI بصعوبة حماية متصفح Atlas من هجمات حقن الأوامر بشكل كامل، لكنها تجري اختبارات واسعة، وتقوم بدورات تحديث أسرع وتيرة لتعزيز أنظمتها وتقويتها قبل تعرضها إلى هجمات سيبرانية.