شركة OpenAI تدق ناقوس الخطر بشأن القدرات السيبرانية لمنتجاتها
تقول OpenAI إن القدرات السيبرانية لأنظمة الذكاء الاصطناعي المتقدمة لديها تتطور بسرعة، وحذّرت يوم أمس الأربعاء من أن النماذج القادمة من المرجّح أن تصل إلى مستوى خطر «عال»، وفقاً لما نقله موقع Axios عن تقرير للشركة.
تشير OpenAI إلى أن أحدث إصداراتها تُظهر بالفعل قفزات كبيرة في القدرات، خصوصاً مع تحسن أداء النماذج في العمل بشكل مستقل لفترات طويلة، ما يفتح المجال أمام نشاط يشبه أسلوب هجمات القوة الغاشمة (الهجمات التي تعتمد استخدام عدد هائل من المحاولات بشكل متزامن، بحيث يتم إغراق الضحية وتحقيق الهدف.
أفادت الشركة بأن GPT-5 حقق نسبة 27% في تحدي “capture the flag” في أغسطس، بينما حقق GPT-5.1-Codex-Max نسبة 76% في الشهر الماضي، ونوهت إلى أن ذلك هو تقدم هائل في القدرات خلال فترة وجيزة.
هذا ليس أول تحذير للشركة في مجال الأمن السيبراني؛ فقد أصدرت تحذيراً مشابهاً في يونيو بشأن مخاطر استخدام الذكاء الاصطناعي فيما يتعلق بتطوير الأسلحة البيولوجية، كما أن إصدار ChatGPT Agent في يوليو حُكم عليه في النهاية بأنه عالي الخطورة في ذلك التصنيف. ويعد مستوى «عالي» ثاني أعلى مستوى من الخطورة، ويأتي مباشرة أسفل فئة «حرج»، التي لا تكون النماذج عندها آمنة للنشر العام.
تزداد أنظمة الذكاء الاصطناعي المتقدمة مهارة في تحديد الثغرات الأمنية، والأمر ليس حصراً على الأنظمة التي تطوّرها OpenAI. الاتجاه واضح: كلما أصبح الذكاء الاصطناعي أكثر تقدماً، كلما زادت سرعته في إضافة أدوات جديدة إلى ترسانة المجرمين السيبرانيين الساعين لاستغلاله في إلحاق الضرر.
مؤخراً، قالت OpenAI إنها وسّعت تعاوناتها على مستوى القطاع لمعالجة المخاطر السيبرانية، بما في ذلك Frontier Model Forum الذي تأسس في عام 2023 مع مختبرات رائدة أخرى. كما تخطط الشركة لإطلاق Frontier Risk Council، وهو مجلس استشاري يهدف إلى إدخال خبراء دفاع سيبراني وأمن إلى تعاون مباشر مع فرق OpenAI. بالإضافة إلى ذلك، تختبر OpenAI بشكل خاص أداة Aardvark المصممة لمساعدة المطورين على اكتشاف الثغرات في منتجاتهم. ويتطلب الوصول إليها تقديم طلب، وبحسب الشركة فقد اكتشفت Aardvark بالفعل مشكلات أمنية حرجة.
مع ذلك، من المهم الإشارة إلى أن شهادات موظفين سابقين ترسم صورة قاتمة عن OpenAI وشركات الذكاء الاصطناعي الأخرى فيما يتعلق بالسلامة. فقد تم إلغاء أو تقليص العديد من فرق السلامة عبر القطاع، ويبدو أن ثقافة التقدم السريع بأي ثمن تستمر بالهيمنة على هذا المجال فيما تتراجع مخاوف الأمان في سلم الأولويات.
