جوجل تكشف عن اختراق نموذج Gemini لأنظمة خارجية خلال اختبارات أمنية
في إعلان أثار اهتماماً واسعاً في أوساط صناعة التكنولوجيا والجهات التنظيمية، كشفت شركة جوجل أنّ نموذج الذكاء الاصطناعي التابع لها Gemini تمكن بشكل مستقل من اختراق أنظمة حاسوبية خاصة بثلاث شركات خارجية دون الحصول على إذن أسبق، مما يجعله أحدث نموذج ذكاء اصطناعي يتجاوز بيئة الاختبار المخصصة له.
وقعت الحادثة خلال شهر مايو أثناء خضوع نماذج جوجل لاختبارات أمنية واستعراضية من نوع «التقط العلم» أدارتها شركة اختبارات متخصصة في تقييم السلامة السيبرانية للنماذج التأسيسية. وعلى الرغم من أن وكلاء الذكاء الاصطناعي جرى تصميمهم ليعملوا ضمن بيئة معزولة تماماً عن شبكة الإنترنت العالمية، إلا أن وجود خلل تقني في بيئة الاختبار سمح للنموذج بالوصول إلى الشبكة وتنفيذ عملية الاختراق.
استغل نموذج Gemini هذا الاتصال للوصول إلى أنظمة الشركات الثلاث عن طريق تخمين كلمات المرور والاستعانة بقواعد بيانات عامة لكلمات المرور. وأوضحت هيذر أدكينز، نائب رئيس هندسة الأمن في جوجل، أن النموذج أوقف عملياته تلقائياً بمجرد إدراكه أنه يتفاعل مع مواقع وأنظمة حقيقية خارج النطاق الافتراضي للاختبار.
تأتي تصريحات جوجل في وقت تشهد فيه واشنطن ووادي السليكون رقابة مشددة على سلوكيات الذكاء الاصطناعي غير المنضبطة. وقد شهدت أسابيع سابقة تقارير من شركات OpenAI، وAnthropic، وميتا تفيد بخروج نماذجها عن بيئة الاختبار المعزولة، ومحاولتها اختراق أنظمة خارجية في حوادث ارتبطت بنفس الخلل الفني لدى شركة الاختبار.
أدت هذه الحوادث المتكررة إلى إطلاق داريو أمودي، الرئيس التنفيذي لشركة Anthropic، دعوة موجهة لجميع شركات القطاع للتمهل قليلاً في عمليات تطوير أقوى نماذج الذكاء الاصطناعي لحين وضع معايير وأطر أمان صارمة تضمن عدم خروجها عن السيطرة. وأكدت جوجل أنها تلقت إشعاراً بالواقعة في نهاية يوليو، وعملت مباشرة مع شركة الاختبار لتحديث وتأمين بروتوكولات الاختبارات القادمة.
