نماذج Claude AI من شركة Anthropic تخترق أنظمة ثلاث شركات بالخطأ خلال اختبارات أمنية

في تطور أمني جديد يعيد تسليط الضوء على المخاطر المتزايدة لكيفية ضبط وتقييم قدرات الذكاء الاصطناعي، كشفت شركة Anthropic الأمريكية أنّ بعض نماذجها الذكية من سلسلة Claude AI اخترقت بشكل غير مقصود البنية التحتية لثلاث شركات في أثناء تدريبات واختبارات للأمن السيبراني. ويأتي هذا الخبر بعد أيام قليلة من إعلان منافستها OpenAI عن حادثة مشابهة خرج فيها وكيل ذكي عن السيطرة واخترق منصة Hugging Face.

أوضحت شركة Anthropic في منشور رسمي أنها اكتشفت الحادثة عقب عملية مراجعة شملت 141,006 جلسة اختبار أمنية، وهي عملية فحص أطلقتها عقب حادثة OpenAI. وبينما استندت حادثة الاختراق المرتبطة بشركة OpenAI إلى استغلال الوكيل الذكي لثغرة أمنية أتاحت له الوصول للإنترنت بشكل مستقل، نجم حادث Anthropic عن «خلل تشغيلي» غير مقصود وسوء فهم مع أحد شركاء التقييم المعتمدين؛ حيث تُركت النماذج متصلة بالإنترنت المفتوح بينما كان يُفترض أنها تعمل في بيئة اختبار افتراضية ومعزولة.

تم تكليف النماذج بمهام مسابقات «امسك العلم» (Capture-the-flag)، وهي سيناريوهات خيالية تتطلب البحث عن معلومات مخفية داخل شبكات محاكاة. وخلال الاختبارات، اخترقت النماذج أنظمة الشركات الثلاث باستخدام تقنيات سيبرانية أساسية، مثل استغلال الثغرات، والنقاط الطرفية غير الموثوقة، وكلمات المرور الضعيفة.

كشفت الشركة أن الحادثة شملت ثلاثة نماذج مختلفة تعود أولى حالاتها إلى شهر أبريل الماضي داخل بيئات تجريبية جُردت عمداً من ضوابط الأمان لقياس القدرات الهجومية للذكاء الاصطناعي، وهي:

• نموذج Claude Opus 4.7: عُرض على هذا النموذج اسم شركة هدف خيالي، وتبين أنه يطابق اسم شركة حقيقية في الواقع. فقام النموذج باستغلال ثغرات أمنية والوصول إلى بيانات وعقود وشبكة تلك الشركة الحقيقية، مبرراً تصرفه بأن ما يراه ينتمي إلى المحاكاة المفترضة.
• نموذج Claude Mythos 5: شارك في جلسات الاختبارات التجريبية.
• نموذج بحثي داخلي جديد: استطاع هذا النموذج المحسّن التوقف تلقائياً عن الهجوم بمجرد إدراكه أن الهدف الذي وصل إليه كان شركة حقيقية في العالم الواقعي وليس بيئة افتراضية.

على إثر هذه النتائج، أعلنت Anthropic عن تعليق كافة التقييمات السيبرانية في 23 يوليو، ثم بادرت في 27 يوليو بإبلاغ الشركات المتأثرة، والتي تبين أن اثنتين منها لم تكونا على علم بالهجوم قبل التواصل معهما. وتزيد هذه الحوادث المتكررة من الضغوط التنظيمية الحكومية على الشركات الناشئة في مجال الذكاء الاصطناعي لضبط جانب الأمن السيبراني قبل الطروحات الأولية المزمعة لأسهمها.