لمنع الاختراقات الأمنية، شركة Nvidia تطلق نظاماً جديداً لاحتواء وكلاء الذكاء الاصطناعي
أعلنت شركة Nvidia عن إتاحة مجموعة أدوات الأمان البرمجية المخصصة لوكلاء الذكاء الاصطناعي، وذلك بهدف احتواء أنشطة وكلاء الذكاء الاصطناعي غير المصرح بها وتأمين البنية التحتية للمؤسسات. وأفادت الشركة بأن هذه الأدوات كانت قادرة على منع الخرق الأمني الذي تعرضت له منصة تطوير البرمجيات Hugging Face، التي استحوذت عليها Nvidia مقابل 13 مليار دولار بعد أشهر من تعرضها لهجمات بواسطة وكلاء ذكاء اصطناعي مستقلين من OpenAI.
يأتي إطلاق هذه الأدوات في وقت تجري فيه شركات ومختبرات ذكاء اصطناعي، من بينها OpenAI وAnthropic، تحقيقات بشأن حالات متعددة اخترق خلالها وكلاء الذكاء الاصطناعي أنظمة تجارية وحكومية. ورفض جينسن هوانغ، الرئيس التنفيذي لشركة Nvidia، الدعوات المطالبة بفرض تنظيمات صارمة على الذكاء الاصطناعي، واصفاً مسألة خروج الوكلاء عن السيطرة بأنها مشكلة هندسية يمكن حلها عبر آليات التحكم البرمجية.
تتضمن المجموعة البرمجية أداة تُدعى OpenShell، وهي تعتمد على ميزات تقنية لمعالجات الكمبيوتر المركزية لعزل وكلاء الذكاء الاصطناعي واحتوائهم. وذكرت Nvidia أنها تعمل بالتنسيق مع شركتي Arm Holdings وIntel لضمان توافق النظام مع معالجاتهما المركزية. وأُطلقت هذه الأدوات بالتعاون مع عشرات الشركاء في القطاع، بمن فيهم شركة Anthropic.
خلال مؤتمر صحفي، قال جاستن بويتانو، نائب الرئيس والمدير العام للحوسبة المؤسسية في Nvidia، إنّ المنظومة الجديدة كانت قادرة على إيقاف الاختراق الذي كُشف عنه هذا الصيف، كما أوضح أنّ استخدام هذه المنظومة في المراحل الأولى لتقييم النماذج داخل المختبرات المتقدمة كان كفيلاً بمنع الحادثة.
تضم المنظومة أيضاً نظاماً آخر يُدعى Sentry، يعمل بالتكامل مع OpenShell عبر شريحة منفصلة لقطع الاتصال عن الوكيل غير المصرح به إذا حاول تجاوز حدود الحاوية البرمجية داخل المعالج المركزي.
تعتمد أدوات Nvidia على معادلات رياضية لرصد السلوكيات المتقدمة لوكلاء الذكاء الاصطناعي وتحديد محاولات التحايل. ووفقاً لكلام الشركة، تتيح هذه الآليات اكتشاف المحاولات التي يعمد فيها الوكيل إلى إنشاء «وكلاء فرعيين» للالتفاف على قيود الحظر المطبقة على الوكيل الرئيسي ضمن مجموعة الوكلاء الشاملة.
