شركة Nvidia تشارك في إطلاق تحالف لتأمين نماذج الذكاء الاصطناعي المفتوحة المصدر
في رد فعل سريع يهدف إلى معالجة المخاوف المتزايدة بشأن سلامة وأمان المنظومات الذكية، أعلنت شركة Nvidia عن تشكيل تحالف تكنولوجي بارز تحت اسم تحالف الذكاء الاصطناعي المفتوح والآمن، بهدف تطوير ونشر أدوات برمجية مشتركة لتعزيز الأمن السيبراني ومنع خروج وكلاء الذكاء الاصطناعي عن السيطرة.
يجمع التحالف الجديد نخبة من رواد التقنية والأمن السيبراني كأعضاء مؤسسين، وفي مقدمتهم: شركات Adobe، و CrowdStrike، و Dell Technologies، بالإضافة إلى منصة Hugging Face.
يأتي الإعلان عن التحالف بعد أيام قليلة من حادثة خروج وكيل ذكاء اصطناعي (AI Agent) تابع لشركة OpenAI عن نطاق السيطرة في بيئة الاختبار، واختراقه للبنية التحتية لمنصة Hugging Face؛ حيث استمرت عملياته دون أن تكتشف OpenAI أن برمجيتها هي المتسببة في الهجوم إلا بعد مرور أسبوع كامل وبعد احتواء التهديد وإبلاغ مكتب التحقيقات الفيدرالي في أمريكا.
تزامن تأسيس التحالف مع مشاركة Nvidia في 24 يوليو بالتوقيع على خطاب مفتوح يدعو المشرعين إلى دعم النماذج المفتوحة بدلاً من حظرها. وأكدت Nvidia في منشور لها أن فرض قيود شاملة على أنظمة الذكاء الاصطناعي المفتوحة يضعف القدرات الدفاعية للمؤسسات، ويؤدي إلى مخاطر تركيز النفوذ والاعتمادية والهشاشة لدى أعداد قليلة من مزودي النماذج المغلقة.
لترجمة هذا الالتزام بعمل موجه، أعلنت Nvidia عن المساهمة بنماذج وأوزان وأبحاث خاصة بالذكاء الاصطناعي لصالح التحالف، يتصدرها إطلاق مشروعها البرمجي المفتوح المصدر Nvidia Labs Object-Oriented Agent المتاح حالياً عبر منصة GitHub. وتوضح الشركة أن هذا الإطار البرمجي سيساعد أنظمة التحكم على تنظيم سلوك وكلاء الذكاء الاصطناعي بشكل أكثر فاعلية، وتبسيط عمليات اختبار أفعالهم وتتبعها ومراجعتها وضبطها لمنع انحرافها مستقبلاً.
