الذكاء الاصطناعي القابل للتفسير؟ مفتاح سد فجوة الثقة في الذكاء الاصطناعي

بواسطة جورج لونجو – نائب الرئيس للشرق الأوسط وأفريقيا في شركة Dynatrace.

زادت وظائف وتعقيدات تطبيقات الذكاء الاصطناعي الموجهة للأعمال بشكل كبير. لذا، تحتاج المؤسسات الآن إلى قدرات جديدة، مثل الذكاء الاصطناعي القابل للتفسير أكثر من أي وقت مضى. كما استفادت أدوات DevOPS وأنظمة الاستجابة الأمنية، وتقنيات البحث وسواها من تقدم تكنولوجيا الذكاء الاصطناعي. وقد عززت ميزات الأتمتة والتحليل على وجه الخصوص، الكفاءة التشغيلية والأداء عبر تتبع الحالات المعقدة أو كثيفة المعلومات والاستجابة لها.

مع ذلك، يطرح التعقيد المتزايد لنماذج الذكاء الاصطناعي قضية بارزة، وهي الشفافية. فمع كون العديد من نماذج الذكاء الاصطناعي المتطورة معقدة للغاية في كيفية اتخاذ القرار بشأن المخرجات، فإن العديد من خبراء المجال لا يستطيعون فهم كيف أو لماذا يتخذ النموذج قراراته. يُطلق على هذه الحالة عادة اسم مشكلة الصندوق الأسود، ويهدف الذكاء الاصطناعي القابل للتفسير إلى معالجة هذه المشكلة.

ما هو الذكاء الاصطناعي القابل للتفسير، ولماذا يُعد ضرورياً؟

الذكاء الاصطناعي القابل للتفسير يشكل جزءاً من ميادين الذكاء الاصطناعي الهادفة إلى جعل مخرجاته أكثر شفافية وقابلية للفهم، مما يسهم في بناء الثقة وزيادة الاطمئنان لدى الفرق المستفيدة من الذكاء الاصطناعي. في سياق مثالي، يقوم نموذج ذكاء اصطناعي قوي بأداء مهام معقدة مع تمكن المستخدمين من مراقبة عملية اتخاذ القرار ومراجعة أي أخطاء أو مخاوف قد تحدث.

تتزايد أهمية فهم الذكاء الاصطناعي بغض النظر عن التطبيق والقطاع الذي تعمل فيه المؤسسة التي تتبنى حلوله. فعلى سبيل المثال، قد تحتاج تطبيقات التمويل والرعاية الصحية إلى الامتثال للمتطلبات التنظيمية التي تتعلق بشفافية أدوات الذكاء الاصطناعي. كما تأتي المخاوف المتعلقة بالسلامة في مقدمة تطوير المركبات ذاتية القيادة، ويُعد فهم النموذج الخاص بقيادة المركبة أمراً بالغ الأهمية لتحسين الوظائف في هذه التكنولوجيا والحفاظ عليها. لذلك، غالباً ما يكون الذكاء الاصطناعي القابل للتفسير أكثر من مجرد مسألة رفاهية، فهو جزء مهم من العمليات التجارية ومعايير الصناعة.

مع التطوير والتبني المتزايد للتقنيات المدعومة بالذكاء الاصطناعي، من المُتوقع أن تتزايد التشريعات الحكومية والصناعية الهادفة لتنظيمه. فعلى سبيل المثال، أصدرت دولة الإمارات العربية المتحدة، التي كانت أول دولة في التاريخ تعين وزيراً للذكاء الاصطناعي، دليلاً رسمياً لأخلاقيات الذكاء الاصطناعي من أجل تعزيز الحوار حول أخلاقيات الذكاء الاصطناعي ومساعدة الجهات الفاعلة في مجال الذكاء الاصطناعي على الالتزام بمبادئه الأساسية. علاوة على ذلك، يساعد دليل مبادئ وإرشادات أخلاقيات الذكاء الاصطناعي الذي أصدرته إمارة دبي قطاع الصناعة والأوساط الأكاديمية والأفراد في فهم كيفية استخدام أنظمة الذكاء الاصطناعي بشكل مسؤول، وهو مُكوّن من مبادئ وإرشادات وأداة تقييم ذاتي للمطورين لتقييم منصاتهم.

تم تأسيس الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) في المملكة العربية السعودية لتتولى مسؤولية الأجندة الوطنية للبيانات والذكاء الاصطناعي، بهدف الارتقاء بالمملكة إلى أعلى مستوى من الاقتصادات القائمة على البيانات. فقامت الهيئة بتحليل الممارسات والمعايير العالمية لتطوير دليل مبادئ أخلاقيات الذكاء الاصطناعي، والذي تم نشره في سبتمبر 2023. ويهدف هذا الدليل إلى مساعدة المملكة على تحقيق رؤيتها واستراتيجياتها الوطنية في تبني تكنولوجيا الذكاء الاصطناعي، وتشجيع البحث والابتكار، ودفع النمو الاقتصادي من أجل التطور والازدهار.

هناك أيضاً قلق حيال التحيز والاعتمادية في نماذج الذكاء الاصطناعي. فلقد أصبحت هلوسات الذكاء الاصطناعي التوليدي موضوعاً يشيع الحديث عنه مؤخراً. بالإضافة لذلك، تمتلك نماذج الذكاء الاصطناعي تاريخاً طويلاً من تحيز المخرجات على أساس العرق، والجنس، وغيرها من الأمور. تعتبر أدوات وممارسات الذكاء الاصطناعي القابل للتفسير مهمة لفهم تحيزات مثل ما سبق ذكره والتخلص منها لتحسين دقة المخرجات والكفاءة التشغيلية.

في نهاية المطاف، يسعى الذكاء الاصطناعي القابل للتفسير إلى تطوير وتحسين قدرات المؤسسة، فالمزيد من الشفافية يعني فهماً أفضل للتكنولوجيا المستخدمة، واستكشاف الأخطاء وإصلاحها بشكل أفضل، والمزيد من الفرص لضبط أدوات المؤسسة.