طريق السلامة: أمان الذكاء الاصطناعي والتحديات التي ينتظرها المجال في حدث DeepFest 2024
كما يدل الاسم، يمثل مجال البحث في أمان سلامة الذكاء الاصطناعي الجهود المبذولة لضمان ألا يشكل نشر الذكاء الاصطناعي خطراً على البشرية وألا يلحق ضرراً بها. ورغم أن هذا التعريف واضح وصريح، فهو أقرب لتعريف بالنوايا من كونه قابلاً للتطبيق على الأرض، إذ هناك تحديات عديدة في المجال بداية من الاتفاق على مصادر الخطر الأكبر ووصولاً إلى التعامل معها وتحييدها.
الذكاء الاصطناعي ذاتي التعلم
يمثل التعلم الذاتي لنماذج الذكاء الاصطناعي، وبالأخص التعلم المستمر أثناء العمل، تحديات كبرى بخصوص إمكانية التنبؤ بخرجها أو التحكم بها، ولعل الأحداث المتكررة لتجاوز المستخدمين للقيود في روبوتات المحادثة الشائعة مثال ممتاز على ذلك.
بالطبع يؤثر نوع البيانات المتاحة لتدريب نماذج الذكاء الاصطناعي على خرجها ومسارات تعلمها، وعندما يتم تدريبها على بيانات مفتوحة غير منتقاة، يكون من السهل أن تنحرف عن السلوك المتوقع لها. عادة ما يتم التعامل مع هذا التحدي عبر توجيه أنظمة الذكاء الاصطناعي باستخدام أنظمة مكافئات تسعى النماذج للحصول عليها، لكن وفي الكثير من التجارب تتطور هذه النماذج لتتلاعب بأنظمة المكافئات بطرق غير متوقعة وبشكل مقلق.
يوضح رومان يامبولسكي، المؤلف ومدير مختبر الأمن السيبراني في جامعة لويزفيل: «هناك حاجة لمزيد من المشاركة الاستباقية، وأبحاث السلامة الصارمة، والاعتبارات الأخلاقية المدمجة في دورة حياة تطوير الذكاء الاصطناعي. وعلى الرغم من أن الجهود الحالية تستحق الثناء، إلا أنها تحتاج إلى توسيع نطاقها بشكل كبير لتتناسب مع التطور السريع لقدرات الذكاء الاصطناعي.»
هل يحل التحكم البشري المشكلة؟
الجواب السريع هو لا، إذ يمكن حتى لخوارزميات الذكاء الاصطناعي الخاضعة للإشراف والمصممة لأغراض مفيدة أن تثير مخاوف تتعلق بالسلامة. وعلى الرغم من إثبات فعاليتها في مجموعات بيانات الاختبار، قد تتعثر هذه الخوارزميات بسبب عدم قوتها، أو التحيزات الموروثة من بيانات التدريب، أو انتهاكات الخصوصية. ويشكل الحفاظ على القوة ومكافحة التحيزات وحماية الخصوصية تحديات مستمرة في نشر الذكاء الاصطناعي لأغراض نبيلة.
يعلق رومان يامبولسكي على ذلك: «إذا كان بإمكاني تغيير جانب واحد من تطوير الذكاء الاصطناعي الحالي، فسيكون ذلك من خلال غرس ثقافة أقوى لأولوية السلامة في مجتمع الذكاء الاصطناعي. وينطوي ذلك على إعطاء الأولوية للآثار طويلة المدى بدلاً من المكاسب قصيرة المدى ودمج الاعتبارات الأخلاقية منذ المراحل الأولى لتصميم الذكاء الاصطناعي وتطويره. وينبغي تدريب مطوري الذكاء الاصطناعي ليس فقط على المهارات التقنية، ولكن على التفكير الأخلاقي وتقييم المخاطر المتعلقة بتقنيات الذكاء الاصطناعي كذلك.»
ماذا بخصوص الجهات الخبيثة؟
حتى ومع تجاهل الضرر غير المقصود، فإن احتمالات الاستغلال الضار لتقنيات الذكاء الاصطناعي تبدو واضحة في الأفق بشكل متزايد. إذ تعمل قدرة الذكاء الاصطناعي على معالجة البيانات غير المنظمة على تسهيل أمور مقلقة مثل الرقابة المفرطة، ونشر المعلومات المضللة، وتشكل هذه النواحي مستويات غير مسبوقة من التهديد للحريات الفردية والاستقرار المجتمعي. وربما بات من الضروري الآن وجود تدخلات تجمع بين الابتكارات التقنية والأطر التشريعية لتقليل المخاطر المحتملة للتقنية.
من ناحيته، يدعو يامبولسكي إلى اتخاذ تدابير وقائية قائلا: «يعد التنبؤ بالجدول الزمني لظهور الذكاء الاصطناعي الذي لا يمكننا تقييده أو السيطرة عليه أمراً صعباً بسبب الطبيعة غير المتوقعة لأبحاث الذكاء الاصطناعي والاختراقات. ومع ذلك، وبالنظر إلى المسار الحالي، فمن المعقول أنه خلال السنوات الخمس المقبلة، يمكن أن نواجه أشكالاً من الذكاء الاصطناعي التي لا تقع سلوكياتها وقراراتها تحت سيطرتنا بالكامل. وهذا يؤكد الحاجة الملحة إلى معالجة مشكلات السلامة والتحكم في الذكاء الاصطناعي الآن، وليس لاحقاً.»
تشمل سلامة الذكاء الاصطناعي مجموعة واسعة من التحديات التي تمتد من ضمان سلامة أنظمة التعلم المستقلة إلى الحماية من الاستغلال الضار. وتتطلب معالجة هذه المخاوف المتعددة الأوجه بذل جهود متضافرة من الباحثين وصناع السياسات وأصحاب المصلحة في الصناعة للتنقل في المشهد المتطور لنشر الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية. وكما أكد الخبراء في مختلف التخصصات، فإن التدابير الاستباقية والاستراتيجيات التعاونية ضرورية لتسخير الإمكانات التحويلية للذكاء الاصطناعي مع تخفيف المخاطر المرتبطة به.
سيكون السيد يامبولسكي أحد المتحدثين في حدث DeepFest 2024 المتخصص بالذكاء الاصطناعي والذي سيقام بين 4 و7 مارس في مركز الرياض الدولي للمؤتمرات والمعارض. حيث سيشارك السيد يامبولسكي في جلسة بعنوان «دور الذكاء الاصطناعي الدفاعي في الأمن السيبراني وتهديدات الهوية والتزييف العميق»، وذلك في اليوم الثاني من الحدث عند الساعة 5:30 مساءً.
يمكنك التعرف على المزيد والتسجيل لحضور الحدث الإقليمي الرائد في مجال الذكاء الاصطناعي من الموقع الرسمي لـ DeepFest 2024. حيث سيشهد الحدث حضور أكثر من 120 جهة عارضة و150 متحدث و20 ألف زائر.
