تصنع السم والترياق: شركة OpenAI تطور أداة لكشف الصور المولدة بالذكاء الاصطناعي
⬤ أعلنت شركة OpenAI عن إطلاق أداة جديدة تهدف لتحديد الصور المولدة بواسطة تقنيات الذكاء الاصطناعي.
⬤ تمكنت الأداة الجديدة من تحديد 98% من الصور المولدة عبر أداة DALL-E، لكنها عانت من تمييز الصور عند تعديلها.
⬤ تعمل عدة منصات كبرى اليوم على تمييز صور الذكاء الاصطناعي لمكافحة الإغراق والاستخدام المضلل لهذا المحتوى.
أعلنت شركة OpenAI المدعومة من شركة Microsoft والمطورة لأدوات DALL-E وSora وروبوت المحادثة ChatGPT عن إطلاق أداة جديدة تهدف لتحديد الصور المولدة بواسطة تقنيات الذكاء الاصطناعي.
أصبحت الموثوقية مصدر مخاوف كبير في مجال تطور الذكاء الاصطناعي، مع قلق السلطات من انتشار التزييف العميق الذي قد يؤدي لاضطراب المجتمع.
وفقاً للشركة، يمكن لمصنف الصور، قيد الاختبار، الخاص بها تقييم احتمالية أن تكون بعض الصور مولدة عبر إحدى أدوات الذكاء الاصطناعي التوليدي مثل DALL-E 3.
قالت شركة OpenAI أنه أثناء الاختبار الداخلي لنسخة مبكرة من الأداة، تمكنت الأخيرة من تحديد 98% من الصور المولدة عبر أداة DALL-E بدقة، مع تحديد أقل من 0.5% من الصور العادية بالخطأ على أنها مولدة بواسطة الذكاء الاصطناعي.
ومع ذلك، حذرت الشركة من أن صور DALL-E المُعدلة كانت صعبة التحديد، وأن الأداة أقل نجاحاً في تمييز الصور المولدة عبر نماذج الذكاء الاصطناعي الأخرى مثل Midjourney، حيث تنخفض نسبة النجاح إلى دون 10% أحياناُ.
كما قالت الشركة أنها تضيف علامات مائية للبيانات الوصفية الخاصة بالصور المولدة بواسطة تقنيات الذكاء الاصطناعي، حيث تسعى العديد من الشركات للتوافق مع معايير تحالف مصدر وموثوقية المحتوى C2PA. لكن يرى المراقبون أن البيانات الوصفية ليست كافية هنا، وبالأخص مع كون جميع منصات التواصل الاجتماعي الكبرى تجرد الصور من بياناتها الوصفية لدى رفعها عليها، بالإضافة لتوفر العديد من الطرق البسيطة لإزالة هذا النوع من الدمغات.
يضع تحالف C2PA معياراً تقنياً لتحديد مصدر وموثوقية المحتوى الرقمي عن طريق الزام شركات تطوير أدوات الذكاء الاصطناعي بوضع علامة مائية لتمييز المحتوى المولد عبر تقنيات الذكاء الاصطناعي عن غيره. في شهر أبريل، قالت شركة Meta أنها ستبدأ في تصنيف الوسائط المولدة بواسطة تقنيات الذكاء الاصطناعي بداية من شهر مايو وفقاً لمعيار تحالف C2PA، كما انضمت شركة Google لهذه المبادرة. وحتى أن منصة تيك توك كانت قد كشفت عن عملها على تمييز محتوى الذكاء الاصطناعي ضمنها كذلك.
