خبراء الذكاء الاصطناعي يحثون أمازون على عدم بيع برنامج التعرف على الوجه إلى الشرطة

وقّعت مجموعة من 55 خبير من خبراء الذكاء الاصطناعي خطاباً مفتوحاً إلى أمازون يدعونها فيه إلى عدم بيع برنامج التعرف على الوجه إلى الشرطة، وفقاً لتقرير من بيزنس انسايدر.

وضمت توقيعات الخبراء باحثين من عمالقة التقنية في وادي السليكون مثل فيس بوك، ومايكروسوفت، وجوجل بالإضافة إلى DeepMind، وOpenAI.

كما شملت التوقيعات أيضاً توقيع أنيما أناندكومار، وهي عالمة رئيسية سابقة في شركة Amazon Web Services.

عدم بيع برنامج التعرف على الوجه

وجاء في الرسالة “ندعو أمازون إلى التوقف عن بيع Rekognition إلى سلطات تنفيذ القانون لأن التشريعات والضمانات لمنع سوء الاستخدام غير موجودة” في إشارة إلى التعدي على الحريات المدنية كنتيجة محتملة.

ويُعد الخطاب جزء من عملية مستمرة من الجدال بين الخبراء التقنيين القلقين بشأن ما إذا كان برنامج التعرف على الوجه من أمازون يُظهر تحيزاً من جهة، وعلماء أمازون الذين ينكرون هذه الادعاءات من جهة أخرى.

وبدأ الجدال عندما نشر باحثون من معهد ماساتشوستس للتكنولوجيا وجامعة تورنتو ورقة بحثية في يناير الماضي، تكشف عن عدم دقة برنامج Rekognition عندما كُلّف بتحديد ما إذا كانت صورة شخص ما رجلاً أو امرأة، حيث كانت التقنية غير دقيقة عندما يتعلق الأمر بالتعرف على النساء أو الأشخاص ذوي البشرة الداكنة.

رداً على ذلك، كتب الدكتور مات وود، المدير العام للذكاء الاصطناعي في Amazon Web Services سلسلة من التدوينات تزعم أن هذه الورقة البحثية كانت مضللة. ولهذا جاء الخطاب المفتوح من خبراء الذكاء الاصطناعي كنتيجة لوجهة نظر باحثي أمازون المخيبة للآمال في رأيهم.

يشير الموقعون على الخطاب إلى أنّه وفقاً للدراسة، كانت نسبة الخطأ في برنامج أمازون تبلغ حوالي 31 في المائة عند تحديد النساء من ذوي البشرة الداكنة.

وأشاروا إلى أنّ أمازون لم تكشف عن هوية عملاء Rekognition المحتملين، وما هي معدلات الخطأ عبر التركيبات السكانية المختلفة، كما أن البرنامج لا يخضع لأي نوع من التدقيق الخارجي.

من جانب آخر، أثارت منظمة الحقوق المدنية مخاوف بشأن برنامج Rekognition في الماضي، وأجرت اختباراً للبرنامج حدد فيه عن طريق الخطأ 28 عضواً في الكونجرس على أنهم أشخاص تم اعتقالهم من قبل.

كل هذا دفع خبراء الذكاء الاصطناعي إلى توجيه الخطاب إلى أمازون يطلبون فيه عدم بيع برنامج التعرف على الوجه إلى الشرطة.