شركة IBM تتوقف عن تطوير تقنيات التعرّف على الوجه لهذا السبب
في خطاب رسمي مُرسل إلى الكونجرس الأميركي، صرّح رئيس IBM أنّ الشركة سوف تتوقف عن تطوير تقنيات التعرّف على الوجه وأنّها لن تعمل على أي أبحاث تخص هذه التقنية.
وجاء في خطاب رئيس IBM: «تعارض IBM بشدة ولن تتغاضى عن استخدامات أي تقنية بما في ذلك تقنية التعرّف على الوجه التي يقدمها بائعون آخرون، للمراقبة الجماعية، والتنميط العنصري، وانتهاكات حقوق الإنسان والحريات الأساسية، أو أي غرض لا يتوافق مع قيم ومبادئ الثقة والشفافية. نعتقد الآن أن الوقت قد حان لبدء حوار وطني حول ما إذا كان ينبغي استخدام تقنية التعرّف على الوجه من قِبل وكالات إنفاذ القانون المحلية».
جدير بالذكر أنّ برامج التعرّف على الوجه تحسّنت بشكل كبير خلال العقد الماضي بفضل التقدّم في الذكاء الاصطناعي، وفي الوقت نفسه أثبتت التقنية أنّها تعاني من التحيّز تجاه أشياء مثل السن، والعرق، مما قد يجعلها غير موثوقة لإنفاذ القانون والأمن وقد تتسبب في انتهاكات محتملة للحقوق المدنية.
مخاوف تقنيات التعرّف على الوجه
وفي عام 2018، كشف أحد الأبحاث عن مدى انحياز العديد من أنظمة التعرّف على الوجه التجارية – بما في ذلك نظام IBM – وأدى هذا البحث بالإضافة إلى عدّة دراسات لاحقة إلى انتقاد عام لهذه الخوارزميات ومحاولات مستمرة لتصحيح هذا التحيّز.
وفي ديسمبر 2019، وجدت دراسة من المعهد الوطني للمعايير والتكنولوجيا دليل تجريبي على وجود مجموعة واسعة من الدقة عبر الاختلافات الديموغرافية في غالبية خوارزميات التعرّف على الوجه الحالية، كما تعرضت هذه التقنية لانتقادات أخرى بسبب دورها في انتهاك الخصوصية.
اقرأ أيضًا: مناوشات بين جوجل ومايكروسوفت حول حظر التعرف على الوجه في الاتحاد الأوروبي
كما تم انتقاد برنامج Rekognition من إنتاج شركة أمازون، بسبب مطابقة 28 عضو في الكونجرس بشكل غير صحيح مع بعض الوجوه الموجودة ضمن 25 ألف صورة عامة، وجدير بالذكر أنّ برنامج أمازون للتعرّف على الوجه يمكن استخدامه من قِبل سلطات إنفاذ القانون.
وفي نفس الإطار، تم تغريم فيسبوك 550 مليون دولار في يناير الماضي لتسوية دعوى قضائية جماعية حول استخدامها الغير قانوني لتقنية التعرّف على الوجه.
IBM
حاولت شركة IBM المساعدة في مشكلة التحيّز في برامج التعرّف على الوجه، حيث أصدرت مجموعة بيانات عامة في عام 2018 مُصممة للمساعدة في تقليل التحيّز كجزء من بيانات التدريب لنموذج التعرّف على الوجه.
لكن وُجهّت انتقادات لشركة IBM بعدما وُجد أنّها تستخدم ما يقرب من مليون صورة من موقع فليكر دون موافقة مالكيها، رغم أنّها صور تم مشاركتها بموجب ترخيص المشاع الإبداعي.
