دراسة حكومية التعرف على الوجه يفشل في تحديد نوع العرق
تشير دراسة أجرتها حكومة الولايات المتحدة إلى أن خوارزميات التعرف على الوجه أقل دقة في تحديد الوجوه الأفريقية الأمريكية والآسيوية مقارنة بالوجوه القوقازية. تشير الدراسة إلى أنه من المرجح أن يتم التعرف بشكل غير صحيح على الإناث من أصول إفريقية.
ويثير هذا شكوكا جديدة حول ما إذا كان يتعين على وكالات تطبيق القانون إستخدام هذه التكنولوجيا.
وصف أحد الناقدين النتائج بأنها "مروعة".
قام المعهد الوطني للمعايير والتكنولوجيا (Nist) باختبار ١٨٩ خوارزمية من ٩٩ مطورا، بما في ذلك شركة Intel و Microsoft و Toshiba والشركات الصينية Tencent و DiChuxing.
ولم تقدم شركة أمازون التي تبيع منتج التعرف على الوجه الذي تستخدمه قوات الشرطة الأميركية تقريرا لمراجعته.
وكانت شركة التجزئة العملاقة قد وصفت سابقا دراسة من معهد ماساتشوستس للتكنولوجيا بانها "مضللة". وقد أشار ذلك التقرير إلى أن أداء ريكوغنيست كان سيئا عندما يتعلق الأمر بالاعتراف بالنساء ذوات البشرة الداكنة.
عند مطابقة صورة معينة مع صورة أخرى من نفس الوجه - والمعروفة باسم المطابقة من شخص لآخر - العديد من الخوارزميات التي تم اختبارها بشكل خاطئ تم التعرف على الوجوه الأمريكية الإفريقية والآسيوية بين 10 إلى 100 مرة أكثر من القوقازيين ، وفقا للتقرير.
وكان من المرجح أن يتم التعرف على هوية الإناث من أصول إفريقية في ما يسمى المطابقة من شخص إلى اخر ، والتي تقارن صورة معينة بالعديد من الآخرين في قاعدة البيانات.
وقال عضو الكونغرس بيني طومسون ، رئيس لجنة مجلس النواب الأمريكي للأمن الداخلي : "يجب على الإدارة إعادة تقييم خططها لتقنية التعرف على الوجه في ضوء هذه النتائج المروعة".
وصف عالم الكمبيوتر ومؤسس الرابطة الخوارزمية للعدالة جوي بوبولامويني التقرير بأنه "رد شامل" للذين يدعون أنهم انحازوا في برمجيات الذكاء الاصطناعي بأنها ليست مشكله.
تم اختبار الخوارزميات في دراسة Nist على نوعين من الخطأ:
- الإيجابيات الخاطئة ، حيث يعتبر البرنامج خطأ أن صور شخصين مختلفين تظهر الشخص نفسه
- السلبيات الخاطئة ، حيث فشل البرنامج في مطابقة صورتين تظهران نفس الشخص
استخدم البرنامج صورًا من قواعد البيانات التي تقدمها وزارة الخارجية ووزارة الأمن الداخلي ومكتب التحقيقات الفيدرالي ، دون أي صور من وسائل التواصل الاجتماعي أو المراقبة بالفيديو.
يقول باتريك غروثر، عالم الكمبيوتر في صحيفة نيست ومؤلف التقرير الرئيسي على الرغم من أنه من غير الصحيح عادة الإدلاء ببيانات عبر الخوارزميات، إلا أننا وجدنا دليلا تجريبيا على وجود فروق ديموغرافية في معظم خوارزميات التعرف على الوجه التي درسناها.
"في حين أننا لا نستكشف ما قد يسبب هذه الفوارق، إلا أن هذه البيانات ستكون ذات قيمة لصناع القرار السياسي والمطورين والمستخدمين النهائيين في التفكير في القيود والاستخدام المناسب لهذه الخوارزميات".
وقالت إحدى الشركات الصينية وهى شركة ساينس تايم التى تبين ان خوارزمياتها غير دقيقة انها نتيجة " الاخطاء " التى تم معالجتها الان.
وأضاف النتائج لا تعكس ما لدينا من منتجات، حيث يتم إخضاعها للفحص الدقيق قبل دخولها السوق. ولهذا السبب فإن حلولنا التجارية كلها تشير إلى درجة عالية من الدقة.
وقد حظرت عدة مدن أمريكية من بينها سان فرانسيسكو واوكلاند فى كاليفورنيا وسمرفيل بولاية ماساتشوستس إستخدام تكنولوجيا التعرف على الوجه.
إرسال تعليق