Los nuevos avances en reconocimiento facial mejoran la precisión y el sesgo de los algoritmos sobre el género y el color de la piel

Tanto organizaciones privadas como gubernamentales de todo el mundo utilizan habitualmente el reconocimiento facial. El reconocimiento automático de los rostros puede utilizarse con fines legítimos y beneficiosos, como mejorar la seguridad. Sin embargo, su poder y omnipresencia aumentan el impacto negativo potencial que los métodos injustos pueden tener para la sociedad, como por ejemplo la discriminación de las minorías étnicas. Una condición necesaria, aunque no suficiente, para desplegar de forma legítima algoritmos de reconocimiento facial es que su precisión sea igual para todos los grupos demográficos. 

Guiados por este propósito, investigadores del Human Pose Recovery and Behavior Analysis Group del Centro de Visión por Computador - Universidad de Barcelona, grupo de investigación dirigido por Sergio Escalera, organizó un reto dentro del Congreso Europeo de Visión por Computador (ECCV) 2020. Como parte del reto, los participantes enviaron algoritmos que debían llevar a cabo tareas de reconocimiento facial con presencia de atributos que podrían ser factores de confusión. Los resultados, publicados recientemente en Computer Vision - ECCV 2020 Workshops, evaluaron la precisión y el sesgo en el género y el color de la piel teniendo en cuenta la presencia de estos atributos.

El reto fue un éxito, ya que «atrajo a 151 participantes, que hicieron más de 1.800 envíos en total, lo que superó nuestras expectativas en cuanto al número de participantes y envíos», explicó Julio C. S. Jacques Jr., investigador del grupo Scene Understanding and Artificial Intelligence Lab (SUNAI), de los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC).

Los participantes utilizaron un conjunto de datos de imágenes no equilibrados, simulando un escenario del mundo real en el que los modelos basados en inteligencia artificial (IA) debían ser entrenados y evaluados sobre datos desequilibrados (considerablemente más hombres blancos que mujeres de piel oscura). En total, el equipo trabajó con 152.917 imágenes de 6.139 identidades.

Las imágenes se anotaron para dos atributos protegidos: género y color de la piel; y para cinco atributos legítimos: grupo de edad (0-34, 35-64, 65 o más), posición de la cabeza (frontal, otras), fuente de la imagen (imagen fija, marco de vídeo), con o sin gafas, y tamaño de la caja delimitadora.

Resultados prometedores

Los resultados obtenidos fueron muy prometedores. Las soluciones ganadoras superaron el 0,999 de precisión, y también obtuvieron puntuaciones muy bajas en las métricas de sesgo propuestas, que pueden considerarse un paso hacia el desarrollo de métodos de reconocimiento facial más justos. El análisis de los diez mejores equipos muestra tasas de falsos positivos más altas para las mujeres de piel oscura y para muestras en las que ambos individuos llevan gafas. En cambio, hubo tasas de falsos negativos más altas para los hombres de piel clara y para muestras en las que ambos individuos tenían menos de 35 años. «Esto no fue ninguna sorpresa, porque el conjunto de datos adoptado no estaba equilibrado en cuanto a diferentes atributos demográficos. Sin embargo, muestra que la precisión general no es suficiente cuando el objetivo es construir métodos de reconocimiento facial justos, así como que los trabajos futuros sobre este tema deben tener en cuenta la precisión y la mitigación del sesgo a la vez», concluyó Julio C. S. Jacques Jr.

Trabajo de referencia

Sixta, T.; Jacques Junior, J. C. S.; Buch-Cardona, P.; Vázquez, E.; Escalera, S. (2020). «FairFace Challenge at ECCV 2020: Analyzing Bias in Face Recognition». Computer Vision - ECCV 2020 Workshops. ECCV 2020. Lecture Notes in Computer Science. Vol. 12540. Cham: Springer. DOI: 10.1007/978-3-030-65414-6_32

UOC R&I 

La investigación e innovación (RI) de la UOC contribuye a solucionar los retos a los que se enfrentan las sociedades globales del siglo xxi, mediante el estudio de la interacción de las TIC con la actividad humana, con un foco específico en el aprendizaje en línea y la salud digital. Los más de 400 investigadores y 50 grupos de investigación se articulan en torno a los siete estudios de la UOC y dos centros de investigación: el Internet Interdisciplinary Institute (IN3) y el eHealth Center (EHC).

Los objetivos de la Agenda 2030 de Desarrollo Sostenible de las Naciones Unidas y el conocimiento abierto son ejes estratégicos de la docencia, la investigación y la innovación de la UOC. Más información: research.uoc.edu #25añosUOC