Els nous avenços en reconeixement facial milloren la precisió i el biaix dels algorismes sobre el gènere i el color de la pell

Tant organitzacions privades com governamentals d'arreu del món empren habitualment el reconeixement facial. El reconeixement automàtic de rostres es pot utilitzar amb finalitats legítimes i beneficioses, com ara millorar la seguretat. Amb tot, el poder i l'omnipresència que té augmenten l'impacte negatiu potencial que els mètodes injustos poden tenir per a la societat, com ara la discriminació de les minories ètniques. Una condició necessària, si bé no suficient, per desplegar d'una manera legítima algorismes de reconeixement facial és que la precisió sigui igual per a tots els grups demogràfics. 

Guiats per aquest propòsit, investigadors del Human Pose Recovery and Behavior Analysis Group del Centre de Visió per Computador (CVC) - Universitat de Barcelona, grup de recerca dirigit per Sergio Escalera, van organitzar un repte dins del Congrés Europeu de Visió per Computador (ECCV) 2020. Com a part del repte, els participants van enviar algorismes que havien de dur a terme tasques de reconeixement facial amb presència d'atributs que podrien ser factors de confusió. Els resultats, publicats recentment a Computer Vision - ECCV 2020 Workshops, van avaluar la precisió i el biaix dels algorismes en relació amb el gènere i el color de la pell tenint en compte la presència d'aquests atributs.

El repte va ser un èxit, ja que «va atraure 151 participants, que van fer més de 1.800 enviaments en total, cosa que va superar les nostres expectatives pel que fa al nombre de participants i enviaments», va explicar Julio C. S. Jacques Jr., investigador del grup de recerca Scene Understanding and Artificial Intelligence Lab (SUNAI), dels Estudis d'Informàtica, Multimèdia i Telecomunicació de la Universitat Oberta de Catalunya (UOC).

Els participants van utilitzar un conjunt de dades d'imatges no equilibrades, simulant un escenari del món real en què els models basats en intel·ligència artificial (IA) havien de ser entrenats i avaluats sobre dades desequilibrades (considerablement més homes blancs que dones de pell fosca). En total, l'equip va treballar amb 152.917 imatges de 6.139 identitats.

Les imatges es van anotar per a dos atributs protegits: gènere i color de la pell; i per a cinc atributs legítims: grup d'edat (0-34, 35-64, 65 o més), posició del cap (frontal, altres), font de la imatge (imatge fixa, marc de vídeo), amb ulleres o sense, i mida de la caixa delimitadora.

Resultats prometedors

Els resultats obtinguts van ser molt prometedors. Les solucions guanyadores van superar el 0,999 de precisió, i també van obtenir puntuacions molt baixes en les mètriques de biaix proposades, que es poden considerar un pas cap al desenvolupament de mètodes de reconeixement facial més justos. L'anàlisi dels deu millors equips mostra taxes de falsos positius més altes per a les dones de pell fosca i per a mostres en què ambdós individus porten ulleres. En canvi, hi va haver taxes de falsos negatius més altes per als homes de pell clara i per a mostres en què tots dos individus tenien menys de 35 anys. «Això no va ser cap sorpresa, perquè el conjunt de dades adoptat no estava equilibrat quant a diferents atributs demogràfics. Tanmateix, mostra que la precisió general no és suficient quan l'objectiu és construir mètodes de reconeixement facial justos i també que els treballs futurs sobre aquest tema han de tenir en compte la precisió i la mitigació del biaix alhora», va concloure Julio C. S. Jacques Jr.

Treball de referència

Sixta, T.; Jacques Junior, J. C. S.; Buch-Cardona, P.; Vázquez, E.; Escalera, S. (2020). «FairFace Challenge at ECCV 2020: Analyzing Bias in Face Recognition». Computer Vision - ECCV 2020 Workshops. ECCV 2020. Lecture Notes in Computer Science, vol. 12540. Springer, Cham. DOI: 10.1007/978-3-030-65414-6_32

UOC R&I 

La recerca i innovació (R+I) de la UOC contribueix a solucionar els reptes a què s'enfronten les societats globals del segle xxi, mitjançant l'estudi de la interacció de les TIC amb l'activitat humana, amb un focus específic en l'aprenentatge en línia i la salut digital. Els més de 400 investigadors i 50 grups de recerca s'articulen entorn dels set estudis de la UOC i dos centres de recerca: l'Internet Interdisciplinary Institute (IN3) i l'eHealth Center (eHC).

Els objectius de l'Agenda 2030 de desenvolupament sostenible de les Nacions Unides i el coneixement obert són eixos estratègics de la docència, la recerca i la innovació de la UOC. Més informació research.uoc.edu #25anysUOC