Seminari: Herramientas para la identificación automática de sesgos en IA generativa

Programa

Resum

La popularitat dels grans models de llenguatge (LLM, de l'anglès "large language models") genera inquietuds sobre els seus possibles biaixos i el seu impacte en la societat. En general, aquests models són entrenats amb una gran quantitat de dades extretes de fòrums, llocs web, xarxes socials i altres fonts d'Internet, la qual cosa pot resultar en un comportament perjudicial i discriminatori. Per a abordar aquesta qüestió, presentem dues plataformes per a l'avaluació sistemàtica de biaixos en models de text a text i de text a imatge. Sociòlegs, especialistes en ètica i altres investigadors poden aprofitar aquestes eines per a executar els seus estudis, generant i executant automàticament proves d'acord amb un conjunt de requisits ètics definits pel mateix usuari i una definició d'escenari d'ús. Aquestes eines de recerca proporcionen als usuaris una avaluació de biaixos en LLMs, i la traçabilitat existent entre els requisits ètics inicials i els resultats obtinguts.

Sergio Morales García

Ajudant de recerca del grup de recerca Systems, Software and Models Research Lab (SOM Research Lab) de l'IN3. Estudiant del Doctorat de Tecnologies de la Informació i de Xarxes de la Universitat Oberta de Catalunya (UOC) actualment treballant en la proposta d'un framework de testatge per a la integració d'una avaluació ètica sistemàtica en el desenvolupament d'aplicacions basades en models grans de llenguatge (large language models, LLMs). Professor associat d'assignatures d'enginyeria de software a la Universitat Politècnica de Catalunya (UPC-BarcelonaTech). Anteriorment, cap de producte en diverses start-ups catalanes, on les seves principals responsabilitats abastaven comprendre les necessitats dels usuaris, desenvolupar la visió del producte, establir l'estratègia del mateix i impulsar iniciatives de desenvolupament amb equips multidisciplinaris.