El grupo de investigación Systems, Software and Models Research Lab (SOM Research Lab) del IN3 se complace en invitaros al Seminario «Herramientas para la identificación automática de sesgos en IA generativa» a cargo de Sergio Morales García, estudiante de doctorado del Programa de Doctorado de Tecnologías de la Información y Redes de la UOC y ayudante de investigación del grupo de investigación SOM Research Lab del IN3.
El seminario se celebrará, en formato híbrido, el martes 3 de diciembre a las 15:00 h (CET) a la Sala C1.17 de Hub Interdisciplinario de Investigación e Innovación (Edificio C).
Lugar
Hub Interdisciplinario de Investigación e Innovación (Edificio C - Sala C1.17)
Rambla del Poblenou, 154
08018 Barcelona
Espanya
Cuándo
03/12/2024 15.00h
Organiza
Universitat Oberta de Catalunya, Grupo de investigación Systems, Software and Models Research Lab (SOM Research Lab) del IN3
Programa
Resumen
La popularidad de los grandes modelos de lenguaje (LLM, del inglés "large language models") genera inquietudes sobre sus posibles sesgos y su impacto en la sociedad. Por lo general, dichos modelos son entrenados con una gran cantidad de datos extraídos de foros, sitios web, redes sociales y otras fuentes de Internet, lo que puede resultar en un comportamiento perjudicial y discriminatorio. Para abordar esta cuestión, presentamos dos plataformas para la evaluación sistemática de sesgos en modelos de texto a texto y de texto a imagen. Sociólogos, especialistas en ética y otros investigadores pueden aprovechar estas herramientas para ejecutar sus estudios, generando y ejecutando automáticamente pruebas de acuerdo con un conjunto de requisitos éticos definidos por el propio usuario y una definición de escenario de uso. Estas herramientas de investigación proporcionan a los usuarios una evaluación de sesgos en LLMs, y la trazabilidad existente entre los requisitos éticos iniciales y los resultados obtenidos.
Sergio Morales García
Ayudante de investigación del grupo de investigación Systems, Software and Models Research Lab (SOM Research Lab) del IN3. Estudiante del Doctorado de Tecnologías de la Información y de Redes de la Universitat Oberta de Catalunya (UOC) actualmente trabajando en la propuesta de un framework de testeo para la integración de una evaluación ética sistemática en el desarrollo de aplicaciones basadas en modelos grandes de lenguaje (large language models, LLMs). Profesor asociado de asignaturas de ingeniería de software en la Universitat Politècnica de Catalunya (UPC-BarcelonaTech). Anteriormente, jefe de producto en varias start-ups catalanas, donde sus principales responsabilidades abarcaban comprender las necesidades de los usuarios, desarrollar la visión del producto, establecer la estrategia del mismo e impulsar iniciativas de desarrollo con equipos multidisciplinares.