L'impacte de la IA en els drets fonamentals i la democràcia, a debat en un congrés de la UOC

El desenvolupament de la intel·ligència artificial (IA) s'ha convertit en una cursa acarnissada entre empreses i centres de recerca, amb la lluita geopolítica de fons, per posicionar-se com a líder en un mercat encara per explorar, i les conseqüències del qual, abast i límits encara es desconeixen.

Amb aquest context de fons, i davant els dubtes sobre l'impacte que tindrà la IA en la política, el dret i la democràcia, la Universitat Oberta de Catalunya (UOC) celebrarà el 17 d'octubre el XIX Congrés IDP (Internet, Dret i Política), on experts i expertes en dret i ciències polítiques debatran, al costat de professionals involucrats en la recerca i el desenvolupament de tecnologies d'IA, sobre l'abast d'una disrupció amb capacitat per trastocar els fonaments de la societat.

Resoldre els dubtes

Amb el títol de "Desafiaments actuals de la intel·ligència artificial", el congrés analitzarà, al llarg de tota la jornada, aspectes com ara els riscos de discriminació algorítmica, la tipificació de nous delictes relacionats amb la tecnologia, o la protecció dels drets dels ciutadans en un marc en el qual tecnologies com la IA serviran, progressivament, per prendre decisions que poden afectar els drets fonamentals.

"La IA és una tecnologia —o, més ben dit, un conjunt de tecnologies— fortament disruptiva, el desenvolupament futur de la qual és, en molts sentits, una veritable incògnita", explica Miquel Peguera, professor dels Estudis de Dret i Ciència Política de la UOC i membre del comitè organitzador. "El que ens interessa en aquest congrés és, sobretot, l'impacte de la IA en els ciutadans: com pot afectar a un ciutadà que la concessió o denegació d'un dret o d'un benefici social hagi estat determinada per un algorisme opac d'un sistema d'IA? Quins efectes pot produir la IA en termes de discriminació, limitació d'accés a serveis públics, desinformació en processos electorals o victimització?", enumera.

Per respondre aquestes i altres preguntes, el congrés s'estructurarà en diversos blocs temàtics, amb els quals es cobriran els desafiaments que la IA imprimeix sobre el dret i els drets.

Cap a una imparable automatització?

"El congrés tractarà diversos camps en els quals la IA està tenint un impacte rellevant, com passa, per exemple, amb el seu ús en l'àmbit de les relacions laborals, o la prestació de serveis públics", destaca Miquel Peguera. I tot començarà amb una primera taula titulada "Els desafiaments de la IA en el dret, la criminalitat i la política", que servirà de punt de partida per centrar-se, després, en una anàlisi de la legislació vigent en matèria de protecció de dades i regulació de tecnologies disruptives com la IA.

També es posarà èmfasi en el fenomen dels deepfakes (hipertrucatges) i el seu paper en la comissió de delictes contra la pròpia imatge o l'accés a informació veraç. "La qualitat de les ultrasuplantacions, o deepfakes, arriba al punt que resulten indistingibles de les imatges o veus reals per al públic general", explica el professor, que subratlla que "l'afectació als drets de les persones pot arribar a ser molt greu, com ho és també per al conjunt de la societat l'efecte negatiu que provoca la desinformació".

El congrés també analitzarà si les capacitats generatives de la IA i el seu potencial en automatització suposaran un canvi en l'exercici del dret i fins i tot de la política, així com en la prestació de serveis públics o l'accés a aquests. "Ja hi ha precedents d'advocats amonestats per al·legar sentències que no existeixen", apunta l'expert de la UOC sobre una problemàtica que centrarà bona part d'un esdeveniment obert a totes les persones interessades en l'impacte de la IA en els seus propis drets.

Per debatre aquests temes, al congrés hi participaran múltiples ponents, incloent-hi experts internacionals com ara Andrés Chomczyk, Affiliated Researcher del grup de recerca Law, Science, Technology and Society de la Universitat Lliure de Brussel·les (Bèlgica), o Ioannis Revolidis, Resident Academic Lecturer de la Faculty of Laws, i el Centre for Distributed Ledger Technologies de la Universitat de Malta.

Les persones interessades a assistir-hi ja poden inscriure-s'hi en aquest enllaç per reservar la seva plaça.