Arriba el jutge artificial: imparcial, eficient i ràpid

A Estònia hi ha diferents ministeris que han introduït la intel·ligència artificial (IA) i l'aprenentatge automàtic (machine learning) per racionalitzar els serveis als ciutadans. De moment ja són més d'una desena els llocs de treball en què un algoritme ha substituït els funcionaris. Però no solament han automatitzat certs processos, sinó que treballen en un projecte per a dissenyar un «robot jutge» que pugui atendre petits judicis mitjançant la IA. «Tenir un sistema automatitzat per a resoldre casos poc importants i, sobretot, senzills o amb una resposta jurídica clara pot ajudar a descongestionar els òrgans judicials i oferir respostes més ràpides, imparcials i fiables», afirma David Martínez, professor dels Estudis de Dret i Ciència Política de la UOC i ponent a la jornada «Intel·ligència artificial i dret. El panorama dels reptes ètics i jurídics», que organitzen els Estudis de Dret i Ciència Política dilluns, 14 d'octubre, a la seu de Tibidabo, a Barcelona.

«L'ús d'algoritmes, en termes generals, sempre comporta millores d'eficiència, rapidesa, previsibilitat i seguretat», afirma Martínez, que afegeix que «s'eliminen els aspectes subjectius que poden afectar la presa de decisions i introduir distorsions que en principi no haurien d'influir en aquestes decisions». Així, doncs, un jutge artificial podria dictar sentència de manera més imparcial que un humà? «En la mesura que un algoritme no té per si mateix cap element de subjectivitat, sinó que es limita a executar una sèrie d'ordres, s'elimina la possibilitat d'interferència de prejudicis o creences que puguin alterar l'aplicació mecànica de les normes», adverteix Martínez.

Ara bé, l'aplicació d'aquesta tecnologia també té perills ètics i limitacions tècniques. «Pel que fa a la tecnologia, la presa de decisions judicials és força limitada. Per exemple, perquè no és adequada en casos que involucren discrepàncies relatives a la interpretació de preceptes legals o en discussions al voltant de quins són els fets provats», detalla Martínez.

Però qui construeix l'ètica de l'algoritme?

Aquest és un dels reptes pendents més importants donada la repercussió que pot tenir en la vida de les persones. «És important tenir la possibilitat d'examinar i supervisar el codi d'aquests algoritmes, ja que es corre el risc d'incorporar, intencionalment o no, biaixos, prejudicis o altres elements en la mateixa programació que d'alguna manera "contaminin" la resposta», adverteix Martínez.

Un exemple controvertit és l'algoritme COMPAS, que fan servir, entre altres, els tribunals penals de l'estat de Wisconsin, als Estats Units, per a estimar el grau de perillositat i el risc de reincidència de l'acusat i així calcular la pena que se li ha d'imposar. Hi ha hagut acusacions, amb un cert grau de credibilitat, que l'algoritme discrimina determinats col·lectius, com ara els afroamericans, però no s'ha pogut demostrar ni desmentir perquè el codi no és accessible, atès que és propietat d'una empresa privada.

El jutge robot importable a Espanya

Els 1,3 milions de ciutadans d'Estònia ja utilitzen la targeta d'identitat nacional per a serveis en línia com ara la votació electrònica i la presentació d'impostos digitals. Per tant, la idea d'un jutge robot hi té moltes possibilitats de funcionar. Aquesta figura, gairebé provinent de la ciència-ficció, seria importable a Espanya? «Des del punt de vista tècnic, no hi ha cap diferència que els algoritmes de decisió artificial s'apliquin en un estat o en un altre; solament els caldria ajustar als continguts del sistema jurídic de cada lloc», afirma Martínez.

Però, en tot això, hi ha un canvi de mentalitat. La ciutadania acceptaria ser jutjada per un robot? «S'ha de tenir present la possible reticència tant dels professionals del dret com dels ciutadans a acceptar que un algoritme prengui decisions amb certa transcendència», explica Martínez. Ara bé, l'eficiència i la rapidesa d'aquesta tecnologia podrien ajudar els tribunals. «Tenint en compte la manca de recursos suficients i la saturació dels òrgans judicials, es podria alleugerir derivant una part dels casos (els més mecànics o de tràmit) a sistemes de decisió automatitzada, cosa que podria tenir efectes positius», considera l'expert.

Una jornada per a analitzar els reptes jurídics i ètics de la IA

Davant d'aquesta presència cada cop més quotidiana de la IA, els Estudis de Dret i Ciència Política de la UOC organitzen la jornada «Intel·ligència artificial i dret: el panorama dels reptes ètics i jurídics» dilluns, 14 d'octubre, a les 8.30 h, per presentar les qüestions ètiques i jurídiques que suscita la IA en diversos àmbits, agrupades en tres grans blocs: un dedicat a aspectes relacionats amb l'activitat privada, un altre centrat en els serveis públics i un tercer dedicat a qüestions de propietat intel·lectual i industrial.

Durant el primer bloc, es tractarà des de l'òptica privada l'ús de la IA amb relació als contractes intel·ligents (smart contracts), el dret laboral, l'obsolescència humana, l'elaboració de perfils i les aeronaus no tripulades. En el segon bloc, diferents experts en la matèria analitzaran la integració de la IA en el sector públic, des del jutge artificial fins a la gestió de recursos humans, passant per la prevenció de la delinqüència i les criptomonedes. Finalment, l'última part de la jornada abordarà temes vinculats a la propietat intel·lectual, les patents i les dades massives (big data).  

La conferència inaugural de la jornada serà a càrrec de Lorena Jaume-Palasí, cofundadora d'AlgorithmWatch i fundadora i directora executiva de The Ethical Tech Society. El seu interès es basa en la filosofia del dret, l'ètica de l'automatització i la digitalització. A més, treballa per controlar que empreses com ara Facebook o Google no abusin dels usuaris ni els enganyin des de les seves posicions dominants.

Els Estudis de Dret i Ciència Política de la UOC treballen en aquest camp de recerca des de diverses perspectives, en particular mitjançant dos projectes d'R+D: Law and Artificial Intelligence, liderat pels professors Miquel Peguera i Raquel Xalabarder, i Reptes jurídics de l'ús de dades massives per al foment de la innovació i la bona administració a través de la intel·ligència artificial, liderat pel professor de la UOC Agustí Cerrillo juntament amb el professor de la UB Juli Ponce.