Juan Antonio Sanz
Alumni
Màster en Business Intelligence i Direcció i Gestió de les Tecnologies de la Informació
«Cal dissenyar una estratègia sobre intel·ligència artificial d'àmbit nacional»
Josep Curto és professor dels Estudis d'Informàtica, Multimèdia i Telecomunicació de la UOC. És expert en dades massives, intel·ligència de negoci i analítica de negoci. També dirigeix el màster d'Intel·ligència de Negoci i Big Data Analytics de la UOC. Considera que la intel·ligència artificial està cridada a transformar profundament la societat i a redefinir els oficis i les professions existents. Caldrà canviar la mentalitat i assumir els reptes ètics que implica aquesta revolució tecnològica. Estem, doncs, davant de tecnologies i tècniques amb grans aplicacions socials i productives, que obren la porta a múltiples casos d'ús. I l'expert és clar: la responsabilitat que aquests casos d'ús no siguin positius per a la societat recau en les persones que els han creat i usat. Els algoritmes només fan allò per al que han estat programats.
Fins a quin punt les tècniques d'intel·ligència artificial afavoreixen la vida de les persones? Es poden convertir en elements per a la discriminació i la desigualtat entre col·lectius, implantant hàbits comuns i desestimant les diferències?
La intel·ligència artificial, i principalment l'aprenentatge automàtic (machine learning), igual que altres múltiples tecnologies, pot tenir un impacte tant positiu com negatiu. D'una banda, aquestes tècniques es poden emprar com un suport per a metges, gestors i altres professionals perquè facin millor la seva feina. Centrem-nos, per exemple, en l'àrea de l'atenció mèdica. Actualment tenim persones de múltiples nacionalitats vivint a Europa, on hi ha una àmplia mobilitat de ciutadans, i que no sempre es poden expressar correctament quan necessiten atenció mèdica. Tenir un sistema que pugui traduir qualsevol idioma a l'espanyol en aquest àmbit és d'una ajuda indubtable.
D'altra banda, alguns dels casos d'ús presenten biaixos rellevants tant en la captura de la dada com en el seu disseny i poden generar escenaris de discriminació i desigualtat. Per això, és molt important que tots els professionals implicats en aquestes tècniques coneguin els biaixos existents, comprenguin els riscos que estem introduint i incloguin capacitats de monitoratge en el moment del desplegament d'aquestes tècniques per a assegurar-se que aquests biaixos siguin detectats, mesurat el seu impacte i reduïts.
Hem de fer un esforç per imaginar i crear casos d'ús que realment generin alhora un impacte positiu en la societat.
La robòtica apareix com un dels principals aliats de les empreses compromeses amb la innovació. En quina mesura es converteix en un motor de futur i no en un instrument de destrucció de llocs de treball?
La robòtica no és una tecnologia nova. Fa bastants anys que estem transformant les cadenes de producció. Els beneficis són clars, per exemple, reducció del risc o precisió en la repetició de la feina, entre altres. A mesura que anem millorant les tècniques d'aprenentatge automàtic i explorem altres casos d'ús més amplis, recuperem la por de la destrucció en massa de llocs de treball. De nou, el que passa és que estem davant d'un escenari de transformació del lloc de treball. Per exemple, a mesura que el cotxe va substituir el cavall com a mecanisme de transport, l'ofici de ferrer va deixar de tenir sentit i va ser substituït per l'ofici de mecànic.
Actualment, molts dels oficis es transformaran i s'impulsaran amb l'ús d'aquestes tecnologies, i també apareixeran professions complementàries o noves. Per exemple, els robots necessitaran manteniment i de manera natural hauria d'aparèixer el «mecànic de robots». El que queda palès, i aquest és un repte per a tot el país, és que les competències que necessitarem en aquesta nova etapa seran diferents i cal formar-se en aquestes noves professions que, en molts casos, ens costa imaginar.
Com definiria, en aquest sentit, la robòtica social ara que ja és ben entrat el segle XXI?
La robòtica social, encara que tinguem exemples com la Sophia de Hanson Robotics, encara es troba en una fase incipient. Vivim en una il·lusió en què la tecnologia està molt més avançada que en la realitat.
En aquest cas d'ús, es requereix una combinació d'elements molt més sofisticada (sobretot en els robots antropomòrfics). Estem parlant d'expressions facials, de comunicació verbal, del coneixement del domini específic i fins i tot de coordinació de moviment. Part de la millora de la robòtica social exigeix la seva interacció en contextos reals i un dels aspectes que sovint falta en aquest àmbit és la intel·ligència emocional. Aquesta és una àrea de recerca d'importància singular per a millorar la robòtica social.
La intel·ligència artificial està canviant els nostres hàbits de compra i adquisició de béns. Però també pot canviar els hàbits de consum i rebaixar el nivell de qualitat del que adquirim?
Estem vivint un escenari en què aquestes tècniques ja afecten els hàbits de consum. Només cal fixar-se com, al cap d'un temps d'usar un sistema de reproducció en continu (streaming) que inclogui un sistema de recomanació, els resultats presentats s'encapsulen en uns perfils predeterminats (dins d'una bombolla), i presenten una sèrie de continguts específics i fins i tot es repeteixen les recomanacions. Estem davant d'una exposició contínua d'empreses que busquen captar la nostra atenció i alhora influir en els nostres hàbits de compra i consum.
Aquest fenomen que en principi es pot pensar que és beneficiós per a l'empresa —i potser no tant per al consumidor— juga en contra seu. Som animals d'hàbits, però ens agraden les novetats —sense risc—, i si sempre rebem les mateixes recomanacions, ens avorrim. Podem deixar de mostrar interès pel que ens recomanen i fins i tot ignorar sistemàticament les alertes (com si es tractessin simplement de soroll). Pensem, per exemple, en la quantitat d'anuncis que els consumidors ignorem sistemàticament, sigui conscientment mitjançant mecanismes de bloqueig o simplement per la nostra limitada atenció.
L'aplicació de noves tecnologies en l'àmbit sanitari, fins a quin punt pot relegar el paper de la sanitat pública a favor de la privada i, al mateix temps, rebaixar la qualitat de l'assistència mèdica, atès que hi ha despeses en aquest àmbit que només pot afrontar l'Estat?
Hi ha un marcat interès per aplicar totes les tecnologies vinculades amb les dades i l'anàlisi tant en l'àmbit privat com en el públic del sistema sanitari. La tecnologia pot tenir un paper positiu per a millorar l'atenció sanitària, la gestió d'hospitals, la detecció de malalties, la previsió de necessitats, etc.
No obstant això, hem de ser realistes, ja que la tecnologia només és un dels factors que condicionen l'evolució d'aquest sector. L'efecte principal que observem en l'evolució de mercat (per exemple el balanç entre sector privat i públic) sovint està més lligat a les polítiques socials i als interessos del govern de torn. Només cal que ens fixem en les polítiques de reducció de costos que han afectat la sanitat pública: han limitat els recursos i han empès el creixement de la sanitat privada. O per anar una mica més enllà de les fronteres locals, el Brexit està accentuant la crisi del sistema nacional de salut públic britànic (el National Health Service o NHS) generada per la reducció de costos en combinar-se amb una fuga de talent en el sector.
En l'àmbit de la seguretat, implica la intel·ligència artificial una eventual reducció de la intimitat i un augment del control en benefici de l'Estat i de les empreses que puguin utilitzar les nostres dades per a augmentar els seus beneficis?
Cal veure on es posen els límits. És un tema que, sens dubte, s'ha de discutir a escala de país i ha d'estar lligat a una sèrie de regulacions i responsabilitats. Si volem viure en una societat en què els valors de llibertat i igualtat són rellevants sota un Estat, cal tornar a revisar el contracte social. És possible que s'hagi de considerar fins i tot un codi de comportament —semblant al del context de la medicina— en què es defineixin els valors que han de regir l'ús i l'explotació de la dada.
Ara fa uns mesos es va tornar a plantejar una vella però persistent pregunta al col·lectiu del periodisme: hi haurà un programari que substitueixi el redactor d'un mitjà d'informació en l'elaboració de continguts digitals de complexitat mitjana, més enllà del periodisme de dades en les finances i els esports? Canviarà amb la intel·ligència artificial la profunditat amb què llegim les notícies?
Com en altres professions, el periodisme pot tenir el suport d'aquestes tecnologies per a millorar la manera de treballar, per exemple a l'hora de validar l'estil editorial, crear notícies que combinen dades i base de coneixements específics —com ara l'esportiu— o detectar notícies falses. Però també es pot centrar en un periodisme que vagi molt més enllà d'aquestes tasques, per exemple el periodisme d'investigació. El primer pas d'aquestes tecnologies és automatitzar tasques repetitives amb un valor mínim, per exemple mostrar l'últim resultat d'un partit de futbol. En aquest sentit, la reflexió que hem de fer tots els professionals és: volem de veritat que el nostre treball continuï essent només una sèrie de tasques repetitives?
Quant a la pregunta de si la intel·ligència artificial canviarà la manera com llegim, ja arriba tard. Les noves generacions viuen en entorns síncrons, de comunicació breu i ràpida, fins i tot centrada en imatges, de manera que ja consumeixen continguts d'una manera diferent. Aquestes tecnologies ajuden a descobrir continguts rellevants respecte a les nostres preferències, cosa que en definitiva genera bombolles d'informació.
L'ús de la intel·ligència artificial en la vida diària i en les mateixes relacions socials implica conflictes ètics. Com pot actuar la societat? Quins reptes ètics principals implica l'ús d'aquesta intel·ligència tecnològica?
Hem de formar tothom en els conflictes ètics que generen les noves tecnologies, en el coneixement dels nostres propis biaixos i com es magnifiquen, i dels mecanismes de detecció i de reducció. Malauradament, cal un canvi de mentalitat de múltiples actors: des dels governs fins a les empreses, passant per les persones. En aquest sentit, és semblant al canvi climàtic. Tot i les evidències existents durant molt de temps, s'ha minimitzat o menyspreat el problema i no s'han pres decisions contundents.
En l'esfera educativa, en quina mesura la intel·ligència artificial pot ajudar a reduir el fracàs escolar? Avançarem cap a una educació personalitzada amb la intel·ligència artificial o s'imposaran continguts més homologats i comuns, obviant les diferències?
En el context de l'ensenyament tenim un repte doble: formar professionals en les competències rellevants per als pròxims anys i adoptar en els nostres processos aquestes tècniques. Una part de la nostra recerca acadèmica a la UOC està centrada en la recuperació i el tractament de dades d'anàlisi de l'aprenentatge o learning analytics. És a dir, ens interessa entendre i millorar el procés d'aprenentatge en diferents entorns.
Un dels punts candents, sens dubte, és el fracàs escolar en les seves diferents tipologies: habitual, circumstancial, etc. A mesura que fem servir més canals digitals en el procés educatiu —i a la UOC això és força clar—, tenim la possibilitat de captar més senyals per a comprendre els processos d'aprenentatge dels nostres alumnes. No es tracta de comprendre només per què hi ha fracàs, cosa que ja per si mateixa és molt important, sinó d'ajudar el docent a identificar si algun estudiant presenta risc de fracàs i actuar preventivament.
En la personalització de l'ensenyament, tenim una oportunitat d'or. Moltes de les professions del futur requereixen la combinació de capacitats existents i noves, que formaran camins únics. Aquí hi ha una oportunitat si convertim en actius digitals els continguts i creem sistemes d'assessorament en funció dels coneixements, els interessos i els mecanismes d'aprenentatge de l'estudiant. En aquest punt, però, hem de redefinir els formats en què es comercialitzen aquestes capacitats.
De quina manera la intel·ligència artificial pot ajudar l'ésser humà a aprofitar millor el temps sense que la seva participació en els processos productius es redueixi a la d'un mer observador?
Cal redefinir els oficis existents. Hi haurà feines que no existiran quan s'automatitzin o fins i tot quan caiguin en desús. El repte que tenim és que ens trobem immersos en aquest canvi, cosa que sovint complica la reflexió i la identificació dels passos següents. Sens dubte, el sistema educatiu pot exercir i ha d'exercir un paper fonamental en aquesta transformació.
Quins seran els avantatges de la intel·ligència artificial com a motor de desenvolupament en les pròximes dècades, des del punt de vista econòmic, social i educatiu?
La intel·ligència artificial està cridada a transformar profundament la societat i ser un pilar en múltiples sectors, de manera que el normal seria dissenyar una estratègia d'àmbit nacional i convertir-la en una tecnologia obliqua. Per exemple, els Emirats Àrabs Units es van convertir en el primer país del món a nomenar un ministre per a la Intel·ligència Artificial.
Si l'objectiu és transformar un país en una potència en intel·ligència artificial, el fet de tenir un perfil del més alt nivell pot ajudar a posar en marxa iniciatives de col·laboració entre la societat civil, l'acadèmica i les empreses, per tal d'identificar àrees on la intel·ligència artificial serà fonamental per a la innovació. També es podran dissenyar polítiques coherents i coordinades de dades obertes en el context d'un país, crear plans per a atraure i generar talent, desenvolupar polítiques basades en evidències i dades (el que anomenem evidence-based policies, que ja sabem que és tan necessari), impulsar una agenda de recerca adequada i habilitar inversions per a centres de recerca, noves empreses, centres d'excel·lència, etc.