Alejandro_Montes

Joan Casas Roma

Presenta't en dues o tres línies. Qui ets? 

Investigador i docent, dissenyador de jocs en el passat, músic aficionat i curiós (i daltònic) de naixement. Es nota quan una cosa m'apassiona perquè gesticulo molt i dic pecats. Entenc el joc i l'humor com dues de les millors portes per relacionar-nos amb el món i entre nosaltres. La docència és l'art de saber transmetre la passió radical per la curiositat. També m'agrada cantar afinant una quinta amb el so que fa la màquina del cafè.

Un mestre que t'hagi marcat. 

En José Miguel Sagüillo, el professor de l'assignatura Lògica i ontologia del màster de Lògica i Filosofia de la Ciència que vaig fer. Encara recordo l'"horitzontalitat" en les discussions que teníem a la classe i la passió que el professor transmetia (i ens feia néixer als alumnes) a través de l'exploració conjunta de preguntes i respostes.

Alguna anècdota amb algun company de la UOC.

Els companys de doctorat amb qui compartia despatx sabien que, el dia que jo era per allà, tant sí com no tocava sortir a fer un coffee time havent dinat. De mica en mica, va aparèixer la teoria que, en realitat, jo no era un doctorand, sinó un infiltrat contractat per la UOC per treure'ls a prendre l'aire uns quants cops per setmana per evitar que es cremessin i deixessin els estudis.

Recomana'ns una pel·lícula.

N'hi ha moltes i de molt xules, però sempre he tingut una debilitat especial per Fight Club, de David Fincher. Veus? Ara m'han vingut ganes de tornar-la a mirar.

Un lloc per tornar sempre.

L'alta muntanya en general i els Pirineus en particular, especialment a la primavera. La frescor de l'aire de muntanya m'enamora... I encara millor si vaig fins allà amb moto.

Quin és el futur de les màquines en la nostra societat? Fins on poden arribar?

Les eines sempre han format part de la nostra història i de la manera com els éssers humans ens relacionem amb el nostre entorn —ja des d'aquell os que, a càmera lenta, alçava el mico de 2001: una odissea de l'espai. Les eines s'han anat tornant molt més complexes que un simple os, és clar, i a partir de cert moment de la història, les eines es van tornar mecàniques i van començar a automatitzar, a través de palanques i engranatges, processos cada cop més complexos. Tot i que, evidentment, sigui un salt molt gran i un canvi de paradigma important (passem d'utilitzar eines per manipular el món físic a utilitzar-ne per manipular el món de la informació), avui en dia els ordinadors (incloent-hi programes que fan servir algun tipus de tècnica d'intel·ligència artificial, o IA) formen part de pràcticament tot el que fem, així com de la manera com ens relacionem amb el món i entre nosaltres.

De vegades, això comporta avantatges (immediatesa de la informació, agilització de molts procediments, etc.), però hi ha vegades que no (decisions automatitzades que presenten biaixos injustos contra certs col·lectius d'usuaris i que fan que se'ls denegui un préstec bancari o una entrevista de feina, entre d'altres). Altres màquines no digitals, com ara els telers automàtics, també van tenir avantatges (automatització d'una sèrie de tasques feixugues que havien de dur a terme treballadors i treballadores) i desavantatges (la reducció de demanda laboral associada a automatitzar aquestes tasques). Fins i tot eines "no mecanitzades", com ara l'os del mico de 2001: una odissea de l'espai, també permetien tant obrir nous (avantatge) com trencar caps d'altres micos (desavantatge, per a segons qui). En aquest sentit, les eines i les màquines (siguin digitals o no) han acompanyat la història de la humanitat des del començament i sempre amb una tendència de creixement: cada cop més complexes, més manejables, capaces de solucionar més problemes…, però de vegades també de crear-ne més.

En aquest sentit, les màquines (incloent-hi la IA) no són, per si mateixes, ni bones ni dolentes, com qualsevol eina: depenen de les mans que les dirigeixen i del propòsit per al qual serveixen. En aquest sentit, la pregunta clau de "fins on poden arribar" no depèn tant del potencial ni les limitacions pròpiament tecnològiques, sinó de les motivacions que hi ha darrere del seu desenvolupament i el seu ús en la nostra societat. Idealment, les màquines tenen un poder enorme per ajudar-nos a afrontar reptes complexos a escala global que, sense elles, difícilment podríem assumir. No obstant això, si no es fan servir de manera conscient i responsable, també tenen el poder d'incrementar desigualtats, d'accentuar problemes i fins i tot de crear riscos nous també a escala global. Per això, la pregunta de l'abast de les màquines retorna, gairebé paradoxalment, a les persones: per a quina finalitat serveix una màquina?, quin problema intenta resoldre i per què?, a qui beneficia això?, quines tendències s'estan perpetuant amb l'automatització de tot això? Fa molts anys vaig veure una pel·lícula, Amélie, i hi va haver una frase a mitja pel·lícula que m'ha anat reapareixent al cap durant aquests anys en situacions diferents. La frase diu: "Quan el savi assenyala el cel, el neci mira el dit." Deixant de banda el context en què s'apliqués a la pel·lícula, en el cas de la tecnologia, igual que en qualsevol altra eina tan íntimament lligada al poder, cal que no ens oblidem de mirar el dit per saber d'on ve aquell poder, a qui beneficia i per què. Malauradament, l'ésser humà pot ser més perillós que la màquina, i en això la màquina pot acabar essent un extensor i amplificador important.

Hi ha molta polèmica sobre si les màquines podran assumir moltes de les feines actuals en un futur. No obstant això, en totes les feines que exigeixen habilitats emocionals, creatives, etc., això és possible?

La creativitat és una de les fronteres que s'han considerat, tradicionalment, inabastables per a les màquines. Amb l'aparició de la IA, però, el camp de la "creativitat computacional" explora, des de fa anys, el desenvolupament de màquines creatives (ja sigui perquè creen productes associats a un procediment creatiu, com ara art pictòric, música, etc., o bé perquè formen part d'un procés de creació autònom). Tot i que la interacció humana segueix essent necessària en moltes parts d'aquest procés (no només el disseny de la màquina, sinó també el seu entrenament, la definició i refinació dels paràmetres i criteris, etc.), les màquines han assolit un grau de creativitat que hauria estat inimaginable fa unes dècades.

En l'àmbit emocional, passa una cosa semblant. Més enllà del debat de si una màquina podrà sentir mai emocions o no (el meu parer és que no), s'està investigant com es poden integrar respostes emocionals (que no és el mateix que emocions pròpiament dites), per exemple, en agents conversacionals (chatbots) per tal d'intentar que la màquina "entengui" les emocions de l'interlocutor humà i hi respongui apropiadament. Per exemple, en el cas d'un agent conversacional de suport a la docència virtual, si detecta que l'estudiant amb qui parla està frustrat, el fet de reaccionar-hi de manera que li permeti recuperar la seva confiança és més desitjable que no pas oferir una resposta genèrica i pragmàtica aplicada de la mateixa manera a qualsevol altra interacció.

Sobre si això permetrà que les màquines assumeixin les feines (o part de les feines) que impliquen habilitats creatives i emocionals, aquí entren en joc temes que, com abans, van més enllà de l'àmbit purament tecnològic. D'entrada, reapareixen les preguntes generals sobre on, com i per què s'aplica la tecnologia en determinats àmbits o en determinades feines. Si s'estira una mica aquest fil, de seguida reapareixen també preguntes com ara en benefici de qui, en detriment de qui i alineat amb quines tendències econòmiques, polítiques, ideològiques i estructurals. Pel que fa a les feines creatives, per exemple, ens interessaria preguntar-nos per què voldríem "accelerar" o automatitzar la creativitat. El món necessita més creativitat? La "creativitat" es tradueix en el fet de crear productes consumibles més ràpidament? I, si és així, a qui beneficia aquesta manera d'entendre la creativitat? Més enllà de la creativitat com a mètode de creació d'un producte (físic, digital o mental), també ens podem preguntar sobre el paper que té la persona en el procés creatiu i sobre el significat que aquesta experiència creativa pot tenir per a la persona. Personalment, i des de l'experiència pròpia en el camp de la composició musical (algunes bandes sonores per a espectacles teatrals, arranjaments de temes corals, etc.), penso que el procés, el "viatge creatiu" d'aquesta experiència de creació, és sovint tan important com el resultat final o l'objectiu d'aquest procés. On queda, en tot això, la persona si la creativitat passa a ser entesa com un procediment més que té com a únic objectiu un producte final? A més, posaria la mà al foc que seria un producte final "consumible", és clar.

Pel que fa a les feines que requereixen unes competències emocionals, d'entrada penso que les màquines podran simular emocions, però això no voldrà dir ni que realment les sentin, ni que tinguin empatia, ni que siguin capaces de reaccionar en el terreny emocional més enllà d'identificar inputs i produir outputs considerats apropiats (potser sovint ho seran, però potser de vegades no). El problema és que, si la capa emocional de certes feines queda camuflada per la funció que fan, crec que és fàcil que pugui quedar oblidada i que s'intenti substituir per una màquina que, malauradament, no la cobrirà. Per exemple, no fa pas gaire vaig veure una notícia sobre un robotet simpàtic que s'estava provant en alguna residència de gent gran per fer-los fer exercicis de mobilitat que, normalment, feia un terapeuta humà. Un dels "avantatges" que es plantejava era que aquest terapeuta es podria concentrar en les necessitats individuals de cadascun dels participants, mentre el robotet simpàtic s'encarregava de la resta. Aquí, m'és impossible no fer-me tota una sèrie de preguntes, com ara la següent: si realment és important poder tenir una persona dedicada a les necessitats individuals dels participants, per què no s'afegeix una altra persona, en comptes de desplaçar la persona que ja hi havia a aquest nou rol a través d'una màquina que assumeix les seves funcions anteriors? O sigui, per què no hi pot haver dues persones, amb tota la flexibilitat que això comporta? Quan el plantejament és "no pateixis perquè, quan el robot s'ocupi del que tu fas, tu faràs una altra cosa", a mi em salta una mica el sisè sentit aràcnid, sobretot si aquesta "altra cosa" no es feia abans i sembla més un complement addicional que no pas una necessitat estructural de l'activitat que s'està cobrint. Més enllà d'això, i sense voler-me embrancar gaire en la romantització del vincle personal que es pugui crear (que crec que existeix), em pregunto si l'única funció que fa qui dirigeix aquesta activitat és la de moure's perquè els participants imitin el moviment, o si la seva predisposició, el tracte amb cadascun d'ells i els possibles vincles que es puguin formar acaben tenint gairebé tanta importància com això anterior. Perquè segur que el robotet farà altres tasques més eficientment, però, per més simpàtica que sigui la seva cara, no crec que pugui substituir la capa emocional i el vincle que pugui transmetre una persona. Gairebé m'espanta que algú pugui pensar que sí, que un robot pot substituir aquesta capa i aquests vincles. Si és així i les interaccions emocionals s'acaben filtrant cada cop més a través de les màquines, correm el risc que es converteixin en un reflex del seu llenguatge: un simple intercanvi d'inputs i outputs dirigits, simplement, a complir un determinat objectiu.

Intentaré tancar aquest univers enorme de preguntes complexes i ramificades amb una línia de preguntes curtes i concises. És possible que feines en què es necessitin unes habilitats emocionals o creatives acabin essent substituïdes (o fortament delimitades) per màquines? La resposta és "sí", en funció dels interessos que hi hagi darrere d'aquesta substitució. És desitjable, fora d'aquests interessos, que això passi? Jo crec que no, ja que estaríem delegant unes dimensions fonamentals de qui som nosaltres pel simple fet d'aconseguir més ràpidament i de manera més automatitzable uns objectius als quals ara mateix ja podem arribar sumant un valor afegit important i difícilment reemplaçable.

Què li recomanaries a algú que vulgui seguir els teus passos des del punt de vista professional?

Que rebutgi categòricament la divisió (absurda) entre ciències i humanitats com més aviat millor! Els reptes exclusivament cientificotècnics de les màquines tenen a veure amb el seu funcionament dins la seva pròpia bombolla: són reptes (necessaris i molt legítims) que tenen a veure, per exemple, amb el rendiment o amb el processament de la informació i que molts cops neixen i moren dins el llenguatge matemàtic i computacional. Però, quan encarem reptes relacionats amb la forma com la tecnologia afecta la nostra experiència de vida (com a persones individuals, com a col·lectiu i com a habitants del món), el repte ultrapassa el marc cientificotècnic. Reptes relacionats amb l'ètica de crear certes màquines o d'aplicar-les a certs contextos, per exemple, són reptes que van molt més enllà d'aquest marc i que apel·len al context i a la realitat social del moment, a possibles automatismes històrics que inconscientment seguim perpetuant, a les estructures i relacions de poder existents i a la necessitat de preguntar-nos no pas com és el món, sinó com voldríem que fos. Aquest exercici d'imaginació i de projecció ens demana sovint un canvi de paradigma en la nostra manera d'entendre el món (i de relacionar-nos-hi), que transvasa cap a nous corrents de pensament, nous paradigmes de configuració social i noves distribucions de poder que, si bé potser no existeixen actualment, podrien arribar a existir. Moltes de les preguntes rellevants avui en dia no són preguntes sobre la tecnologia, sinó sobre els efectes que la tecnologia té, tindrà i podria tenir sobre la societat, el món on vivim i les persones que l'habiten.

En general, i malauradament en molts contextos professionals i educatius, sembla que l'única part important d'una pregunta sigui la resposta. En realitat, però, ser capaços de fer-nos les preguntes adequades és determinant per poder arribar a les respostes que ens permetin afrontar el repte que tenim entre mans. Amb tot, abans de poder formular aquestes preguntes, cal que entenguem bé quin és el repte que tenim entre mans, quin és el seu context, què volem "solucionar" (si és el cas) i per què ho volem solucionar. Quan aquesta pregunta té a veure amb temes tan enormes, tan holístics i tan globals com ara l'efecte de fragmentació social encara més profunda que la digitalització dels serveis pot tenir sobre certs col·lectius socials (per exemple, persones amb menys recursos o que viuen en zones amb un accés més limitat a la tecnologia), la pregunta ultrapassa l'àmbit cientificotècnic i se centra de ple en camps que solem trobar dins el món categoritzat ara mateix com el de les humanitats. Intentar respondre preguntes així mirant només "la meitat" dels sabers (per dir-ne d'alguna manera) al nostre abast és una mica com intentar córrer una marató a peu coix.

Hi ha una expressió que diu alguna cosa semblant a "quan tens un martell a la mà, tot el que veus té pinta de ser un clau". Crec que és una expressió important que cal tenir sempre present quan es vol intentar abordar un repte que no té a veure amb el microcosmos de la tecnologia en si, sinó amb la forma com aquesta tecnologia, un cop integrada en el món que l'envolta, afecta la vida i l'experiència de vida de qui la fa servir (o, fins i tot, de qui, tot i no fer-la servir, en surt afectat per les conseqüències). L'ésser humà sempre ha tingut l'estranya mania de voler arribar a trobar una eina única, una "teoria del tot" que permeti condensar tot el coneixement del món en un sol calaix. Aquesta tendència sovint s'ha traduït en divisions entre sabers, entre escoles i entre tendències, i en polaritzacions absurdes per buscar la "lupa perfecta" per mirar tot el món (el Sant Greal de les lupes!). Amb tot, potser el que necessita un món tan plural i amb reptes tan enormes per afrontar plegats és una pluralitat de lupes —o, encara millor, necessita no només una pluralitat, sinó una unió transversal, i no pas de lupes, sinó de sabers.

Recomana'm un alumni a qui pugui entrevistar. 

La Maria Berruezo, co fundadora de Lactapp, uns dels projectes que es van presentar a la darrera Jornada Alumni, em va impressionar molt la gran comuitat que han aconseguit.