Alejandro_Montes

Joan Casas Roma

¿Quién eres? 

Investigador y docente, diseñador de juegos en el pasado, músico aficionado y curioso (y daltónico) de nacimiento. Se nota cuando algo me apasiona porque gesticulo mucho y digo palabrotas. Entiendo el juego y el humor como dos de las mejores puertas para relacionarnos con el mundo y entre nosotros. La docencia es el arte de saber transmitir la pasión radical por la curiosidad. También me gusta cantar afinando una quinta con el sonido que hace la máquina de café.

Un profesor que te haya marcado.

José Miguel Sagüillo, el profesor de la asignatura Lógica y ontología del máster de Lógica y Filosofía de la Ciencia que hice. Todavía recuerdo la "horizontalidad" en las discusiones que teníamos en clase y la pasión que el profesor transmitía (y nos hacía nacer a los alumnos) a través de la exploración conjunta de preguntas y respuestas.

Una anécdota con algún compañero de la UOC.

Los compañeros de doctorado con quienes compartía despacho sabían que, el día que yo estaba por allí, sí o sí tocaba salir a hacer un coffee time después de comer. Poco a poco, apareció la teoría de que, en realidad, yo no era un doctorando, sino un infiltrado contratado por la UOC para sacarlos a tomar el aire unas cuantas veces por semana para evitar que se quemaran y dejaran los estudios.

Recomiéndanos una película.

Hay muchas y muy chulas, pero siempre he tenido una debilidad especial por El club de la lucha, de David Fincher. ¿Ves? Ahora me han venido ganas de volver a verla.

Y un lugar al que volver siempre.

La alta montaña en general y los Pirineos en particular, especialmente en primavera. La frescura del aire de montaña me enamora... Y todavía mejor si voy hasta allí en moto.

¿Cuál es el futuro de las máquinas en nuestra sociedad? ¿Hasta dónde pueden llegar?

Las herramientas siempre han formado parte de nuestra historia y de la forma como los seres humanos nos relacionamos con nuestro entorno (ya desde aquel hueso que, a cámara lenta, levantaba el mono de 2001: una odisea del espacio). Las herramientas han ido volviéndose mucho más complejas que un simple hueso, está claro, y a partir de cierto momento de la historia, las herramientas se volvieron mecánicas y empezaron a automatizar, a través de palancas y engranajes, procesos cada vez más complejos. A pesar de que, evidentemente, sea un salto muy grande y un cambio de paradigma importante (pasamos de utilizar herramientas para manipular el mundo físico a utilizarlas para manipular el mundo de la información), hoy en día los ordenadores (incluyendo programas que usan algún tipo de técnica de inteligencia artificial, o IA) forman parte de prácticamente todo lo que hacemos, así como de la forma como nos relacionamos con el mundo y entre nosotros.

A veces, esto comporta ventajas (inmediatez de la información, agilización de muchos procedimientos, etc.), pero hay veces que no (decisiones automatizadas que presentan sesgos injustos contra ciertos colectivos de usuarios y que hacen que se les deniegue un préstamo bancario o una entrevista de trabajo, entre otros). Otras máquinas no digitales, como los telares automáticos, también tuvieron sus ventajas (automatización de una serie de tareas pesadas que debían llevar a cabo trabajadores y trabajadoras) y sus desventajas (la reducción de demanda laboral asociada a automatizar estas tareas). Incluso herramientas "no mecanizadas", como el hueso del mono de 2001: una odisea del espacio, también permitían tanto abrir nueces (ventaja) como romper cabezas de otros monos (desventaja, para según quién). En este sentido, las herramientas y máquinas (sean digitales o no) han acompañado la historia de la humanidad desde sus inicios y siempre con una tendencia de crecimiento: cada vez más complejas, más manejables, capaces de solucionar más problemas…, pero a veces también de crear más.

En este sentido, las máquinas (incluyendo la IA) no son, por sí mismas, ni buenas ni malas, como cualquier herramienta: dependen de las manos que las dirigen y del propósito para el que sirven. En este sentido, la pregunta clave de "hasta dónde pueden llegar" no depende tanto del potencial ni las limitaciones propiamente tecnológicas, sino de las motivaciones que hay detrás de su desarrollo y su uso en nuestra sociedad. Idealmente, las máquinas tienen un poder enorme para ayudarnos a afrontar retos complejos a escala global que, sin ellas, difícilmente podríamos asumir. Sin embargo, si no se usan de forma consciente y responsable, también tienen el poder de incrementar desigualdades, de acentuar problemas e incluso de crear nuevos riesgos también a escala global. Por eso, la pregunta del alcance de las máquinas vuelve, casi paradójicamente, a las personas: ¿para qué finalidad sirve una máquina?, ¿qué problema intenta resolver y por qué?, ¿a quién beneficia esto?, ¿qué tendencias están perpetuándose con la automatización de todo esto? Hace muchos años vi una película, Amélie, y hubo una frase a media película que me ha ido viniendo a la cabeza durante estos años en situaciones diferentes. La frase dice: "Cuando el sabio señala el cielo, el tonto mira el dedo". Dejando de lado el contexto en el que se aplicaba en la película, en el caso de la tecnología, igual que en cualquier otra herramienta tan íntimamente ligada al poder, hace falta que no nos olvidemos de mirar el dedo para saber de dónde viene aquel poder, a quién beneficia y por qué. Desgraciadamente, el ser humano puede ser más peligroso que la máquina, y en esto la máquina puede acabar siendo un extensor y amplificador importante.

Hay mucha polémica sobre si las máquinas podrán asumir muchos de los trabajos actuales en un futuro. Sin embargo, en todos aquellos trabajos que exigen habilidades emocionales, creativas, etc., ¿esto es posible?

La creatividad es una de las fronteras que se han considerado, tradicionalmente, inalcanzables para las máquinas. Sin embargo, con la aparición de la IA, el campo de la "creatividad computacional" explora, desde hace años, el desarrollo de máquinas creativas (ya sea porque crean productos asociados a un procedimiento creativo, como arte pictórico, música, etc., o bien porque forman parte de un proceso de creación autónomo). A pesar de que la interacción humana sigue siendo necesaria en muchas partes de este proceso (no solo el diseño de la máquina, sino también su entrenamiento, la definición y refinación de los parámetros y criterios, etc.), las máquinas han logrado un grado de creatividad que habría sido inimaginable hace unas décadas.

En el ámbito emocional, pasa algo parecido. Más allá del debate de si una máquina podrá sentir alguna vez emociones o no (a mi parecer, no), se está investigando cómo pueden integrarse respuestas emocionales (que no es lo mismo que emociones propiamente dichas), por ejemplo, en agentes conversacionales (chatbots) para intentar que la máquina "entienda" las emociones del interlocutor humano y responda apropiadamente. Por ejemplo, en el caso de un agente conversacional de apoyo a la docencia virtual, si detecta que el estudiante con quien habla está frustrado, el hecho de reaccionar de forma que le permita recuperar su confianza es más deseable que ofrecer una respuesta genérica y pragmática aplicada igual a cualquier otra interacción.

Sobre si esto permitirá que las máquinas asuman los trabajos (o parte de los trabajos) que implican habilidades creativas y emocionales, aquí entran en juego temas que, como antes, van más allá del ámbito puramente tecnológico. De entrada, reaparecen las preguntas generales sobre dónde, cómo y por qué se aplica la tecnología en determinados ámbitos o en determinados trabajos. Si se tira un poco de este hilo, enseguida reaparecen también preguntas como en beneficio de quién, en detrimento de quién y alineado con qué tendencias económicas, políticas, ideológicas y estructurales. En cuanto a los trabajos creativos, por ejemplo, nos interesaría preguntarnos por qué querríamos "acelerar" o automatizar la creatividad. ¿El mundo necesita más creatividad? ¿La "creatividad" se traduce en la creación de productos consumibles más rápidamente? Y, si es así, ¿a quién beneficia esta forma de entender la creatividad? Más allá de la creatividad como método de creación de un producto (físico, digital o mental), también podemos preguntarnos sobre el papel que tiene la persona en el proceso creativo y sobre el significado que esta experiencia creativa puede tener para la persona. Personalmente, y desde la experiencia propia en el campo de la composición musical (algunas bandas sonoras para espectáculos teatrales, arreglos de temas corales, etc.), pienso que el proceso, el "viaje creativo" de esta experiencia de creación, es a menudo tan importante como el resultado final o el objetivo de este proceso. ¿Dónde queda, en todo esto, la persona si la creatividad pasa a ser entendida como un procedimiento más que tiene como único objetivo un producto final? Además, pondría la mano en el fuego de que sería un producto final "consumible", evidentemente.

En cuanto a los trabajos en los que se requieren unas competencias emocionales, de entrada pienso que las máquinas podrán simular emociones, pero esto no querrá decir ni que realmente las estén sintiendo, ni que tengan empatía, ni que sean capaces de reaccionar en el terreno emocional más allá de identificar inputs y producir outputs considerados apropiados (quizás a menudo lo serán, pero quizás a veces no). El problema es que, si la capa emocional de ciertos trabajos queda camuflada por la función que hacen, creo que es fácil que pueda quedar olvidada y que intente sustituirse por una máquina que, desgraciadamente, no la cubrirá. Por ejemplo, no hace mucho vi una noticia sobre un simpático robot que estaba probándose en alguna residencia de gente mayor para hacerles hacer ejercicios de movilidad que, normalmente, hacía un terapeuta humano. Una de las "ventajas" que se planteaba era que este terapeuta podría concentrarse en las necesidades individuales de cada uno de los participantes, mientras el simpático robot se encargaba del resto. Aquí, me resulta imposible no hacerme toda una serie de preguntas, como la siguiente: si realmente es importante poder tener una persona dedicada a las necesidades individuales de los participantes, ¿por qué no se añade otra persona, en vez de desplazar a la persona que ya había a este nuevo rol a través de una máquina que asume sus funciones anteriores? O sea, ¿por qué no puede haber dos personas, con toda la flexibilidad que esto supone? Cuando el planteamiento es "no te preocupes porque, cuando el robot se ocupe de lo que tú haces, tú harás otra cosa", a mí me salta un poco el sexto sentido arácnido, sobre todo si esta "otra cosa" no se hacía antes y parece más un complemento adicional que una necesidad estructural de la actividad que está cubriéndose. Más allá de esto, y sin querer enredarme mucho en la romantización del vínculo personal que pueda crearse (que creo que existe), me pregunto si la única función que realiza quien dirige esta actividad es la de moverse para que los participantes imiten su movimiento, o si su predisposición, el trato con cada uno de ellos y los posibles vínculos que puedan formarse acaban teniendo casi tanta importancia como esto anterior. Porque seguro que el robot hará otras tareas más eficientemente, pero, por más simpática que sea su cara, no creo que pueda sustituir la capa emocional y el vínculo que pueda transmitir una persona. Casi me asusta que alguien pueda pensar que sí, que un robot puede sustituir esta capa y estos vínculos. Si es así y las interacciones emocionales acaban filtrándose cada vez más a través de las máquinas, corremos el riesgo de que se conviertan en un reflejo de su lenguaje: un simple intercambio de inputs y outputs dirigidos, simplemente, a cumplir un determinado objetivo.

Intentaré cerrar este universo enorme de preguntas complejas y ramificadas con una línea de preguntas cortas y concisas. ¿Es posible que trabajos en los que se necesiten unas habilidades emocionales o creativas acaben siendo sustituidos (o fuertemente delimitados) por máquinas? La respuesta es "sí", en función de los intereses que haya detrás de esta sustitución. Fuera de estos intereses, ¿es deseable que esto pase? Yo creo que no, puesto que estaríamos delegando unas dimensiones fundamentales de quiénes somos nosotros por el simple hecho de conseguir más rápidamente y de forma más automatizable unos objetivos a los que ahora mismo ya podemos llegar sumando un valor añadido importante y difícilmente reemplazable.

¿Qué le recomendarías a alguien que quiera seguir tus pasos desde el punto de vista profesional?

¡Que rechace categóricamente la (absurda) división entre ciencias y humanidades cuanto antes mejor! Los retos exclusivamente científico-técnicos de las máquinas tienen que ver con su funcionamiento dentro de su propia burbuja: son retos (necesarios y muy legítimos) que tienen que ver, por ejemplo, con el rendimiento o con el procesamiento de la información y que muchas veces nacen y mueren dentro del lenguaje matemático y computacional. Sin embargo, cuando encaramos retos relacionados con la forma como la tecnología afecta nuestra experiencia de vida (como personas individuales, como colectivo y como habitantes del mundo), el reto sobrepasa el marco científico-técnico. Retos relacionados con la ética de crear ciertas máquinas o de aplicarlas a ciertos contextos, por ejemplo, son retos que van mucho más allá de este marco y que apelan al contexto y a la realidad social del momento, a posibles automatismos históricos que inconscientemente seguimos perpetuando, a las estructuras y relaciones de poder existentes y a la necesidad de preguntarnos no cómo es el mundo, sino cómo querríamos que fuera. Este ejercicio de imaginación y proyección nos pide a menudo un cambio de paradigma en nuestra forma de entender el mundo (y de relacionarnos con él), que trasvasa hacia nuevas corrientes de pensamiento, nuevos paradigmas de configuración social y nuevas distribuciones de poder que, si bien quizás no existen actualmente, podrían llegar a existir. Muchas de las preguntas relevantes hoy en día no son preguntas sobre la tecnología, sino sobre los efectos que la tecnología tiene, tendrá y podría tener sobre la sociedad, el mundo en el que vivimos y las personas que lo habitan.

En general, y desgraciadamente en muchos contextos profesionales y educativos, parece que la única parte importante de una pregunta sea su respuesta. Sin embargo, en realidad, ser capaces de hacernos las preguntas adecuadas es determinante para poder llegar a las respuestas que nos permitan afrontar el reto que tenemos entre manos. A pesar de esto, antes de poder formular estas preguntas, hace falta que entendamos bien cuál es el reto que tenemos entre manos, cuál es su contexto, qué queremos "solucionar" (si es el caso) y por qué queremos solucionarlo. Cuando esta pregunta tiene que ver con temas tan enormes, tan holísticos y tan globales como el efecto de fragmentación social todavía más profunda que la digitalización de los servicios puede tener sobre ciertos colectivos sociales (por ejemplo, personas con menos recursos o que viven en zonas con un acceso más limitado a la tecnología), la pregunta sobrepasa el ámbito científico-técnico y se centra de pleno en campos que solemos encontrar dentro del mundo categorizado ahora mismo como el de las humanidades. Intentar responder a preguntas así mirando solo "la mitad" de los saberes (por decirlo de alguna forma) a nuestro alcance es un poco como intentar correr un maratón a la pata coja.

Hay una expresión que dice algo parecido a "cuando tienes un martillo en la mano, todo se parece a un clavo". Creo que es una expresión importante que hay que tener siempre presente cuando se quiere intentar abordar un reto que no tiene que ver con el microcosmos de la tecnología en sí, sino con la forma como esta tecnología, una vez integrada en el mundo que la rodea, afecta la vida y la experiencia de vida de quien la usa (o, incluso, de quien, a pesar de no usarla, sale afectado por las consecuencias). El ser humano siempre ha tenido la extraña manía de querer llegar a encontrar una herramienta única, una "teoría del todo" que permita condensar todo el conocimiento del mundo en un solo cajón. Esta tendencia a menudo se ha traducido en divisiones entre saberes, entre escuelas y entre tendencias, y en polarizaciones absurdas para buscar la "lupa perfecta" para observar el mundo (¡el Santo Grial de las lupas!). Sin embargo, quizás lo que necesita un mundo tan plural y con retos tan enormes para afrontar juntos es una pluralidad de lupas —o, todavía mejor, necesita no solo una pluralidad, sino una unión transversal, y no de lupas, sino de saberes—.

Recomiéndame algún alumni a quien pueda entrevistar. 

A Maria Berruezo, cofundadora de Lactapp, uno de los proyectos que se presentaron en la última Jornada Alumni y que me impresionó por la gran comunidad que han conseguido.