"La tecnología no es neutral: siempre se diseña obedeciendo a determinados intereses y valores"

Eduard Aibar es catedrático e investigador del grupo de investigación MUSSOL (Filosofía para los Retos Contemporáneos), de los Estudios de Artes y Humanidades de la Universitat Oberta de Catalunya (UOC), y presidente de la nueva Asociación Catalana de Estudios de la Ciencia y la Tecnología (STS-CAT), presentada el 28 de febrero. En esta entrevista habla sobre el nacimiento de esta entidad, que busca fomentar el estudio interdisciplinario de ciencia y tecnología, al mismo tiempo que procurará mejorar su visibilidad.

La nueva entidad llega en un momento importante, marcado por el aumento de la inteligencia artificial (IA) y la proliferación de discursos negacionistas que, según explica, "no son simplemente modas que se han extendido a través de las redes sociales, sino que responden a campañas sistemáticas organizadas y financiadas por grandes lobbies políticos o industriales".

Cuestionando la visión fatalista de la tecnología, Aibar propone una aproximación que tenga en cuenta que "toda tecnología se desarrolla siguiendo la voluntad y los intereses de determinados agentes sociales". "Si queremos ejercer un control democrático de la tecnología, primero debemos entender que no se trata de un proceso autónomo", afirma.

¿Qué papel pretende tener la Asociación Catalana de Estudios de la Ciencia y la Tecnología (STS-CAT) dentro del ámbito académico? ¿Cuáles son sus objetivos fundacionales?

La STS-CAT nace con dos objetivos básicos: por un lado, fomentar el estudio académico e interdisciplinario de la ciencia y la tecnología (en especial, las interacciones con distintos ámbitos sociales); por el otro, mejorar la comunicación y el intercambio en este campo de estudios, aumentar la visibilidad para el público en general, y promover su relevancia en los procesos de elaboración de políticas públicas.

Debido a la tradicional compartimentación de la investigación en España, con las rígidas fronteras disciplinarias de las "áreas de conocimiento", los ámbitos de investigación interdisciplinarios tienen un difícil encaje en las universidades. La STS-CAT pretende ser un espacio de encuentro, discusión e interacción productiva para todas las personas que actualmente trabajan en este campo, pero que están dispersas en diferentes departamentos y centros de las universidades catalanas.

¿Qué aspectos de los estudios de ciencia y tecnología busca potenciar la nueva entidad? ¿Qué impacto social esperáis generar?

Los estudios de ciencia y tecnología (STS) pueden ser una herramienta importante para el diseño de políticas de ciencia y tecnología más informadas (como ya sucede, de hecho, en otros países). Son particularmente útiles para identificar y analizar las consecuencias sociales y éticas de la investigación científica y de la tecnología —necesidad urgente en el ámbito de la IA, por ejemplo—, para evaluar el papel del conocimiento experto en el ámbito político —a menudo objeto de controversias, como ocurrió durante la última pandemia—, y para promover la participación ciudadana en este tipo de decisiones —no solamente del público en general, sino también de distintos agentes de la sociedad civil—. Además, pueden contribuir a reconsiderar la financiación pública de la investigación científica teniendo en cuenta su retorno social.

¿Crees que la STS-CAT puede contribuir a acercar más la ciencia a la sociedad? ¿La ciencia cuenta, actualmente, con el reconocimiento que le corresponde dentro de nuestro entorno?

Existen distintas formas de acercar la ciencia a la sociedad. El enfoque tradicional ha sido la comunicación pública de la ciencia, lo que antes se denominaba divulgación. Desde la STS-CAT, sin despreciar esta estrategia unidireccional, creemos que también debemos acercar la sociedad a la ciencia, por ejemplo, con diferentes mecanismos de participación del público —en especial, de públicos interesados, afectados o implicados— en las decisiones sobre el tipo de investigación que hay que financiar o priorizar.

La ciencia sigue teniendo un alto grado de reconocimiento en nuestras sociedades, pero es cierto que durante la última década ha habido varias formas de negacionismo que han erosionado la confianza que le tiene la ciudadanía. Los STS han sido pioneros en poner de manifiesto que muchos de estos negacionismos no son simplemente modas que se han extendido a través de las redes sociales, sino que responden a campañas sistemáticas organizadas y financiadas por grandes lobbies políticos o industriales (por ejemplo, en torno al negacionismo climático). Es todo un nuevo campo de estudio que nosotros denominamos agnotología: la producción sistemática de la ignorancia.

El impacto de la tecnología digital es un debate recurrente. ¿Crees que este debate ayuda realmente a afrontar los retos de futuro que plantean las nuevas tecnologías?

Los impactos sociales de la tecnología son, sin duda, un tema fundamental. Sin embargo, a menudo olvidamos que hablar de impacto es, en realidad, utilizar una metáfora que a veces crea malentendidos. Es innegable que las tecnologías tienen efectos sociales, pero estos efectos no se producen "mecánicamente" (dependen del contexto social y de otros muchos factores) ni "inmediatamente" (a menudo tardan muchos años o décadas), y tampoco deben entenderse necesariamente de forma hiperbólica. Actualmente, existe una tendencia a ver todo tipo de "revoluciones tecnológicas".

¿Y cómo lo ven los STS?

Desde los STS tendemos a centrar la atención, también, en la otra cara de la moneda: los impactos de la sociedad en la tecnología. Es decir, intentamos averiguar cómo las tecnologías están configuradas a partir de varios factores sociales (objetivos, intereses, valores, ideologías), a menudo de formas sofisticadas y poco visibles. Esto tiene dos implicaciones muy importantes: por un lado, que la tecnología no es neutral, puesto que la idea de que "todo depende de la forma como se utilice" no es cierta; por el otro, que toda tecnología podría ser diferente. En el terreno de la tecnología, y quizá en todos los demás, no se puede decir nunca "esto es lo que hay", una frase que se repite mucho hablando de la IA y que implica que no se puede cambiar y que simplemente debemos adaptarnos. Los STS han demostrado que esta visión fatalista de la tecnología es un mito contemporáneo.

La regulación de la inteligencia artificial es una preocupación creciente. ¿Crees que el desarrollo tecnológico sin control puede poner en riesgo la convivencia e, incluso, las democracias consolidadas?

Frecuentemente, cuando se habla de los riesgos asociados a ciertas tecnologías o del encaje de estas tecnologías en la sociedad, se tiende a reducir la cuestión a una problemática ética o a la delimitación de ciertos usos éticos. Pensemos, sin embargo, en la IA. Muchas discusiones actuales giran alrededor del tipo de contextos en los que sería lícito o ético utilizarla. En este sentido, la estrategia de la regulación parece la única vía posible. Esto olvida varios aspectos importantes. Por un lado, hay que tener en cuenta que los sesgos de la IA están más relacionados con la forma en la que están diseñados los sistemas, y con los conjuntos de datos que se utilizan para entrenarlos, que con el contexto de uso. Por el otro, está muy extendida la idea de que este tipo de tecnologías son inmateriales y, por lo tanto, mucho más sostenibles.

¿Y cuál es la realidad?

La realidad es que la IA no se desarrolla en una nube etérea, sino en naves industriales que necesitan grandes recursos energéticos, minerales, hidrológicos y humanos, además de distintas formas de explotación. Una autora del campo de los STS, Kate Crawford, ha puesto de manifiesto todos estos aspectos en su libro Atlas de IA (Ned Ediciones, 2023). Se trata de un buen ejemplo de cómo evaluar de forma integral todos los riesgos y oportunidades que giran en torno a una tecnología concreta.

Los STS han combatido la idea de que el desarrollo tecnológico está descontrolado o es "autónomo". Al contrario, toda tecnología se desarrolla siguiendo la voluntad y los intereses de determinados agentes sociales (instituciones, empresas, etc.). Si queremos ejercer un control democrático de la tecnología, lo primero que debemos hacer es entender que la tecnología no es nunca neutral ni inevitable: siempre se diseña obedeciendo a determinados intereses y valores que podían haber sido diferentes. El desarrollo de la tecnología es siempre contingente: la IA (y cualquier otra tecnología) puede diseñarse siempre de otras formas.

¿Regular determinadas tecnologías digitales es una necesidad? ¿O podría ser entendido como un intento de poner puertas al campo?

"Poner puertas al campo" es una metáfora que asume que el desarrollo tecnológico es un tipo de proceso natural, autónomo, que no podemos cambiar. Y esto no es solo erróneo desde un punto de vista científico, sino también paralizante en lo político. El problema es que la regulación del uso, que seguramente es legítima y útil en muchos aspectos, no tiene en cuenta el diseño y la construcción de la tecnología, que son las fases en las que se implementan los valores y sesgos sociales y políticos.

¿Cuáles son algunos de los primeros proyectos que tiene previsto impulsar la asociación?

Lo primero que pretendemos hacer es aglutinar a todos los investigadores que actualmente trabajan en este ámbito en Cataluña —sin olvidar a otros colegas del Estado que se han mostrado muy interesados—, y hacer que establezcan un contacto mucho más estrecho. Estableceremos una serie de encuentros y seminarios regulares para intercambiar ideas y resultados de investigación, y para favorecer las colaboraciones. Queremos ofrecer apoyo y cobijo intelectual, especialmente, a los investigadores jóvenes.

¿La STS-CAT prevé establecer colaboraciones con otras instituciones? ¿Cómo se relacionará con las sociedades científicas ya existentes?

Sí, esta también es una cuestión prioritaria para nosotros. Los STS son constitutivamente interdisciplinarios y, originariamente, tienen la vocación de establecer vínculos con otras sociedades y otros campos de investigación. Tradicionalmente, el ámbito que siempre ha sido más próximo a los STS ha sido la historia de la ciencia y la tecnología. Esto ha ocurrido a escala internacional y también nos sucede aquí. Tenemos estrechos vínculos con la Sociedad Catalana de Historia de la Ciencia y la Técnica, y también queremos impulsar acuerdos de colaboración con otras sociedades de los ámbitos de la ciencia y la ingeniería —‍en relación con la IA, por ejemplo, existe un interés creciente por parte de los ingenieros y científicos que trabajan en este ámbito, por el tipo de cuestiones sociales, éticas y políticas que también nos interesan a nosotros—. Sin duda, nos gustaría mucho crear espacios híbridos para favorecer el aprendizaje mutuo.

¿De qué forma podrán participar en las actividades de la asociación los investigadores y profesionales interesados?

Lo primero que pueden hacer es asociarse. Solo hay que rellenar este formulario y abonar la cuota. Una vez dados de alta como socios, no solamente podrán recibir información de nuestras actividades, sino también participar en las asambleas y los grupos de trabajo para proponer nuevas iniciativas y tener un papel activo en el futuro de la asociación.

¿Qué importancia tendrá la divulgación científica dentro de la STS-CAT?

Tradicionalmente, los STS han tenido mucho interés en la comunicación pública de la ciencia —lo que antes se denominaba divulgación— y en su campo de estudio correspondiente (public understanding of science). Uno de los investigadores más destacados en STS, Brian Wynne, fue uno de los primeros en cuestionar el denominado modelo de déficit: la idea de que la gente no tiene suficientes conocimientos como para implicarse en las decisiones sobre ciencia y tecnología, o que las actitudes escépticas o negativas son fruto de la ignorancia científica.

La verdad, sin embargo, es que muchos estudios sugieren que el propio concepto de público, así en general, es un poco engañoso. Existen más bien "públicos", en plural, y a menudo, cuando determinados colectivos se sienten interpelados como afectados o interesados —pensemos, por ejemplo, en las asociaciones de enfermos—, pueden alcanzar altos niveles de conocimiento.

¿Cómo crees que la academia puede acercarse mejor a la sociedad actual?

A menudo, estos públicos tienen formas de conocimiento no certificadas (u "oficiales") que acaban resultando muy útiles para complementar, corregir o enriquecer el conocimiento científico formal (por ejemplo, los conocimientos de los pacientes sobre sus enfermedades o el de los campesinos sobre los cultivos). Muchos estudios muestran que la comunicación entre la ciencia y la sociedad debe plantearse de forma bidireccional, y no como un simple proceso de alfabetización.

Otros estudios muestran, igualmente, que todavía más importante que la información es la existencia de verdaderos mecanismos de participación en la toma de decisiones en materia de ciencia y tecnología. Aquí no tenemos muchas iniciativas en este sentido. Los STS han analizado muchos mecanismos de este tipo (conferencias ciudadanas, conferencias de consenso, etc.), en los que los ciudadanos —y, en especial, determinados actores de la sociedad civil— pueden interactuar, en igualdad de condiciones, con expertos y políticos en foros híbridos.

¿La STS-CAT se ha inspirado en alguna otra organización similar? ¿Existen referentes internacionales que hayan servido de modelo?

Sí, claro. A escala internacional, tenemos la Sociedad de Estudios Sociales de la Ciencia (4S) y la Asociación Europea para el Estudio de la Ciencia y la Tecnología (EASST). De hecho, muchos de los actuales miembros de la STS-CAT llevamos tiempo formando parte de estas dos sociedades, y hemos recibido el patrocinio de la EASST para organizar la jornada de presentación. Además, ya hace años que existen muchas sociedades nacionales en muchos países europeos: Italia, el Reino Unido, Dinamarca, Noruega, los Países Bajos, Alemania, Austria, Bélgica, Portugal, etc. Durante el último congreso de la 4S y la EASST, que tuvo lugar en Ámsterdam en julio de 2024, asistimos —a pesar de que todavía no nos habíamos constituido oficialmente— a una sesión de coordinación con todas las asociaciones nacionales de STS.

Desde tu experiencia como investigador, ¿cómo ha evolucionado el interés por los estudios de ciencia y tecnología en los últimos años?

A escala internacional, el crecimiento del campo ha sido enorme. En el último congreso de Ámsterdam asistieron 3.000 investigadores de todo el mundo. Más de 300 eran jóvenes investigadores que asistían por primera vez. Institucionalmente, los STS se han consolidado en forma de departamentos, centros de investigación o programas formativos en la mayoría de las universidades más prestigiosas del mundo (MIT, Harvard, Stanford, Cornell, Oxford, Cambridge, Escuela de Minas de París, etc.).

La investigación en STS ha sido, en gran medida, el origen del giro hacia la investigación e innovación responsable (RRI), que ha marcado la política científica europea (diferentes programas marco y Horizon Europe) y norteamericana (NSF) durante los últimos quince años. En España, en cambio, la situación es muy diferente y prácticamente está todo por hacer. En parte, esto se debe a la estructura cerrada y rígida de las áreas de conocimiento que ya he comentado; sin embargo, también se explica, en parte, por una política científica y tecnológica muy poco sensible a las cuestiones sociales.

UOC R&I

La investigación e innovación (I+i) de la UOC contribuye a solucionar los retos a los que se enfrentan las sociedades globales del siglo XXI mediante el estudio de la interacción de la tecnología y las ciencias humanas y sociales, con un foco específico en la sociedad red, el aprendizaje en línea y la salud digital.

Los más de 500 investigadores e investigadoras y más de 50 grupos de investigación se articulan en torno a los siete estudios de la UOC, un programa de investigación en aprendizaje en línea (e-learning research) y dos centros de investigación: el Internet Interdisciplinary Institute (IN3) y el eHealth Center (eHC).

La universidad impulsa, también, la innovación en el aprendizaje digital a través del eLearning Innovation Center (eLinC), y la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Los objetivos de la Agenda 2030 para el Desarrollo Sostenible de las Naciones Unidas y el conocimiento abierto son ejes estratégicos de la docencia, la investigación y la innovación de la UOC. Más información: research.uoc.edu.