Ujué Agudo Díaz y Karlos G. Liberal
Ed. Katakrak, 2019
José Luis Terrón Blanco
Ana Carrasco-Conde (2025) nos cuenta cómo el fallecido pintor Tetsuya Ishida muestra a los seres humanos como robots que las grandes corporaciones montan y desmontan. Pero, siguiendo a la autora, lo que el artista no llegó a imaginar es una tecnología para mejorar al ser humano y sustituirlo: “no comete errores, no se cansa ni enferma, está siempre disponible y, sobre todo, abarata costes”.
Para Luke Munn (2025), la que llamamos Inteligencia Artificial “es tanto un término de márketing como un conjunto de arquitecturas y técnicas de computación”, con una capacidad enorme de evocar imágenes y, así, mostrarnos cómo debería funcionar la sociedad y cómo debería ser el futuro. Y añade que, en este sentido, “la IA no necesita funcionar para funcionar”. Apoyándose en Bender y Hanna, sostiene que cuando hablamos de IA siempre deberíamos preguntarnos a quiénes beneficia esta tecnología, así como a quiénes perjudica y con qué recursos cuenta. Y nos hace una advertencia capital: “la cuestión aquí no es si los modelos de la IA son racistas, históricamente inexactos o woke, sino que estos modelos son siempre políticos y nunca ajenos a ciertos intereses”.
Estas palabras nos recuerdan a Evgeny Mazarov (2025) cuando afirma que son los oligarcas tecnológicos y no sus plataformas los que representan un mayor peligro, ya que concentran la plutocracia, la autoridad oracular y la soberanía de las plataformas. Mazarov, en línea con Luke Mann, sostiene que esos oligarcas tecnócratas no escribe sobre el futuro, “lo instalan”, llegando al extremo de preguntarse “¿por qué ajustar las predicciones para que coincidan con la realidad cuando se puede manipular la realidad para validarlas”.
A partir de lo que ya hemos escrito, podemos intuir que la IA está diseñada para servir intereses dominantes ya existentes. O sea, como señala Kate Crawford (29: 2022), “es un certificado de poder”. Pero a la vez, las tecnologías son artificios que llegamos a naturalizar y que nos hacen caer con facilidad en el tecnofetichismo. Progreso, solucionismo, neutralidad, eficacia, eficiencia, automatización, etc., son términos, son artefactos en los que se sostiene el tecnofetichismo, y de esto, y de bastante más cuestiones, nos hablan Ujué Agudo y Karlos G. Liberal en su obra El algoritmo paternalista. Cuando mande la inteligencia artificial. Eso sí, la segunda parte del título se nos antoja un tanto promocional; más bien debiera decir Cuando manda la inteligencia artificial, de lo que trata mucho y bien el libro.
El texto está dividido en 5 capítulos, y sus respectivos títulos describen a la perfección qué nos vamos a encontrar en cada uno de ellos. Los tres primeros sirven para sustentar, con numerosos ejemplos, el tuétano de la obra: cómo funciona el ‘algoritmo paternalista’, para qué y quiénes lo hacen funcionar, respuestas que encontramos en los dos últimos capítulos del libro, cuya lectura no es difícil, aunque requiere atención y dedicación. Como crítica a la obra, cabe manifestar que dudamos que lo que llaman ‘logaritmos paternalistas’ deriven únicamente del paternalismo libertariano. El campo de la ecología de los medios (y los medios son mediaciones, como lo es la IA) nos ha enseñado que la evolución de los mismos es multicausal y se produce en contextos dados.
Diego Cenzano, en el último párrafo del Prólogo de El algoritmo paternalista, hace un buen resumen de lo que contiene el libro:
“Los autores descubren y describen cómo el progreso ha acelerado su avance poniendo en duda la racionalidad humana para sustituirla por la automatización. Y explican algo decisivo y preocupante: cómo dicho progreso es una parte muy relevante de su energía en el denominado paternalismo libertario. Esta corriente de pensamiento tiene como objetivo redirigir el comportamiento irracional de los humanos hacia lugares que todavía desconocemos…aunque, de momento, no tenemos motivos para ser demasiado optimistas” (p. 22).
El paternalismo libertario (libertariano, escribiríamos nosotros), teóricamente, defiende la necesidad de influir en el comportamiento de los individuos para que estos tomen mejores decisiones, siempre y cuando haya la posibilidad de rechazar esa influencia (premisa que no sostiene en la práctica); un paternalismo que lleva a hablar de gobernanza y no de gobierno (y aquí las palabras están cargadas de sentido político). Los autores hablan del algoritmo paternalista como una derivada del paternalismo libertario, así, el algoritmo interviene en la toma decisiones o el comportamiento de una persona. Ahora bien, en este caso la capacidad de elección de la persona está siempre en entredicho, y cuanto mayor sea la automatización menor es la capacidad del individuo de tener control sobre las decisiones que prefigura el algoritmo. Un algoritmo que se usa sin supervisión social y sin debate1, aunque dependa de una institución estatal, y que, como destacan los autores, se ha puesto en marcha en la mayoría de los casos, precisamente, para la resolución de problemas (¿?) de las personas más vulnerables (que son, generalmente, las que menos comprenden los procesos de digitalización y automatización, con lo cual su vulnerabilidad se multiplica).
Ujué Agudo y Karlos G. Liberal ven perspicazmente que el algoritmo se dirige hacia la toma de decisión de una persona (individualismo) y no de un colectivo; lo contrario sería pasar del qué hago al qué hacemos. De optar por esta posibilidad, ¿cómo sería esa tecnología?, se preguntan.
Ya es sabido que el algoritmo no es neutral y conlleva sesgos. Respecto a los segundos, nos recuerdan que la mayoría de las críticas o estudios alrededor de los algoritmos se centran en los sesgos, olvidando, por un lado, otros aspectos y, por otro, que las denuncias de los sesgos sirven en muchos casos para entrenar a las mismas plataformas que los propagan. “Los algoritmos son opiniones integradas en matemáticas que reflejan las opiniones y las prioridades de sus creadores” (p. 66).
Para los autores, la concepción actual de los algoritmos se sostienen en tres hitos correlacionados: solucionismo tecnológico,aceleracionismo y progreso (para las clases dominantes decisivo en sí mismo). Por otro lado, y muy importante, mantienen que no solo “la idealización de la tecnología ha provocado que deleguemos nuestras decisiones en ella. Para llegar a creer en esta superioridad de la inteligencia artificial sobre el ser humano, además de ensalzarla, también ha sido necesario minusvalorar la capacidad humana de tomar decisiones”2 (p. 69). El tecnocapitalismo nos ha hecho creer que somos máquinas sustituibles. Y si es así, ¿qué sociedad se está prefigurando? Además, cabe tener en cuenta que los algoritmos también son “una inmensa máquina subjetiva, tecnológica y política, que, más que nunca, genera extractivismo en todas las direcciones” (p. 32): de la vida, del planeta y de la forma de entendernos.
Por otro lado, Ujué Agudo y Karlos G. Liberal nos hacen ver que los algoritmos se inscriben tanto en la superestructura (leyes, políticas gubernamentales, ideologías, etc.) como en la infraestructura (y destacan la biopolítica y el micropoder, afectando las interacciones personales, las normas sociales, etc.). Los autores destacan, a su vez, que los algoritmos paternalistas fomentan la proliferación de discursos, de narrativas dicotómicas, y hacen un alto para referirse a los procesos de subjetivación. Para ello, toman como referencia a Deleuze y Guattari, y nos señalan que éste ya dejó escrito que las tecnologías no son herramientas neutras ya que poseen una agencia propia que afecta a la subjetividad humana. Y concluyen:
“Cuando los algoritmos y las inteligencias artificiales participan en nuestras decisiones y moldean nuestras interacciones con el mundo, se convierten en actores centrales del proceso de subjetivación. En esta forma de subjetivación, la máquina no solo participa, sino que co-construye nuestra percepción de la realidad y de nosotros mismos” (p. 183).
Así, las máquinas no son simples dispositivos tecnológicos, sino que actúan como máquinas deseantes: “son sistemas que organizan y canalizan los deseos humanos desde dentro del capitalismo” (p. 184).
Mientras, nos hacen soñar que somos nosotros los que elegimos.
Carrasco-Conde, Ana (2025): Irremplazable, La Marea (4/8/2025): https://www.lamarea.com/2025/08/04/irremplazable/
Crawford, Kate (2022): Atlas de la inteligencia artificial. Poder, política y costos planetarios. Colección Tezontle. Fondo de Cultura Económica.
Morozov, Evgeny (2025): Oligarcas intelectuales legisladores, Nueva Sociedad (7-8/2025): https://nuso.org/articulo/inteligencia-artificial-generativa-etica-capitalismo/
Munn, Luke (2025): La inteligencia artificial y el nuevo espíritu del capitalismo, Nueva Sociedad (8/2025): https://nuso.org/articulo/318-oligarcas-intelectuales-legisladores/
- La excepción es noticia: «El Supremo obliga al Estado a abrir el algoritmo que asigna el bono social. El tribunal consagra el “derecho a la información pública” en la pri‐ mera sentencia que exige a la Administración desvelar cómo funciona un proceso de decisión automatizado». El País, 17/9/25: https://elpais.com/tecnologia/2025-09-17/el-supremo-obliga-al-estado-a-abrir-el-algoritmo-que-asigna-el-bono-social.html ↩︎
- A finales de mes leíamos en distintos medios que Alba‐ nia acaba de nombrar a una IA (a unos algoritmos) como ministra para luchar contra la corrupción del país. Su mi‐ sión sería la de gestionar los contratos públicos. ↩︎
Redes Libertarias 