Máquinas y democracia

El último libro de Daniel Innerarity se titula Una teoría crítica de la inteligencia artificial (Galaxia Gutenberg, 2025) y en él se ofrece un análisis detallado de la inteligencia de las máquinas digitales, de sus promesas y de sus implicaciones para la vida práctica, la libertad humana, la democracia y el poder político. Este es el libro de un filósofo, con todo lo que ello implica de minuciosa dilucidación de conceptos y teorías, y con todo lo que conlleva en lectores espantados por sus más de 500 páginas cargadas de definiciones, aclaraciones, matices y referencias a autores especializados. Es un texto desafiante, sin duda, pero el lector que finaliza su tarea queda ampliamente recompensado por la riqueza que encuentra en sus páginas. 

Especial Imaginar la Democracia

En lo que sigue destaco lo que me parece más relevante del libro, haciendo énfasis en las implicaciones que la tecnología digital tiene para la democracia y para la libertad ciudadana. 

Innerarity empieza explicando la diferencia entre la inteligencia humana y la artificial. Son, explica, cosas distintas: las máquinas llevan a cabo operaciones fabulosas, pero no pueden lidiar con cosas elementalmente humanas, como el sentido común o la prudencia. En el terreno de las matemáticas o de la lógica, las computadoras son imbatibles, pero cuando se trata de ponderar, de anticipar, de innovar, o de elegir entre objetivos vitales, nada supera al cerebro humano, que es más flexible y sofisticado. 

Las máquinas llevan a cabo operaciones fabulosas, pero no pueden lidiar con cosas elementalmente humanas, como el sentido común o la prudencia

La parte central del libro aborda el tema de la gobernanza digital (algorítmica), también llamada 'algocracia', con sus ventajas incuestionables para la vida práctica, los viajes, los negocios, las comunicaciones y toda una clase de operaciones que ahorran tiempo y esfuerzo, pero que tiene costos significativos. Las maquinas digitales nos liberan del esfuerzo de tener que decidir y eso, en muchos casos, es algo estupendo; pero esa liberación atrofia nuestra reflexividad, de la misma manera que los músculos del cuerpo se anquilosan cuando dejamos de caminar por causa de la disponibilidad de vehículos para desplazarnos. Platón se inquietaba por la pérdida de la memoria ocasionada por la escritura: ¿qué va a pasar cuando la gente deje de memorizar el pasado? Nada bueno puede resultar de esa pérdida. Algo similar está ocurriendo hoy cuando dejamos de estudiar, comparar, analizar y ponderar para tomar las decisiones correctas. ¿Vale la pena liberarse de esa carga? ¿qué tan conveniente es automatizar la vida humana? Hay un punto en el cual las máquinas se vuelven contraproducentes: al facilitarnos la vida, nos vuelven perezosos, indolentes y torpes. Evolutivamente no estamos preparados para una existencia sin esfuerzo; los desafíos, las trabas, las dificultades nos hacen más atentos, más espabilaos, más entendidos y más capaces. 

Hay un punto en el cual las máquinas se vuelven contraproducentes: al facilitarnos la vida, nos vuelven perezosos, indolentes y torpes

Más concreta y técnicamente, las maquinas digitales trabajan con algoritmos que socavan nuestra autonomía en por lo menos tres sentidos: 1) focalizan la atención en una parte de la realidad y ocultan el resto, 2) moldean y construyen lo que nos gusta, y 3) reducen nuestro sentido crítico y nuestro deseo de cambio. En síntesis, nos roban libertad existencial porque no solo simplifican las decisiones, sino que moldean las preferencias, las reconstruyen y de manera velada las imponen. El conocimiento que tiene el algoritmo de nosotros, de lo que nos gusta, es parcial y rígido (proviene de información sobre lo que hicimos en el pasado, que es solo una parte de lo que somos en el presente) o, peor aún, nos predispone a seguir un recorrido vital que tiene mucho de arbitrario, de limitado o incluso de engañoso. El algoritmo trata la democracia, dice Innerarity, como si fuese un sistema de satisfacción de necesidades (como un mercado) cuando en realidad es una reflexión sobre esas necesidades. Por su causa estamos perdiendo aquello por lo cual los ilustrados del siglo XVIII lucharon tanto: la autonomía para decidir, para no ser esclavos de nada ni de nadie, para ser libres. Ya no son los clérigos o los monarcas quienes conculcan nuestra libertad, sino las máquinas a las que les entregamos nuestras decisiones para que nos hagan la vida más fácil. 

El algoritmo trata la democracia, dice Innerarity, como si fuese un sistema de satisfacción de necesidades (como un mercado) cuando en realidad es una reflexión sobre esas necesidades

Lo más preocupante, dice Innerrarity, es la delegación digital que hacemos, ya no en los asuntos prácticos, sino en temas morales y políticas fundamentales. ¿Cuál es el comportamiento debido en un caso específico?; ¿qué es lo justo, lo bueno, lo conveniente?; ¿cómo disponer nuestros asuntos para ser más felices?; ¿qué tanto orden es compatible con la libertad? Estos interrogantes entrañan complejas tensiones entre valores que son difíciles de resolver. Los algoritmos, explica el autor, se han diseñado para reducir esa complejidad de tal manera que decidan por nosotros o nos induzcan, según nuestras preferencias, o mejor, según su idea de nuestras preferencias, a decidir. La opinión que tenemos del gobierno, el juicio que hacemos de nuestros enemigos, el lugar que ocupa la fe religiosa en nuestras vidas, la manera como interpretamos la constitución del país, como valoramos el pasado y pensamos en el futuro, todo eso y mucho más está siendo determinado, o al menos condicionado, por algoritmos que nos ofrecen (o nos dejan de ofrecer) información a partir de la idea, más o menos artificial, que se han hecho de nosotros y de nuestras preferencias. 

¿Cómo recuperar el control, sobre todo en temas tan esenciales como la democracia? ¿cómo hacer para que la decisión sobre los objetivos humanos no recaiga en algoritmos que simplifican esos objetivos y, al ponderar su importancia relativa, se equivocan? Inninreraty, como buen filósofo, no se detiene en recomendaciones; tan solo advierte sobre el empeño que deberíamos tener en no dejar reducir la complejidad de la democracia deliberativa y en no perder la riqueza, esencialmente humana e irreproducible, del debate público. 

¿Cómo hacer para que la decisión sobre los objetivos humanos no recaiga en algoritmos que simplifican esos objetivos y, al ponderar su importancia relativa, se equivocan?

A pesar de lo inquietantes que son los análisis precedentes, al final del libro, cuando llega la hora de las conclusiones, Innerarity no se muestra pesimista sobre el futuro de la tecnología digital. Más aún, descalifica sin piedad a los críticos radicales que solo ven nubarrones en el futuro y que son la mayoría de los que han escrito en los últimos años sobre este tema. “…Son histéricos, dice Innerarity, están llenos de exageraciones y simplificaciones, de expectativas desmesuradas y miedos difusos o melancólicos, como si en el mundo analógico hubiéramos gozado de una democracia plena”. 

Me siento interpelado por esa crítica. En mis escritos sobre este tema he sostenido, sin caer, creo yo, en la histeria ni en la melancolía, que estamos pasando por un período alarmante de gobernanza digital; un período que no sabemos bien cómo enfrentar y mucho menos cómo precavernos contra los peligros que engendra. Mi pesimismo se funda en muchas de las cosas que Innerarity expone en este libro, pero tiene un componente adicional de sociología política que nuestro autor no acomete, o solo lo hace de manera marginal. Me refiero a la confluencia de dos fenómenos: el primero es la pérdida de autonomía humana por causa de la delegación que hacemos de nuestras decisiones en las máquinas. En esto, el libro de Innerarity es prolífico en análisis y lúcido en sus valoraciones. El segundo fenómeno es el deterioro de la regulación digital, lo cual proviene, por un lado, del ascenso de la plutocracia (gobierno de los ricos) en los Estados Unidos, con todo lo que hay en ella de protección legal de los intereses de los gigantes digitales y, por el otro lado, del deterioro del derecho internacional y de las organizaciones internacionales que podrían ponerle freno a la oferta digital. Aquí, Innerarity se muestra parco o desinteresado, quizás por tratarse de un tema menos conceptual, más empírico, pero, a mi juicio, esencial para el futuro de la democracia y de la libertad. Cada uno de estos hechos, por separado, es inquietante, pero juntos representan un gran peligro. 

Mi temor (es un mito, no una predicción) es que la tecnología digital se desborde y produzca una gran tragedia (bélica, por ejemplo) antes de que logremos hallar la fórmula social y política que nos permita controlarla (el hecho de que tal cosa no ha ocurrido en el pasado dice más de nuestra buena suerte que de la confiabilidad del orden actual). Lo pongo en términos mitológicos: mi temor es que nos estemos poniendo en una situación de no retorno en la que vamos a necesitar de la intervención de la diosa Némesis, la misma que en el pasado castigaba la arrogancia de los seres humanos cuando atentaban contra el equilibrio natural de las cosas.