Una explicación a nuestro malestar y el papel de la IA

¿Por qué estamos tan malhumorados y enojados? ¿Por qué estamos enfrentados unos contra otros? ¿Por qué estamos angustiados y temerosos? ¿Por qué tanto resentimiento y animadversión? En el momento que vivimos muchos intereses políticos y económicos están en juego entre diferentes bandos, partidos y sectores. Pero algo más profundo explica el gran desajuste social y emocional que nos tiene intranquilos y perturba nuestro ánimo. Sin desconocer las tensiones que provoca el juego por el poder, el trasfondo de lo que padecemos es que hemos perdido las certezas que nos orientan, brindan estabilidad económica y emocional, que definían quiénes somos y el lugar que ocupamos en la familia y la sociedad. Estos sucesos que alteran el estado anímico son cíclicos. La causa original es que el mundo enfrenta grandes transformaciones tecnológicas que desajustan nuestras vidas.

Hoy estamos ante uno de esos momentos en que perdemos la brújula porque los cambios que generan las revoluciones tecnológicas distorsionan nuestras vidas y nos encontramos desamparados. Nuestra biología se trastorna y desordena la autorregulación de nuestro cuerpo (homeostasis) porque el mundo conocido (trabajos, saberes y rutinas) se desvanece. Estos sucesos nos someten a grandes y constantes descargas de cortisol y epinefrina que nos mantienen estresados, angustiados, temerosos y nos preparan para afrontar las amenazas físicas, ya sea para huir o atacar. Este malestar físico obedece a la gran transformación económica de nuestros días: aquí se entrecruzan factores biológicos con desajustes y cambios sociales. La revolución tecnológica en la que estamos inmersos destruye empresas, empleos y la estabilidad económica de millones personas. Todo lo que nos brinda seguridad se esfuma. Las innovaciones, al destruir el antiguo modo de producción, concentran la riqueza y condenan a millones a la orfandad. Bajo ese estado, los hombres fuertes, que se sienten predestinados a salvarnos (providenciales), nos seducen porque prometen estabilidad.

En esta circunstancia, el discurso social y político juega un papel fundamental. La humanidad se orienta y refugia en los relatos, historias que nos consuelan y devuelven, así sea fugazmente, identidad y sentido de pertenencia. Recuperamos el equilibrio hormonal (homeostasis), al menos temporalmente, gracias a una constante reiteración del discurso identitario que nos recuerda lo que somos en oposición al otro. Nuestra brújula interna parece nuevamente reconocer el norte y saber quiénes somos y el lugar que tenemos en nuestro pequeño mundo. Si bien las condiciones sociales que nos desestabilizan permanecen inalteradas, nuestro estado anímico mejora intermitentemente. Por ello importa machacar el discurso identitario y de pertenencia: ellos contra nosotros.

Al fin y al cabo, el hombre “No sólo de pan vive, sino de toda palabra que sale de la boca de Dios”. En el principio, dice el relato bíblico, era la voz y la voz se hizo carne, lo cual significa que la palabra, los relatos que elaboramos para guiarnos, transforman las circunstancias sociales y económicas, toda vez que orientan el sentido de nuestras acciones y establecen el camino hacia dónde dirigir nuestros esfuerzos. El relato, la historia de quiénes somos, de dónde venimos instituye, crea la moral, entendida como cultura, costumbre. De ella derivan los valores sociales que establecen lo que es bueno y lo que es malo, lo permitido y lo prohibido, el alcance y los límites de nuestra conducta y proceder.

El teórico marxista, Antonio Gramsci entendió la importancia de la cultura, fundada por el relato hegemónico que ordena nuestra vida en sociedad. En Cuadernos de la cárcel describe que quien gobierna la cultura, quien logra la hegemonía cultural, controla la política. De este modo, quien ostenta el poder deja de requerir de la coerción, del uso de la fuerza. El dominio se logra cuando se aceptan voluntariamente los valores dominantes. Según el pensador sardo, quien logra dictar lo que es culturalmente normal, moralmente correcto y deseable, asegura de antemano el control del Estado. He ahí la pretensión del discurso populista: lograr la hegemonía cultural para establecer el control y la obediencia convencida. El problema de la nueva camada de populistas es que ignoran que la hegemonía se construye desde la sociedad civil a través de la educación, los medios de comunicación, la religión y la familia. Controlar estas instituciones moldea la cultura y la forma de pensar. Pero es un proceso que requiere tiempo, de muchos sexenios.

Las claves de la transformación cultural están en la educación, los medios de comunicación -hoy dominados por las redes sociales-, la religión y la familia. Tremenda tarea para lograr la hegemonía política. Los líderes populistas han seguido, al menos parcialmente, el guion: forjan nuevos medios y canales de comunicación, al tiempo que critican y censuran a los medios críticos; intentan reinterpretar la religión cristiana (particularmente el gobierno de Donald Trump ha dado ese paso de manera singular) para conquistar las buenas conciencias. En cuanto a la familia, están divididos: los populistas de izquierda legalizan nuevas uniones familiares y los populistas de derecha pretenden recuperar la tradición monogámica y reconstruir el antiguo machismo.

Los hallazgos de Gramsci nos ayudan a entender el papel que juegan los llamados tecnofascistas en su propósito de trasformar la cultura, en particular la moral y, por ende, la conciencia de los hombres mediante los algoritmos, al tiempo que con nuestros likes y el scroll se hacen inmensamente ricos. Las nuevas tecnologías, lejos de ser neutrales, controlan nuestros gustos, sentimientos y crean nuevas formas de relacionarnos. Encontraron la manera de controlar la cultura para, de ese modo, dominar al mundo. La arquitectura de los algoritmos moldea nuestros pensamientos. Por ello me parece certera la visión de la encíclica Magnifica Humanitas y su denuncia del enorme poder que conferimos a las nuevas tecnologías: “Quien controla la IA impondrá su visión moral”, advierte con meridiana claridad. En otras palabras el riesgo que enfrentamos es que los tecnofeudales establezcan una nueva forma de ver y entender el mundo. De lograrlo, serán capaces de establecer qué es lo bueno y qué es lo malo. Definir qué debemos entender por el bien y el mal garantizará que controlen el Estado.

Ergo, creo que puede deducirse que la IA tiende a ser una rama de la moral, más allá de la ciencia. Los modelos de lenguaje natural, por ejemplo, en los que interactuamos directamente con los algoritmos establecemos una relación con la máquina como si fuera un ente, un ser, que siente, que tiene conciencia. Con ese tipo de comunicación, delegamos a los algoritmos nuestra autonomía para tomar decisiones, confiados en su presunta sapiencia y mejor juicio. Simultáneamente, les entregamos valiosísima información que las tecnológicas monetizan. Pero lo más relevante es que les permitimos conocer nuestros gustos y se anticipan a nuestros deseos. Es decir, a la vez que controlan nuestra conciencia se enriquecen sin medida. En este sentido, Yanis Varoufakis acierta en Tecnofeudalismo, al denunciar el poder político y económico de la IA. Entregamos el alma, la conciencia, a un poder que nos domina.

Los algoritmos cumplen un doble papel: se apropian del conocimiento y de la experiencia humana, al tiempo que concentran en pocas manos la riqueza, gracias a que controlan nuestros gustos y deseos. Pero además estamos inermes y bajo su control, pues también fabrican nuestros gustos y deseos. ¿Queda algo de la soberanía y la libertad individual? De este modo, se vuelve innecesario el castigo: se impone la obediencia voluntaria: volvemos a las hipótesis de Gramsci. La soberanía, como dice Yuk Hui -asociada al Estado, las fronteras y el autogobierno institucional- ha sido desplazada hacia las entidades tecnológicas. Las plataformas digitales, las redes logísticas, los sistemas algorítmicos, la inteligencia artificial y las infraestructuras computacionales ejercen formas reales y nuevas de poder soberano. Amazon, Google, Tencent o los sistemas financieros automatizados nos gobiernan calladamente: organizan nuestro tiempo y comportamiento, el acceso a la información, el trabajo, la atención y la vida cotidiana.

El problema, señala Hui, trasciende la eliminación de empleos. Lo crucial es quién diseña los sistemas, bajo qué lógica, para beneficio de quién y qué tipo de humanidad producen esos sistemas. La misión de la IA es doble, como se ha dicho: nos controla y nos explota. Estamos ante el riesgo de un nuevo tipo de totalitarismo, una nueva forma de soberanía que inclusive prescinde de la persuasión ideológica. Su poder radica en la personalización masiva: adapta mensajes en tiempo real a cada individuo, explotando datos emocionales y conductuales más que narrativas políticas generales. Esto la hace más eficaz que los discursos ideológicos clásicos, que dependen de marcos colectivos y abstractos.

Los chatbots y modelos de lenguaje ajustan sus respuestas según el perfil del usuario: intereses, emociones detectadas e historial de interacción. Ya es innecesario apelar a una ideología, porque ahora saben qué es lo que más le gusta a cada persona. Estudios en Nature (2025) muestran, por ejemplo, que una breve interacción con un chatbot puede cambiar la intención de voto entre 10 y hasta 25 puntos porcentuales, superando la influencia de las campañas ideológicas. ¿Estamos ante el fin de las ideologías y del relato que nos guía y genera identidad y sentido de pertenencia? Los hallazgos científicos sugieren que las ideologías (liberalismo, socialismo) dejaron de ser el motor principal de persuasión; ahora compiten con la IA, que persuade sin necesidad de coherencia ideológica, pues adapta los mensajes a los gustos y preferencias de cada persona. Su poder es de tal dimensión que hasta pueden suplantar a las religiones. Por ello el duro mensaje de la encíclica de León XIV. Al parecer, abrimos la Caja de Pandora.