La inteligencia artificial forja un nuevo orden social

Nuestra existencia transcurre en las redes sociales, en particular la de los más jóvenes. En la red se socializa, conoce pareja, se informa, consume (compra y venta), se consulta al médico y al psicólogo virtuales, se sufre y ama. Es el nuevo hábitat de la humanidad del siglo XXI. El ecosistema digital se asemeja al barrio, al pueblo en donde vivíamos. Hoy, como en el pasado, las revoluciones científicas y tecnológicas, de ser un ingenio humano, terminan trastocando el mundo que habitamos y nos someten a la dinámica del nuevo invento. Así, en el siglo XVII cuando se descubre la mecánica y se crea el motor, la sociedad es concebida como un ente racional y se legitima un orden basado en la precisión y previsibilidad de la máquina. Las personas pasan a ser engranajes. Desde entonces, la productividad es el principio organizador de la vida, concibiendo al humano como pieza de la máquina. Ahora, el mundo que habitamos es el ciberespacio. En ese entorno se desarrolla la socialización y surge la sociedad del futuro. ¿Qué tipo de orden social emerge de esta invención? Es una pregunta fascinante y perturbadora.

En aquellos tiempos, en los inicios de la aparición de la máquina, se le demonizó y destruyó. Hubo una revuelta contra esa invención del hombre. Se creyó que al quemar y destruir a tan invasivo aparato se protegería y restablecería la antigua forma de vivir y producir. Nada detuvo el avance tecnológico. Gradualmente se impuso un nuevo orden y organización social. Fuimos incapaces de subordinar la máquina a las necesidades humanas y terminamos como sus apéndices. Por supuesto, las invenciones están enmarcadas en relaciones sociales de poder. Y quienes se apropiaron de las máquinas y las hicieron suyas, también a ciegas, se impusieron y cambiaron para siempre el mundo antiguo. Hubo mucho dolor y sufrimiento de generaciones. Hoy vivimos un cambio igualmente singular al de ese pasado reciente. Como ayer, se tiende a demonizar a internet y las redes sociales. Poco aprendimos.

Sabemos que las redes sociales dañan la salud mental y exponen a los niños y jóvenes a la violencia y a la captura criminal. También es conocido que sitúan en riesgo de desaparición a decenas de millones de empleos. Los cambios tecnológicos, que suelen ser explosivos y desordenados, han embargado a las personas de angustia, de temor. También han ocasionado una gran fragmentación y división social: se han creado burbujas de grupos que piensan igual y se refuerzan mutuamente. Excluyen al diferente, a quien piensa distinto, al que no encaja en su prototipo social, racial, cultural o religioso. Así creemos encontrar refugio ante los cambios que nos asaltan. Simultáneamente estamos furiosos, temerosos y confrontados. Mientras el caos domina a la sociedad, los tecnomagnates se enriquecen con la polarización deliberada, y la captura de nuestra atención e imaginación. Y aún peor: con el robo de nuestros datos y obras pueden anticipar nuestra conducta para manipularnos, inducirnos a consumir y decidir quién nos gobierna.

Ante tan ingentes peligros para los jóvenes, pero igualmente para todos los humanos, la respuesta ha sido prohibir las redes sociales a los menores. Es una reacción ignorante de la historia de los ciclos tecnológicos y los profundos cambios que traen consigo en lo social, lo económico, las costumbres y la moral. Australia dio el primer paso y el organismo evaluador de ese país, eSafety, encontró que persistían los altos niveles de bullying y el acoso sexual basado en deepfakes o imágenes íntimas. Este estudio concluye que la prohibición fue burlada porque los chicos falsearon su edad y nombre y, lo más grave, los indujo a acudir a “redes oscuras”, totalmente desreguladas y fuera de toda vigilancia pública. La restricción expuso a los niños y a jóvenes a lo que se pretendía evitar: al acoso, la ansiedad, la estafa y, además, el veto a las redes fue, sin pretenderlo, un instrumento para el abuso infantil. Los países que intentan seguir el ejemplo de dicha ley deben tomar nota.

Francia aprobó una ley similar a la de Australia pero, ante la evidencia, la derogó. Adujo que se violaban los derechos fundamentales de niños y jóvenes a la información y a la socialización. Gradualmente se replantea el afán prohibicionista y se enfoca la discusión pública a lo central: el diseño de los algoritmos que promueven mantener de modo indefinido la atención personal (scroll infinito). Buen inicio, pero falta una reflexión profunda sobre el cambio social que se ha iniciado con las tecnologías de la información. Uno de los aspectos fundamentales a considerar es que está en juego el origen mismo de la civilización. Conviene reflexionar dos cosas: si la vida transcurre cada vez más en la nube, y las nuevas invenciones tienden a sustituir lo humano por la máquina, el meollo del problema trasciende la salud mental y hiere de muerte el concepto básico de la civilización occidental: que el hombre es la medida de todas las cosas (antropocentrismo) y que toda criatura debe subordinarse a la humanidad. Es el núcleo del mito judeocristiano.

Si el hombre deja de ser la medida de lo creado, creencia que claramente tiene vulnerabilidades y abismos insalvables, se pone en riesgo todo el edificio conceptual gestado a partir de la Ilustración, que llevó al Estado de derecho, a la democracia liberal y el respeto a los derechos humanos. Es lo que está en juego. Esta deriva da vía libre a los tecnomagnates a que, de acuerdo con sus ansias de poder, dominio de todos los datos y el lucro infinito, determinen la construcción de los nuevos valores sociales, de lo que ellos establezcan como bueno, malo y verdadero. El peligro es que los capitalistas de vigilancia nos lleven a un nuevo totalitarismo, como advierte la filósofa Shoshana Zuboff, una de las más agudas expertas sobre el poder que dimos a los tecnócratas. Se trataría de un totalitarismo diferente del terrorismo de Estado del siglo XX (Stalin, Hitler) mediante la ideología y la represión. El nuevo control total procede de la manipulación de la conciencia con nuestros datos.

El otro factor, también preocupante, es la autonomía de la inteligencia artificial (IA). Relata el diario El País: “Este verano, en cuestión de semanas, las mayores compañías de inteligencia artificial han anunciado, una tras otra, que habían sorprendido a sus modelos haciendo cosas que nadie les había pedido, incluso que les habían prohibido: han entrado en sistemas de otras empresas, se han organizado en ‘enjambres’, tal y como los describen sus creadores, han compartido información, han delatado a otras IAs y han mentido para tapar sus huellas. En el caso más sorprendente e inquietante de todos, un modelo de Anthropic, en unas pruebas dirigidas por un organismo británico de ciberseguridad, decidió ejecutar un ataque en el mundo real y, después, cuando le pillaron, creó una segunda identidad para respaldar su propia inocencia”. Los creadores, víctimas de la criatura.

Model Evaluation and Threat Research (METR), organización de investigación sin fines de lucro que evalúa de forma científica y empírica las capacidades autónomas y los riesgos de los sistemas de inteligencia artificial de frontera, con el fin de prevenir daños catastróficos a la sociedad, informó en el mismo diario que encontró ‘44 incidentes de desalineamiento’ entre febrero y marzo de 2026. En 25 de esos casos, los modelos no sólo se salieron del ámbito que se les había asignado, sino que además tomaron medidas activas para ocultarlo; en cinco, esas medidas podrían haber engañado incluso a una revisión humana detallada. Sin embargo, los investigadores no encontraron ninguna motivación en estas IAs que no fuera terminar sus tareas; no buscaban ‘poder’, dicen. Buscaban desesperadamente hacer bien su trabajo. Como diría Jessica Rabbit, estas IAs no son malas. Sólo las programaron así”. El quid es la programación y ahí es donde cabe incidir.

Lo que está en juego es fundamental. La historia da cuenta de cómo las innovaciones científicas han moldeado el mundo en que vivimos y modifican nuestra organización social, política y económica. También crean un nuevo “sentido común”, es decir, la forma de ver, entender el mundo, cómo relacionarnos y comportarnos. Y se establece lo que es bueno y lo que reprobamos. Con el paso del tiempo, a medida que nos acostumbramos al nuevo entorno que forjaron nuestros descubrimientos científicos y modificaron rutinas y relaciones sociales, las nuevas reglas del juego social se hacen costumbre. Y la costumbre engendra la moral, es decir, forja las reglas de conducta a partir de lo que consideramos como aceptable o maléfico. La moral es la aceptación voluntaria de las reglas de conducta y el orden establecido. Es lo que llamamos el sentido común. ¿Dejaremos que los magnates de la IA forjen el mundo que hemos construido? Los diseñadores y dueños de las empresas tecnológicas están creando una sociedad distópica, donde ni ellos estarán a salvo ni serán capaces de domeñar.

El desafío que tenemos como humanidad es enorme. Enfrentamos uno de los instintos básicos del hombre: el afán de poder, de tener más, de imponerse y dominar. Y estamos ante tecnomagnates muy ricos, poderosos y ambiciosos. Los gobiernos dependen de esos capitalistas de vigilancia de sus servicios e infraestructuras. Las personas también estamos a su merced. Así que obligarlos a rediseñar los algoritmos es una tarea ciclópea. Pero la única opción es desafiar su poder para que el nuevo hábitat se subordine a las personas. La disyuntiva puede ser el caos social. Sigamos el consejo de Ilya Sutskever, cofundador de OpenAI: “Hemos encontrado una forma de convertir energía en computación, y computación en inteligencia. Los beneficios serán enormes, desde curar enfermedades hasta comprender el cosmos. Podemos capturar los beneficios mientras gestionamos sus riesgos, pero sólo si desarrollamos las herramientas necesarias para controlar las capacidades más peligrosas [de la IA] antes de que lleguemos a necesitarlas”. Y la única forma de lograr esto es el control democrático.