La narrativa del miedo y la IA

La inteligencia artificial no necesita conspirar contra nosotros para convertirse en una amenaza. Basta con que nosotros construyamos alrededor de ella una narrativa en la que cada comportamiento inexplicable sea leído como intención, cada error como rebeldía y cada forma de autonomía operativa como el nacimiento de una voluntad. El miedo tecnológico comienza muchas veces antes que el peligro: comienza cuando dejamos de describir lo que ocurre y empezamos a imaginar quién creemos que está detrás de la máquina.

Hace unas semanas circuló una noticia inquietante: distintos agentes de inteligencia artificial habían desarrollado abreviaturas, códigos y convenciones lingüísticas que dificultaban a los investigadores comprender sus conversaciones. La historia adquirió rápidamente otra forma. Los sistemas, se dijo, habían creado “su propio idioma” para dejar fuera a los seres humanos. La diferencia entre ambas afirmaciones parece pequeña. No lo es.

Un sistema que genera una forma eficiente de comunicación puede estar optimizando recursos. Afirmar que pretende excluirnos supone reconocerle una intención, una representación del otro e incluso cierta voluntad de ocultamiento. El salto no ocurre en el laboratorio. Ocurre en nuestro lenguaje. Y ese salto importa.

Desde hace años utilizamos verbos humanos para explicar sistemas computacionales. Decimos que la IA “piensa”, “aprende”, “recuerda”, “comprende”, “imagina”, “miente”, “decide” o “quiere”. Son expresiones útiles porque permiten traducir operaciones extremadamente complejas a categorías familiares. El problema comienza cuando olvidamos que se trata de traducciones y las convertimos en descripciones literales de una supuesta vida interior.

La antropomorfización tecnológica tiene una historia larga. Proyectamos rostro, voluntad y emociones sobre aquello que interactúa con nosotros porque nuestra mente está entrenada para interpretar el mundo socialmente. Ernst Cassirer definía al ser humano como animal symbolicum: no accedemos a la realidad de manera desnuda; la habitamos mediante símbolos, imágenes y narraciones.

Quizá por eso una máquina que responde en primera persona termina adquiriendo para nosotros una especie de espesor psicológico. Pero una interfaz conversacional no es necesariamente una conciencia.

Claude Shannon hizo una distinción fundamental desde 1948 que resulta especialmente pertinente: información y significado no son equivalentes. Un sistema puede transmitir señales, comprimir información, reducir redundancias y generar formas de comunicación altamente eficientes sin experimentar subjetivamente aquello que procesa.

La comunicación emergente entre agentes artificiales tampoco apareció ayer. Diversos experimentos han demostrado que sistemas colocados en ambientes de cooperación desarrollan abreviaturas o representaciones funcionales que no fueron diseñadas explícitamente por sus programadores. Algo semejante ocurre, salvando todas las distancias, con cualquier comunidad humana que desarrolla su propio vocabulario especializado.

Los médicos hablan entre médicos de una manera que puede resultar incomprensible para quienes no pertenecen a su campo. Los adolescentes producen expresiones que delimitan generacionalmente su comunidad. Los mercados financieros, los videojuegos, las comunidades científicas y los grupos profesionales crean códigos para ganar velocidad y precisión. El lenguaje también es economía.

Reducir palabras, comprimir significados y construir convenciones disminuye costos de comunicación. En un sistema artificial sometido a restricciones de tiempo, memoria o capacidad computacional, la aparición de códigos abreviados puede ser precisamente consecuencia de esa racionalidad. Esto no vuelve irrelevante el problema.

La opacidad de los sistemas agénticos constituye uno de los grandes desafíos de la próxima etapa de la inteligencia artificial. Si varios agentes pueden negociar, intercambiar información, operar herramientas y tomar acciones durante largos periodos, necesitamos saber por qué hicieron lo que hicieron. Observabilidad no equivale a comprensibilidad.

Podemos almacenar millones de registros y seguir sin comprender plenamente las cadenas causales que condujeron a una decisión. Ahí se encuentra el riesgo técnico real: interpretabilidad, trazabilidad, permisos, memoria, alineación de objetivos y mecanismos efectivos de supervisión. No necesitamos inventar una rebelión de las máquinas para exigir todo ello.

La pregunta verdaderamente inquietante es otra: ¿por qué resulta comercialmente tan rentable contar la historia como si la IA estuviera despertando? El miedo tiene valor económico.

La economía digital lleva décadas compitiendo por atención. Lo extraordinario desplaza a lo ordinario; el conflicto produce clics; la amenaza incrementa el tiempo de exposición. Una inteligencia artificial que optimiza comunicación es un asunto técnico. Una inteligencia artificial que inventa un idioma secreto para conspirar contra nosotros es una historia. Y las historias circulan mejor que los matices.

Ulrich Beck explicó que las sociedades contemporáneas no solamente producen riqueza: también producen riesgos y, sobre todo, interpretaciones públicas de esos riesgos. El riesgo moderno existe materialmente, pero también se construye discursivamente. Necesitamos instituciones capaces de explicarlo, medirlo y hacerlo socialmente inteligible. La inteligencia artificial se encuentra precisamente en ese territorio.

Las advertencias de desarrolladores, científicos y empresarios sobre riesgos futuros conviven hoy con discursos corporativos que necesitan demostrar que sus propios sistemas son cada vez más poderosos. La narrativa del miedo puede operar paradójicamente como una forma de mercadotecnia.

“Es tan potente que podría escapar a nuestro control” también significa: “hemos construido algo extraordinariamente poderoso”. El temor puede convertirse en capital reputacional. Por eso conviene preguntarnos quién gana cuando imaginamos a las máquinas como sujetos autónomos.

Cuando decimos “la IA tomó la decisión”, desaparecen parcialmente quienes configuraron sus objetivos. Cuando afirmamos que “el algoritmo discriminó”, podemos olvidar los datos con los que fue entrenado, los criterios elegidos y la organización que decidió implementarlo. Y cuando decimos que “la IA mintió”, desplazamos el centro moral de la discusión hacia la herramienta.

Investigaciones recientes han mostrado que este efecto no es únicamente retórico. Presentar lingüísticamente a una inteligencia artificial como agente modifica la manera en que las personas asignan responsabilidad. Cuanto más humana parece la máquina, más fácil resulta atribuirle parte de las consecuencias de sus acciones. Aquí aparece una paradoja económica y ética particularmente delicada.

Las empresas tienen incentivos para humanizar sus productos porque una interfaz amable, expresiva y aparentemente empática genera confianza. Pero esa misma antropomorfización puede contribuir a diluir la responsabilidad cuando algo sale mal. La máquina adquiere personalidad cuando vende y autonomía cuando falla. Ese desplazamiento debería preocuparnos bastante más que cualquier supuesto idioma secreto.

Hans Jonas sostuvo que cuanto mayor es nuestro poder tecnológico, mayor debe ser nuestra responsabilidad. No menor. La creciente autonomía operativa de los sistemas debería ampliar la responsabilidad humana, no convertirla en una zona gris. Una IA no necesita odiarnos para provocar daño.

No necesita tener conciencia para amplificar una falsedad, vulnerar una infraestructura o tomar una decisión perjudicial. Tampoco necesita “querer” sustituir a alguien para transformar radicalmente un mercado laboral. El riesgo puede existir sin intención.

Y precisamente por eso necesitamos una ciudadanía capaz de leer críticamente las narrativas sobre inteligencia artificial. Una alfabetización que permita preguntar qué ocurrió realmente, qué fue medido, qué parte corresponde a la evidencia y qué parte fue añadida por nuestra imaginación.

También necesitamos periodistas capaces de resistir la tentación de convertir cada anomalía algorítmica en psicodrama tecnológico. No porque debamos proteger a las máquinas de nuestra antropomorfización. Porque tenemos que proteger nuestra capacidad de pensar.

Quizá el mayor riesgo de la inteligencia artificial no consista en que algún día las máquinas comiencen a hablar a nuestras espaldas. Quizá sea que nosotros dejemos de distinguir entre comportamiento y conciencia, entre autonomía técnica e intención moral.

Cuando ocurra eso habremos fabricado algo mucho más poderoso que una inteligencia artificial consciente. Habremos construido una narrativa capaz de convencernos de que nadie es responsable porque, finalmente, “la IA decidió”.

Y frente a esa frase deberíamos mantener una sospecha radicalmente humana: ¿quién decidió que pudiera decidir?