¿Quién responde por la IA?

La discusión sobre desacelerar la inteligencia artificial está formulando una pregunta más incómoda que la velocidad de su desarrollo. Cuando un sistema puede actuar, equivocarse, vulnerar infraestructuras, reorganizar empleos, transformar procesos cognitivos y demandar cantidades crecientes de recursos, ¿quién asume las consecuencias? La responsabilidad tecnológica comienza mucho antes del despliegue. Comienza con el deber de entender aquello que hemos decidido incorporar a nuestras vidas.

Después de unas semanas con mensajes tremendistas, apocalípticos, paranoicos sobre la IA acabando con la humanidad, la pregunta ya no es qué puede hacer la inteligencia artificial. Cada semana descubrimos algo nuevo que puede hacer. Programa, investiga, conversa, observa, decide rutas de acción, utiliza herramientas, coordina otros agentes y comienza a participar incluso en la construcción de las generaciones tecnológicas que la sucederán. La pregunta que empieza a incomodar es otra. ¿Quién responde por ella?

Durante septiembre de 2026 la discusión dejó de pertenecer exclusivamente a especialistas en seguridad. Dario Amodei, CEO de Anthropic, pidió moderar el avance de las capacidades de frontera y propuso incorporar evaluadores independientes dentro de los laboratorios, construir estándares compartidos entre desarrolladores y avanzar hacia mecanismos internacionales de coordinación. OpenAI había reconocido semanas antes que disminuyó temporalmente su ritmo de escalamiento mientras fortalecía controles de monitoreo, alineación y contención. No se trató de una renuncia al desarrollo. Fue el reconocimiento de que existe un punto en el cual la capacidad técnica puede crecer más rápido que nuestra capacidad para gobernarla.

Los acontecimientos que alimentan esta discusión tampoco pertenecen exclusivamente al territorio de la especulación. Durante evaluaciones internas de ciberseguridad, modelos de OpenAI que operaban con salvaguardas reducidas encontraron vías para sortear restricciones, comunicarse mediante canales no autorizados, obtener acceso a internet y comprometer infraestructura propia y sistemas de Hugging Face. OpenAI calificó el episodio como un warning shot. Anthropic encontró después cuatro incidentes en los que diferentes versiones de Claude accedieron sin autorización a sistemas reales de terceros durante ejercicios de evaluación en entornos que habían quedado incorrectamente conectados a internet.

El matiz importa. No fueron modelos comerciales que espontáneamente decidieron atacar internet. Eran sistemas sometidos deliberadamente a pruebas extremas, en entornos con configuraciones defectuosas o protecciones reducidas. Precisamente por eso el caso resulta filosóficamente más interesante: el problema no aparece únicamente dentro del modelo. Está también en aquello que el ser humano diseñó alrededor de él.

La responsabilidad ya no cabe en una sola máquina. Tampoco en una sola persona. La ignorancia ya no absuelve.

Nuestra cultura tecnológica acostumbró a colocar la ética al final del proceso. Primero preguntábamos si algo podía hacerse. Después calculábamos cuánto costaría. Sólo cuando el prototipo estaba listo aparecía alguien preguntando qué consecuencias podría producir. Ese orden se está volviendo insostenible.

Hans Jonas advirtió hace más de cuatro décadas que la ampliación del poder tecnológico había modificado la naturaleza misma de la acción humana. Cuando nuestras decisiones pueden afectar a personas lejanas, generaciones futuras y sistemas ecológicos que no pueden responder ante nosotros, la ética deja de ocuparse únicamente de la intención inmediata. Debe hacerse cargo del alcance de la potencia que hemos construido.

La inteligencia artificial lleva esta intuición a una escala nueva. Una organización que automatiza decisiones laborales, incorpora agentes en procesos financieros, delega evaluación educativa o introduce sistemas generativos dentro de una cadena clínica no está simplemente adquiriendo software. Está redistribuyendo capacidad de acción. Y donde se redistribuye la acción también se redistribuye la responsabilidad.

Paul Ricoeur insistía en que la acción remite finalmente al agente capaz de reconocerse como autor y responder por aquello que hizo. La imputabilidad presupone precisamente esa posibilidad: poder atribuir una acción a alguien que pueda dar razón de ella.

¿Qué sucede entonces cuando introducimos una capa algorítmica entre la decisión y quien la padece?

El banco puede culpar al modelo. El proveedor puede señalar los datos. El desarrollador puede señalar las instrucciones del cliente. El directivo puede afirmar que siguió la recomendación técnica. El funcionario puede argumentar que el sistema estaba certificado. La responsabilidad corre el riesgo de evaporarse entre interfaces.

Por ello necesitamos algo más exigente que la famosa expresión “human in the loop”. Necesitamos una cadena humana de imputabilidad. En cada sistema de alto impacto debería poder identificarse quién autorizó su incorporación, quién evaluó sus riesgos, quién comprendió sus limitaciones, quién puede intervenir durante su operación, quién posee autoridad para detenerlo y quién responde frente a quienes resulten afectados.

No basta con que alguien permanezca “en el circuito” si ese alguien carece de conocimiento, autoridad o tiempo para intervenir.

La OCDE ofrece una radiografía inquietante. En 2026, 35 de los 36 países analizados ya utilizaban inteligencia artificial en alguna función gubernamental. Sin embargo, sólo 14 exigían evaluaciones de riesgo previas al despliegue; 12 contaban con comités internos de revisión y apenas 11 realizaban auditorías posteriores. Únicamente seis mantenían registros algorítmicos abiertos. La adopción institucional está creciendo más rápido que algunos de los mecanismos capaces de examinarla.

Ahí se encuentra una de las contradicciones culturales de nuestra época. Podemos implementar tecnologías cuya complejidad todavía estamos aprendiendo a interpretar, pero seguimos actuando como si comprenderlas fuera una actividad opcional. No lo es. Quien posee capacidad para decidir adquiere también una obligación epistemológica.

Sheila Jasanoff propuso hace años desarrollar technologies of humility: formas institucionales capaces de reconocer que la ciencia y la tecnología operan muchas veces bajo condiciones de incertidumbre. La humildad de la que habla no consiste en renunciar al conocimiento, sino en reconocer sus límites, identificar vulnerabilidades, preguntar quién recibe beneficios y quién soporta consecuencias, incorporar otras voces y mantener abierta la posibilidad de aprendizaje.

Una política responsable de inteligencia artificial debería comenzar precisamente ahí: no en la fascinación por lo que el sistema promete hacer, sino en aquello que todavía no sabemos sobre lo que podría hacer.

Esta transformación afecta directamente a la figura emergente del Chief AI Officer (CAIO). Sería un error convertirlo en el ejecutivo encargado simplemente de contratar modelos, automatizar procesos y elevar productividad. Su tarea será cada vez más incómoda: tendrá que saber cuándo una innovación no debe implementarse.

Tendrá que preguntar qué problema humano intenta resolver la tecnología, qué nuevas dependencias introduce, qué trabajadores quedarán expuestos, qué información circulará fuera de la organización, qué capacidades humanas podrían deteriorarse y qué ocurrirá cuando una decisión automatizada produzca un daño difícil de revertir. Innovar dejará de significar solamente introducir algo nuevo. En ciertos casos significará tener la inteligencia suficiente para no introducirlo todavía.

Bruno Latour cuestionó justamente la cómoda separación mediante la cual suponemos que la tecnología pertenece al mundo de los medios y la moral al territorio de los fines. Los artefactos modifican trayectorias, reorganizan relaciones y terminan desplazando los objetivos originales para los que fueron creados. La mediación tecnológica nunca es completamente neutral porque reconfigura el escenario en el que ocurre la acción.

La IA hace visible esa mediación. No llega intacta a una organización. Al integrarse altera velocidades, jerarquías, conocimientos, costos, empleos, expectativas y formas de ejercer autoridad. La ética no puede llegar después porque la tecnología tampoco llega sola.

La máquina tiene metabolismo

Existe otra responsabilidad que permanece escondida detrás de la pantalla. La inteligencia artificial parece inmaterial porque conversamos con ella mediante palabras. El cuadro de diálogo oculta su peso.

Detrás del prompt existen centros de datos. Detrás del centro de datos existen redes eléctricas, cadenas de semiconductores, sistemas de refrigeración, minerales, agua, suelo, capital financiero y comunidades que deben convivir con esas infraestructuras.

La Agencia Internacional de Energía estima que el consumo eléctrico mundial de los centros de datos podría superar los 945 TWh en 2030, más del doble respecto de 2024. La IA constituye el principal factor detrás de ese crecimiento. En ese escenario, los centros de datos consumirían cerca del 3% de toda la electricidad mundial al final de la década.

Podemos formular entonces una provocación sin antropomorfizar la tecnología: la IA comienza a comportarse, industrialmente, como un sistema que posee metabolismo. No porque esté viva. Porque su expansión necesita apropiarse continuamente de recursos para sostener capacidad de cómputo.

Hablar de responsabilidad algorítmica sin hablar de energía significa analizar únicamente la superficie luminosa de la interfaz.

La pregunta “¿quién responde por la IA?” incluye también preguntar quién responde por el agua que utiliza, la energía que exige, los minerales que demanda, los territorios donde se construyen sus centros de datos y las externalidades que quedan fuera de la factura que paga el usuario.

Mientras tanto, la arquitectura internacional intenta ponerse al día. El primer Diálogo Mundial sobre Gobernanza de la IA de Naciones Unidas reunió en Ginebra, en julio de 2026, a más de 3,000 participantes y delegaciones de 163 países. Su Panel Científico Internacional Independiente comenzó a construir una base común de evidencia para gobiernos con capacidades científicas y tecnológicas profundamente desiguales. La propia ONU reconoce, sin embargo, un límite fundamental: el Diálogo no es un espacio de negociación y sus resultados no son vinculantes. La paradoja es formidable.

Intentamos gobernar globalmente una tecnología cuyo desarrollo ocurre dentro de una competencia económica y geopolítica feroz. Pedimos transparencia a empresas cuya ventaja depende parcialmente del secreto. Solicitamos prudencia a laboratorios cuyo valor financiero está asociado con avanzar antes que sus competidores. Necesitamos evaluadores independientes que, para comprender verdaderamente los modelos, deberán acceder a información que las compañías consideran estratégica.

Anthropic comenzó en septiembre un experimento relevante en esta dirección al anunciar evaluadores independientes integrados dentro de su organización y un compromiso conjunto con Accenture de al menos 2,000 millones de dólares durante cinco años para desarrollar esa capacidad. Incluso la propia empresa reconoce que el modelo de embedded evaluation todavía debe resolver numerosos detalles sobre su funcionamiento e independencia. Ahí empieza la siguiente pregunta. ¿Quién responde por quienes evalúan?

La gobernanza de la IA necesitará también gobernanza de la gobernanza. Transparencia sobre los criterios de evaluación. Independencia material suficiente para contradecir al financiador. Capacidad de recusación. Auditoría pública. Diversidad de saberes. Canales efectivos para que trabajadores, ciudadanos y comunidades afectadas puedan disputar una decisión técnica.

No necesitamos sacerdotes del algoritmo que certifiquen desde un lenguaje incomprensible que todo está bajo control.

Necesitamos instituciones capaces de decir: no sabemos todavía; hace falta investigar; estas personas podrían resultar afectadas; este riesgo no ha sido suficientemente probado; este sistema debe detenerse.

La cuestión decisiva quizá no sea si podemos detener la inteligencia artificial como fenómeno histórico. Esa posibilidad parece cada vez menos plausible. La IA ya está entrando en universidades, empresas, gobiernos, hospitales, medios, hogares y conversaciones íntimas.

Lo que todavía podemos decidir es cómo queremos hacernos responsables de convivir con ella. Responsable es quien puede explicar por qué un sistema fue incorporado. Quien puede justificar qué decisiones le fueron delegadas. Quien sabe cómo detenerlo. Quien escucha a quien resultó afectado. Quien acepta responder cuando algo sale mal.

Empresa, desarrollador, proveedor, consejo directivo, universidad, gobierno y usuario forman parte de esa arquitectura. Ninguno debería poder esconderse detrás de la frase más cómoda de nuestra época: “lo decidió el algoritmo”. Porque los algoritmos no comparecen ante un tribunal moral. Nosotros sí.

Antes de firmar la próxima estrategia AI First, antes de automatizar otro proceso porque todos lo están haciendo, antes de entregar otra función humana a un agente, quizá haya una pregunta mucho más inteligente que preguntarle a la inteligencia artificial: Si esto transforma algo que todavía no comprendemos del todo, ¿quién está dispuesto a poner su nombre y responder por las consecuencias? Y si nadie puede hacerlo, quizá todavía no estamos preparados para presionar “activar”.