Cómo podría funcionar una pausa en la IA de vanguardia

BERKELEY.- Dario Amodei, cofundador de Anthropic, entre otros, ha advertido que la IA representa una amenaza existencial para la humanidad. Otros han ido más allá y han abogado por detener el entrenamiento de los nuevos modelos de IA de vanguardia. El contraargumento es que la regulación, incluida la autorregulación, difícilmente será efectiva. E incluso si una pausa es factible en principio, hay pocas esperanzas de que pueda mantenerse en la práctica, dado que Estados Unidos y China temen desesperadamente quedarse atrás el uno del otro.

Sin embargo, un nuevo informe de un grupo interdisciplinario de investigadores, del cual formamos parte, concluye que una pausa global en el entrenamiento de IA de vanguardia es factible y sostenible. Si se implementa adecuadamente, dicha pausa podría prolongarse durante una década o más, dependiendo de factores como el ritmo de los avances en la eficiencia del entrenamiento de IA.

Los modelos de vanguardia requieren chips de IA cuya cadena de suministro está altamente concentrada. Una “pausa programada” aprovecharía este cuello de botella al detener la producción de chips de IA aptos para el entrenamiento. Esto permitiría la producción de chips capaces de realizar inferencias rápidas de IA en modelos aprobados, pero que, debido a su diseño, no pueden utilizarse en la práctica para entrenar nuevos modelos de vanguardia.

Una vez que aumente la producción de chips dedicados exclusivamente a la inferencia, los chips con capacidad de entrenamiento previo a la pausa se eliminarán gradualmente, impidiendo así que se utilicen para impulsar una nueva carrera por el desarrollo de la IA. Esta pausa programada permitiría a los Estados obtener los beneficios económicos de la inferencia de la IA sin continuar con el entrenamiento, lo que podría provocar graves trastornos en la sociedad y la seguridad nacional.

La cadena de suministro de chips de IA está extremadamente limitada. Las máquinas de litografía avanzada (ultravioleta extrema) solo están disponibles a través de un proveedor, la empresa holandesa ASML, y se envían en contenedores distribuidos en 20 camiones y tres aviones de carga. ASML depende de espejos de una única empresa alemana de óptica de alta precisión, Zeiss. Las tierras raras refinadas solo se obtienen de un número limitado de proveedores nacionales. Otros materiales, como el cuarzo de alta pureza, provienen de un número reducido de lugares.

En cuanto al uso de esos chips, un evasor que utilice un solo ordenador para entrenar un modelo de IA pequeño podría ser imposible de detectar. Pero se necesitarían cientos de miles de chips durante meses o años para entrenar modelos de IA a una escala significativamente superior a la de los modelos de vanguardia actuales, como Astra de OpenAI. Tras apoderarse de semejante flota de hardware, un evasor tendría que engañar al mundo durante un largo periodo, haciéndoles creer que se estaba utilizando, por ejemplo, para realizar inferencias lucrativas y computacionalmente intensivas.

Esto sugiere que un número limitado de intervenciones -incluidos controles sobre la producción y venta de chips para entrenamiento, máquinas de litografía avanzadas y tierras raras- contribuirían significativamente a suspender el entrenamiento de modelos de vanguardia. Esto permitiría, aun así, la producción de chips exclusivamente para inferencia, como ciertos circuitos integrados específicos para cada modelo que incorporan la arquitectura y los pesos de un modelo aprobado. Si bien ya existen chips específicos para cada modelo, su rentabilidad se ve limitada por la alta rotación de los modelos de vanguardia. Su producción resultaría más atractiva con una pausa en el entrenamiento de nuevos modelos de vanguardia.

Algunos objetarán que detener la producción de chips con capacidad de entrenamiento frenará el avance de la IA. Precisamente ese es el objetivo. Sin embargo, con la cooperación adecuada, sería posible crear reservas científicas con gobernanza internacional donde los chips con capacidad de entrenamiento se utilizarían para cargas de trabajo de investigación declaradas y transparentes.

Pero, ¿podría mantenerse a largo plazo la cooperación en una pausa entre Estados Unidos y China, y en general? Los Estados podrían verse tentados a incumplir dicho acuerdo, a pesar de los riesgos, si los beneficios potenciales de los avances en IA son considerables, y ocultar el incumplimiento podría resultar más fácil a medida que los algoritmos de entrenamiento se vuelven más eficientes.

Pero quienes toman las decisiones deben comprender que participan en un juego que se repite, que habrá supervisión y que las ganancias inmediatas podrían verse anuladas por pérdidas futuras si el acuerdo fracasa. Unos mecanismos de supervisión adecuados pueden limitar el riesgo de incumplimiento. La historia de la contención de armas nucleares sugiere que vale la pena intentar un acuerdo internacional.

Sin duda, existen salvedades. Es posible que los responsables políticos de Estados Unidos y China carezcan de la paciencia necesaria para mantener la cooperación a largo plazo. Dado el stock existente de chips de IA aptos para el entrenamiento, es probable que los países no puedan mantener una pausa a menos que se realice un censo suficientemente exhaustivo. La fabricación de chips tendría que ser supervisada rigurosamente, y los desarrolladores de modelos de vanguardia podrían convertirse en monopolios privilegiados a menos que la regulación les impida explotar su poder de mercado.

Corresponde a los responsables políticos decidir si se debe pausar el desarrollo de la IA de vanguardia. Sin embargo, deben reconocer que una pausa es factible y, si se implementa correctamente, es probable que sea sostenible.

El autor

Barry Eichengreen, catedrático de Economía y Ciencias Políticas en la Universidad de California, Berkeley, es autor, entre otras obras, de Money Beyond Borders: Global Currencies From Croesus to Crypto (Princeton University Press, 2026).

El autor

Will Fithian es catedrático asociado de Estadística en la Universidad de California, Berkeley.

El autor

Wesley Holliday es catedrático de Filosofía y director del Grupo de Lógica y Metodología de la Ciencia en la Universidad de California, Berkeley.

Copyright: Project Syndicate, 1995 - 2026

www.project-syndicate.org