Expertos de EU y China proponen medidas de seguridad similares a las de las nucleares para la IA

Un sistema de inteligencia artificial que interfiera en una red de mando nuclear o lance una operación cibernética militar podría dejar a Washington o a Pekín con apenas unos minutos para decidir si el otro país ha lanzado un ataque, según expertos en seguridad estadounidenses y chinos.

Estos expertos, que forman parte de un diálogo entre Estados Unidos y China cuya labor contribuye a orientar los debates oficiales, instan a ambos gobiernos a prepararse para este tipo de situaciones ante la creciente preocupación por unos sistemas cada vez más potentes y autónomos.

Sus propuestas incluyen líneas rojas en torno a los sistemas nucleares, el control humano sobre los ciberataques significativos y una línea directa para incidentes relacionados con la IA autónoma.

Las recomendaciones se publicaron la semana pasada, antes de las conversaciones sobre IA previstas a nivel gubernamental y de la reunión prevista para el 24 de septiembre en Washington entre el presidente de EU, Donald Trump, y el presidente chino, Xi Jinping.

Los autores, Melanie Sisson, investigadora principal del centro de estudios Brookings Institution, y Tianjiao Jiang, profesor asociado de la Universidad de Fudan, participaron en el diálogo entre EU y China sobre IA y seguridad nacional, convocado desde 2019 por Brookings y el Centro de Seguridad Internacional y Estrategia de la Universidad de Tsinghua.

Sus propuestas muestran cómo la rivalidad entre EU y China en materia de IA está yendo más allá de la competencia por los chips y los modelos avanzados para adentrarse en asuntos asociados desde hace tiempo al control de armamento: cómo evitar que los accidentes se confundan con ataques, limitar las decisiones militares tomadas por máquinas y establecer protocolos de comunicación para rivales con armas nucleares cuando la tecnología se comporte de forma inesperada.

El ministro de Seguridad del Estado de China, Chen Yixin, escribió esta semana en un medio gubernamental que la IA "transforma fundamentalmente la naturaleza de la lucha militar". Según el ministro, la IA había pasado de desempeñar un papel secundario en el campo de batalla a uno clave, señalando los ataques dirigidos por IA en la guerra de Estados Unidos e Israel contra Irán.

Líneas rojas en torno a los sistemas nucleares

Sisson, de la Brookings Institution, argumentó que los seres humanos deberían conservar la autoridad exclusiva para iniciar ciberataques basados en la IA contra los sistemas de mando, control y comunicaciones nucleares de otro país o contra infraestructuras de importancia estratégica.

Un sistema autónomo podría fallar, excederse en sus instrucciones o verse comprometido, mientras que el país atacado podría tener dificultades para determinar si la acción fue accidental o ordenada por su rival.

Jiang, de la Universidad de Fudan, propuso establecer "líneas rojas" explícitas que impidan a la IA decidir de forma independiente el uso de armas nucleares o atacar de manera autónoma los sistemas de mando nuclear, junto con medidas de protección en torno a las infraestructuras críticas, como las de energía, finanzas y sanidad.

Asimismo, instó a establecer una definición común de "control humano significativo" para evitar que ambos países utilicen un lenguaje idéntico para justificar distintos niveles de autonomía de las máquinas.

La idea se basa en un principio respaldado por el entonces presidente de EU, Joe Biden, y por Xi en noviembre de 2024, según el cual los seres humanos deben mantener el control sobre las decisiones relativas al uso de armas nucleares.

Lora Saalman, investigadora principal asociada del Instituto Internacional de Estudios para la Paz de Estocolmo, escribió en febrero que este era un importante punto de convergencia entre EU y China, a pesar de que ambos países mostraban señales de integrar la IA más profundamente en los sistemas nucleares y conexos.

Cuando las máquinas se mueven más rápido que los seres humanos

Jiang también propuso una línea directa militar específica entre EU y China para incidentes relacionados con la IA, advirtiendo de que los intercambios cibernéticos automatizados podrían escalar demasiado rápido como para permitir la intervención humana.

La IA defensiva de un país podría responder automáticamente a una actividad sospechosa, mientras que la otra parte podría interpretar esa respuesta como un ataque y tomar represalias antes de comprender lo que realmente ha ocurrido.

Una línea directa permitiría a un gobierno comunicar al otro que una operación inusual de IA fue accidental, no autorizada o que aún se está investigando, antes de que se considere una acción estatal deliberada.

Sin embargo, expertos como Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de la Universidad Johns Hopkins, han cuestionado la utilidad de la línea directa militar existente entre EU y China para la comunicación en situaciones de crisis, basándose en la negativa de los dirigentes chinos a responder a las llamadas de sus homólogos estadounidenses sobre el "incidente del globo espía" de febrero de 2023.

La rígida jerarquía vertical de la burocracia china también impide que los oficiales de bajo rango tomen la iniciativa durante los contactos con sus homólogos estadounidenses, escribió en un artículo para War on the Rocks en enero.

"Nadie en el sistema chino quiere comunicarse con Estados Unidos hasta que los máximos dirigentes, tras consultar con los actores pertinentes dentro del partido-Estado chino, hayan decidido una respuesta, lo que puede llevar días, si no más", dijo.