Gobierno de EU descarta someter a pruebas de seguridad a modelos de código abierto de IA

El ⁠Gobierno de Donald Trump comunicó el martes a los desarrolladores de IA que no someterá los modelos de IA de código ⁠abierto a pruebas de seguridad voluntarias, ⁠según dos fuentes familiarizadas con las conversaciones.

Los modelos abiertos, entre los que se incluyen Nemotron de Nvidia y Llama de Meta, son sistemas de IA cuyos componentes básicos son de acceso público. Los modelos cerrados están controlados por empresas concretas.

Los principales desarrolladores estadounidenses de modelos cerrados son OpenAI, Google y Anthropic.

La Casa Blanca debatió las normas de pruebas, aún no publicadas, con personal de Meta, Anthropic, Google , Nvidia y OpenAI, según cinco fuentes familiarizadas con la reunión.

Anthropic y OpenAI revelaron en los últimos días que sus herramientas de IA habían vulnerado los sistemas de otras empresas, lo que ha suscitado preocupación entre los parlamentarios estadounidenses sobre si los modelos de IA, cada vez más capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques.

El Gobierno afirmó en junio que las pruebas serían voluntarias y estarían diseñadas para modelos de IA con sofisticadas capacidades de ⁠piratería informática. Tanto OpenAI como Anthropic cuentan ⁠con modelos dotados de ⁠capacidades avanzadas de ciberseguridad.

Cinco senadores demócratas instaron el martes a Trump a colaborar con ⁠el Congreso para aprobar una ley que haga permanentes las pruebas de los modelos de IA más avanzados fabricados en Estados Unidos, denominados "modelos de vanguardia".

"Estados Unidos no puede permitirse crear un entorno normativo en el que los sistemas de IA estadounidenses más avanzados estén sujetos a restricciones opacas y caso por caso, mientras que las alternativas chinas ⁠parecen más baratas, de más fácil acceso y más predecibles a la hora de implementarlas", afirmaron los senadores en la carta.