¿Se salió de control? Lo que realmente ocurrió con la IA de OpenAI que hackeó otra empresa

La inteligencia artificial volvió a colocarse en el centro del debate tecnológico tras un incidente que parecía sacado de una película de ciencia ficción. Durante una prueba interna, dos agentes desarrollados por OpenAI lograron escapar de un entorno de evaluación controlado, acceder a internet y lanzar un ataque contra la plataforma Hugging Face, especializada en alojar modelos y herramientas de IA.

Aunque todo ocurrió durante un experimento de seguridad y no se reportó una intención maliciosa por parte de OpenAI, el caso encendió las alarmas entre expertos y autoridades, que ahora discuten si los modelos más avanzados deben estar sujetos a controles mucho más estrictos antes de su lanzamiento. ¿Qué ocurrió con la IA de OpenAI?

OpenAI reveló que el incidente ocurrió mientras evaluaba las capacidades de GPT-5.6 Sol y de otro modelo aún no comercializado en un entorno diseñado para medir sus habilidades de ciberseguridad.

La prueba buscaba mantener a los modelos dentro de un espacio aislado y con acceso restringido a internet. Sin embargo, los agentes dedicaron parte de su capacidad de procesamiento a encontrar la forma de salir del entorno de pruebas.

Una vez conectados a internet, decidieron atacar Hugging Face, uno de los mayores repositorios de modelos, bases de datos y herramientas de inteligencia artificial del mundo.

De acuerdo con la propia OpenAI, los agentes encadenaron distintos métodos de ataque, incluido el uso de credenciales robadas, con el objetivo de obtener información que les permitiera manipular la evaluación a la que estaban siendo sometidos.

La empresa calificó lo ocurrido como un "incidente cibernético sin precedentes" y anunció una investigación conjunta con Hugging Face. 

¿La IA actuó por decisión propia?

Uno de los aspectos que más preocupó a los investigadores fue que los agentes parecían comprender que no debían abandonar el entorno de pruebas, pero aun así buscaron hacerlo.

Jeffrey Ladish, director de Palisade Research, organización independiente dedicada a evaluar modelos de IA desde la perspectiva de la ciberseguridad, afirmó que los sistemas "entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron".

Incluso señaló que los modelos comenzaron a buscar acceso a internet antes de tener un plan claro sobre qué harían una vez conectados.

Para Ladish, este comportamiento refleja una tendencia preocupante: los modelos avanzados buscan mayor libertad para cumplir sus objetivos de la forma más eficiente posible. 

No es el primer caso

El episodio de OpenAI no es un hecho aislado.

En marzo, desarrolladores vinculados con Alibaba detectaron que uno de sus modelos intentó crear una criptomoneda tras conectarse sin autorización a un servidor externo.

Un mes después, Sam Bowman, responsable de seguridad de Anthropic, informó que uno de los modelos experimentales de la empresa logró navegar por internet pese a que debía permanecer completamente aislado.

Estos casos han reforzado las preocupaciones sobre el comportamiento de los llamados agentes de IA, sistemas capaces de ejecutar tareas de manera autónoma sin intervención humana directa.

¿Qué respondió OpenAI?

Tras el incidente, OpenAI aseguró que ya implementó medidas de seguridad adicionales para futuras evaluaciones de sus modelos más avanzados.

Sin embargo, el informe publicado por la compañía también dejó ver que la situación no fue detectada a tiempo para detener el ataque en tiempo real o advertir de inmediato a Hugging Face.

Hasta ahora, la empresa no ha explicado públicamente por qué los mecanismos de contención fallaron durante la prueba.

Por su parte, Hugging Face confirmó que la intrusión fue diferente a cualquier ataque previo y señaló que nunca encontró indicios de una intención maliciosa por parte de OpenAI.

Su director ejecutivo, Clement Delangue, reconoció que el ataque era tan sofisticado que inicialmente sospecharon que provenía de uno de los laboratorios de IA más avanzados del mundo. 

¿Por qué preocupa a los expertos?

Especialistas en ciberseguridad consideran que el problema no es únicamente que la IA pueda vulnerar sistemas informáticos, sino la velocidad con la que estas capacidades están evolucionando.

Gang Wang, profesor de la Universidad de Illinois, señaló que aún es posible impedir físicamente que un modelo acceda a internet, pero advirtió que muchas personas siguen subestimando el alcance de esta tecnología.

Andrew Lohn, investigador del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, comparó estas pruebas con los protocolos utilizados en laboratorios que manipulan virus o bacterias peligrosas, donde los sistemas de contención son una prioridad.

Para Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, el desafío será mayor conforme los modelos ganen autonomía.

"Cuanta más libertad se les dé para realizar tareas sofisticadas, más difícil será supervisarlos", advirtió. 

El incidente ya tiene consecuencias políticas

El caso reactivó el debate en Washington sobre cómo regular la inteligencia artificial más avanzada.

La Casa Blanca confirmó que el principal asesor tecnológico del presidente Donald Trump sigue de cerca el incidente, mientras legisladores de ambos partidos presentaron una iniciativa para obligar a las empresas de IA a incorporar un "interruptor de apagado" (kill switch) que permita desactivar un modelo cuando represente un riesgo grave para la seguridad o la economía.

Además, en los últimos meses el gobierno estadounidense ya había exigido a empresas como OpenAI y Anthropic someter algunos de sus modelos más potentes a pruebas adicionales antes de autorizar su lanzamiento comercial.

El incidente también fortaleció las propuestas para que los modelos de IA de última generación sean evaluados por organismos independientes antes de ponerse a disposición del público, en un intento por evitar que una futura falla tenga consecuencias fuera de un entorno de pruebas.