Lectura 1:00 min
OpenAI afirma que su red fue hackeada por sus propios agentes de inteligencia artificial rebeldes
El informe, de 37 páginas, revela aspectos hasta ahora desconocidos de la reciente oleada de ataques impulsados por los modelos más avanzados de OpenAI.
agentes de IA creados por OpenAI irrumpieron en sus propias redes.
Los agentes de inteligencia artificial (IA) creados por OpenAI irrumpieron en sus propias redes durante unas pruebas que salieron mal, según ha informado la empresa en un informe publicado este miércoles.
El informe, de 37 páginas, revela aspectos hasta ahora desconocidos de la reciente oleada de ataques impulsados por los modelos más avanzados de OpenAI.
Te puede interesar
Algunos de estos comportamientos anómalos, que culminaron en la filtración del repositorio de código abierto Hugging Face el mes pasado —que tuvo gran repercusión mediática—, ya se habían revelado o mencionado anteriormente.
Sin embargo, la empresa está revelando muchos detalles por primera vez. Algunos de ellos han suscitado la preocupación de al menos un investigador especializado en seguridad de la IA, quien afirmó que apuntaban a problemas potencialmente más profundos con la tecnología de OpenAI y, tal vez, más allá.