La UE advierte a los proveedores de IA de "poner orden" en sus modelos

Los proveedores de servicios de inteligencia artificial deben "poner orden" en sus modelos y asegurarse de que estos permanezcan bajo su control, advirtió este viernes la Comisión Europea tras una serie de incidentes preocupantes.

La semana pasada investigadores revelaron un nuevo incidente en el que estuvieron involucrados miles de agentes de inteligencia artificial de OpenAI, que desobedecieron sus instrucciones y tomaron el control de un sitio web alemán en mayo.

OpenAI es acusada de haber mantenido el incidente en secreto durante varios meses, mientras la empresa ya había sido sacudida por la intrusión no autorizada de agentes de IA en julio en Hugging Face, una plataforma para alojar modelos de inteligencia artificial.

"Ya es hora de que estos proveedores pongan orden en sus asuntos y se aseguren de mantener bajo control sus modelos avanzados", declaró a la prensa el portavoz de la Comisión Europea, Thomas Regnier, consultado sobre informaciones según las cuales los agentes de OpenAI habrían atacado alrededor de una decena de otros sitios web.

El Ejecutivo europeo indicó esta semana que OpenAI le había informado sobre el incidente relacionado con Hugging Face, una plataforma colaborativa (o wiki) alemana dedicada a desarrolladores informáticos. y que estaba tomando el caso "muy en serio".

Bruselas cuenta desde agosto con nuevas facultades para regular a los proveedores de IA, en virtud de la legislación europea sobre inteligencia artificial (AI Act).

Por otra parte, tras meses de conversaciones con la empresa estadounidense, la agencia europea de ciberseguridad, la ENISA, obtuvo el jueves acceso a Mythos 5, el modelo de IA más potente de Anthropic, cuya distribución había estado inicialmente reservada a organismos anglosajones seleccionados.

Los incidentes relacionados con agentes de IA que exceden sus atribuciones para cumplir la misión que se les ha encomendado se han multiplicado en los últimos meses.

Anthropic y la empresa china Alibaba también han experimentado incidentes similares.