Los modelos de IA podrían autorreplicarse pronto sin acceder a centros de datos: Anthropic

Anthropic dijo el lunes que sus experimentos apuntaban a que los modelos pequeños de IA podrían estar a solo unos meses de ser lo suficientemente capaces como para autorreplicarse en dispositivos comerciales del "Internet de las cosas" (IoT), como hornos inteligentes y decodificadores de Android TV de marcas genéricas.

En sus experimentos, Anthropic analizó si los modelos de IA podían detectar dispositivos vulnerables, copiarse en ellos y seguir propagándose sin ayuda humana.

Descubrió que los modelos pequeños, con menos de 30,000 millones de parámetros, podían completar los numerosos pasos necesarios para la replicación.

Sin embargo, la empresa observó que dichos modelos de IA también tenían dificultades para completar toda la secuencia de principio a fin.

En sus pruebas simplificadas, en las que se eliminaron algunos pasos de seguridad, Anthropic descubrió que el GLM-5.2 y modelos más potentes eran capaces de replicarse de principio a fin.

Anthropic advirtió de que sería difícil desactivar los modelos replicantes, ya que no existe un punto central de desactivación y, a diferencia del "malware" no basado en IA, también podrían identificar por sí mismos dispositivos desconocidos, dirigiéndose a los procesadores de los centros de datos.

En su investigación, la empresa se centró en dispositivos del IoT, como televisores Android, electrodomésticos inteligentes y otros aparatos conectados a internet, ya que suelen tener una seguridad deficiente.

La importante empresa de IA también advirtió de que, si los modelos pequeños mejoraran al ritmo histórico, serían capaces de replicarse de forma autónoma a finales de este año, y que los replicadores pequeños basados en peso seguirían su ejemplo poco después.

Anthropic señaló además que era probable que dichos sistemas de IA autónomos se replicaran lentamente y dependieran de recursos informáticos ampliamente disponibles y relativamente inseguros. Añadió que habría que reforzar los sistemas para dificultar la propagación de este tipo de agentes de IA.