¿Qué sabemos sobre Mythos, de Anthropic, y por qué preocupa?

A principios de este ⁠mes, Anthropic presentó Mythos, su modelo de IA más avanzado hasta la fecha, dotado de ⁠sofisticadas capacidades y diseñado para tareas defensivas de ciberseguridad.

Las enormes capacidades de Mythos han despertado temor por la amenaza que supone para la seguridad del software tradicional, luego de que la startup de IA ⁠dijo que la versión preliminar había descubierto "miles" de ⁠vulnerabilidades importantes en "todos los principales sistemas operativos y navegadores web".

¿Cómo se lanzó el ‌modelo y quién tiene acceso a él?

Anthropic ha lanzado Claude Mythos Preview a través de una iniciativa controlada denominada "Project Glasswing", que concede acceso a grandes empresas tecnológicas como Amazon , Microsoft, Nvidia y Apple.

La compañía lo amplió a un grupo de más de otras 40 organizaciones que desarrollan o mantienen infraestructuras de software críticas.

¿Cuáles son las preocupaciones?

Los expertos advirtieron que el modelo puede identificar y explotar vulnerabilidades hasta ahora desconocidas más rápido de lo que las empresas pueden repararlas.

Su codificación avanzada y sus capacidades autónomas podrían acelerar drásticamente los ciberataques sofisticados, especialmente en sectores como la banca, que dependen de sistemas tecnológicos complejos, interconectados y, a menudo, con décadas de antigüedad, dijeron.

Al presentar Mythos, Anthropic señaló que la capacidad del modelo para detectar fallos de software a gran escala podría, si se usa indebidamente, suponer graves riesgos para las economías, la seguridad pública y la seguridad nacional.

Las acciones de las empresas de software estadounidenses se desplomaron el 9 de abril después de que el lanzamiento de Mythos el 7 de abril reavivó el temor de que los avances en IA puedan complicar a las empresas tradicionales.

¿Qué han dicho la casa blanca y los reguladores?

La Casa Blanca ha mantenido conversaciones con el presidente ejecutivo de Anthropic, Dario Amodei, sobre Mythos, y los funcionarios ⁠han dicho que hablaron sobre colaboración, ciberseguridad y el equilibrio ⁠entre la innovación en IA y la seguridad. ⁠Las conversaciones se dieron a pesar de que el Pentágono impuso a Anthropic una designación formal de riesgo para ⁠la cadena de suministro.

El Gobierno de Estados Unidos tiene previsto poner una versión de Mythos a disposición de las principales agencias federales, informó Bloomberg News.

Reuters informó que el secretario del Tesoro de Estados Unidos, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, tuvieron una reunión con los presidentes ejecutivos de los principales bancos estadounidenses para informarles sobre los posibles riesgos del modelo.

El modelo también ha hecho saltar las alarmas en Gran Bretaña, donde las autoridades han mantenido conversaciones con los principales bancos y responsables de ⁠ciberseguridad para evaluar los posibles riesgos.

Los bancos están en estrecho contacto con sus reguladores europeos en relación con Mythos, dijo Christian Sewing, presidente de la asociación bancaria alemana y presidente ejecutivo de Deutsche Bank.