El 25% según Amodei: parte 1

¿Usted tomaría un vuelo si supiera que 1 de cada 4 aviones tienen un accidente? Ese es el porcentaje de riesgo que Dario Amodei le asigna al panorama de que la inteligencia artificial (IA) no sea un motor de bienestar y soluciones a los grandes retos de la humanidad, sino que, al contrario, sea una amenaza a la sociedad, causando mayor inequidad, dañando la paz y la democracia.

Anthropic se ha convertido en una empresa icónica e inédita, rompiendo todos los récords del sector de la tecnología en IA, pero también en términos de los principios y valores que suscribe (o que dice que promueve). Dario Amodei y su hermana Daniela, junto con un grupo de otros programadores, salieron de OpenAI de Sam Altman en 2021, peleados con su exjefe por un tema de estándares éticos. Para Amodei y sus socios, la IA no debería ser usada en asuntos de guerra como última herramienta; ante una acción militar, o de seguridad nacional, decisión final debe recaer siempre en un ser humano, no en un algoritmo (que aprende solo).

Lo anterior, además de su rompimiento con Altman, ha llevado a Anthropic a tener un conflicto judicial con la Administración de Donald Trump, y a enfrentarse cara a cara con el secretario de guerra Hegseth.

Anthropic es la compañía que en 2023 lanzó al mercado la IA llamada Claude, que ha revolucionado el sector y ganado terreno frente a las primeras herramientas como ChatGPT, entre otras. El ingeniero que programó Claude comenzó a trabajar en Anthropic en 2022, y en 2026 presentó dos productos más, Claude Code y Clode Cowork. Las tres herramientas han sido un éxito sin precedentes, haciendo que la compañía ya tenga utilidades y un valor de mercado por arriba de los 800 mil millones de dólares. Todo indica que en unos meses más saldrá a colocar acciones al mercado, y valdrá billones de dólares. En 2026, no solo Musk habrá colocado acciones en la bolsa, se espera que OpenAI y Anthropic también lo hagan.

Este enorme impulso económico de inversiones en IA tan solo en 2026 generará una derrama estimada de 925 mil millones de dólares, en una cadena de valor enorme; más allá de los ingenieros y técnicos que programan, se requieren: minerales críticos y su procesamiento, semiconductores, consolas, centros de datos, parques de energía solar y eólica, entre otros. ¡Todo lo cual es una oportunidad inmensa para México! SENER y CFE llevan tres rondas de proyectos de inversión mixta y privada en energía renovable. Las tres han sido bastante exitosas. Hay que hacer más.

Sin embargo, lo que quiero subrayar en este espacio es el dilema que Amodei señala cuando dice que existe el 25 por ciento de probabilidad de que la IA sea una amenaza para nuestra civilización, y de la urgencia de regulación.

Anthropic está (o estaba) por lanzar su más nuevo producto, llamado Mythos 5, que es un programa de IA para detectar vulnerabilidades en sistemas complejos (infraestructura eléctrica o ductos, servicios financieros, telecomunicaciones, sistemas de defensa, aeropuertos, redes de logística, entre otros). No habían lanzado Mythos por los riesgos que implica. Para ellos mismos, los creadores, esta herramienta es tan poderosa que es una inmensa amenaza si se usa con fines maliciosos. Utilizada correctamente – como pretende Anthropic – servirá para identificar vulnerabilidades en redes y sistemas complejos, que una vez detectadas se pueden robustecer y proteger ante posibles ataques (hackers). ¿Pero quién garantiza que Mythos 5 se utilice de manera correcta-bien intencionada-apegada a la ley?

Donald Trump y su zar de IA, el inversionista de Sylicon Valley, David Sacks, han sido reacios a impulsar una mayor regulación en IA. A pocas semanas de iniciado su gobierno en 2026, Trump eliminó las restricciones regulatorias que Biden había impuesto para IA. El pasado mes de mayo finalmente Trump firmó una orden ejecutiva “descafeinada” para que las empresas envíen al gobierno sus productos (código y algoritmos) 30 días antes de comercializarlos, para que sean analizados antes de que salgan al mercado.

En este contexto, el viernes 12 de junio, el Departamento de Justicia le ordenó a Anthropic no sacar al mercado su nueva herramienta, Mythos 5, que tenían programado vender a “solamente” 150 clientes; y que solo empresas o ciudadanos de Estados Unidos podrían tener acceso a usarla, por temas de seguridad nacional.

El mundo de la IA está avanzando a un ritmo que no alcanzamos a entender. Así como las empresas tecnológicas de redes sociales invadieron nuestra vida, causando enormes daños (consientes de hacerlo) a la salud física y mental, y al bienestar de la niñez y adolescentes, sin regulación y sin contrapesos, podríamos estar viendo en tiempo real que la IA destruya elementos fundamentales de la sociedad.