¿Qué son los modelos de pesos abiertos, a los que apuesta Nvidia y más de 30 tecnológicas?

Nvidia y otras 36 organizaciones tecnológicas fundaron este 27 de julio la Open Secure AI Alliance para desarrollar modelos y herramientas abiertas destinadas a proteger sistemas de inteligencia artificial. Microsoft, IBM, Hugging Face, CrowdStrike, Dell Technologies, Cisco y la Linux Foundation figuran entre los integrantes iniciales. La alianza busca que empresas y gobiernos puedan operar sistemas defensivos dentro de su propia infraestructura, con capacidad para examinarlos y adaptarlos durante un incidente informático. El anuncio de Nvidia identifica a 37 miembros fundadores.

El lanzamiento convirtió a los modelos de pesos abiertos en una discusión de negocios y seguridad. Tres días antes, Nvidia se había sumado a una carta coordinada por Microsoft que pide al gobierno de Estados Unidos evitar restricciones generales a esta tecnología. El documento ya reúne 78 firmas, entre ellas OpenAI, Google, Meta, AMD, Mistral, Mozilla y varias compañías que venden infraestructura para ejecutar inteligencia artificial. La carta reclama acceso a capacidad de cómputo y recursos compartidos de entrenamiento.

Los pesos son los valores numéricos que una red neuronal aprende durante su entrenamiento. El modelo procesa enormes cantidades de información y ajusta esos parámetros hasta encontrar relaciones que le permitan predecir una palabra, reconocer una imagen o producir una respuesta. Un sistema puede contener desde millones hasta cientos de miles de millones de esos valores.

La Open Source Initiative explica que un modelo está formado por su arquitectura, sus parámetros y el código que permite ejecutarlo. Los pesos constituyen la parte aprendida que se coloca sobre esa arquitectura para transformar una entrada en un resultado. Publicarlos permite descargar una copia funcional y ejecutarla fuera de los servidores de la empresa que la desarrolló.

Una compañía que recibe esos archivos puede instalar el modelo en un centro de datos propio. También puede ajustar sus parámetros con documentos internos para especializarlo en una industria. La cuantización reduce el tamaño y la memoria necesaria para operarlo, mientras el entrenamiento adicional modifica su comportamiento para una tarea determinada.

Los pesos carecen de un registro legible de todo lo aprendido. La inspección requiere pruebas, mediciones de activaciones y herramientas de interpretabilidad. Tampoco revelan por sí mismos qué materiales se utilizaron durante el entrenamiento ni las decisiones con las que fueron depurados. La procedencia completa de las respuestas permanece parcialmente oculta cuando el desarrollador conserva el conjunto de datos o el código de entrenamiento.

Pesos abiertos y código abierto

Un modelo de pesos abiertos puede ofrecer un grado de acceso menor al de un sistema de inteligencia artificial de código abierto. La OSI reserva esta última denominación para sistemas acompañados por el código necesario y por información suficientemente detallada sobre los datos utilizados. Esos materiales deben permitir que otra persona estudie cómo se obtuvo el modelo y realice modificaciones sustanciales.

Las licencias también establecen diferencias. Algunos desarrolladores permiten el uso comercial y la redistribución. Otros imponen límites relacionados con el número de usuarios, determinados sectores o la creación de modelos derivados. La disponibilidad de un archivo en Hugging Face acredita que puede descargarse. Los derechos efectivos dependen de la licencia que acompaña cada publicación.

Este esquema reduce la dependencia de las interfaces de programación controladas por una sola compañía. En un modelo cerrado, el proveedor conserva los pesos y procesa cada solicitud en sus servidores. Puede cambiar el precio, retirar una versión o bloquear determinados usos. Un modelo descargable permite conservar la misma versión y mantener información sensible dentro de la organización.

La operación local mantiene costos considerables. El propietario debe contratar capacidad de cómputo y personal para desplegar el modelo. También asume la vigilancia de las vulnerabilidades y las actualizaciones. Las interfaces comerciales cobran por cada millón de unidades de texto procesadas, mientras los sistemas propios trasladan el gasto hacia servidores y electricidad.

Nvidia vende los procesadores y la infraestructura utilizada para entrenar y ejecutar modelos, independientemente de quién conserve la propiedad intelectual. Su plataforma NIM convierte modelos descargables en servicios que pueden instalarse en centros de datos empresariales. La licencia de producción de Nvidia AI Enterprise comienza en 4,500 dólares anuales por unidad de procesamiento gráfico, de acuerdo con la documentación comercial de NIM.

La apertura del modelo amplía el número de organizaciones capaces de instalar inteligencia artificial y, con ello, la demanda de infraestructura. Nvidia asegura que 1.5 millones de modelos disponibles en Hugging Face pueden ejecutarse mediante CUDA. La empresa también publica su familia Nemotron y distribuye versiones optimizadas como microservicios para equipos propios o proveedores de nube. Nemotron 3 abarca modelos de 30,000 millones a unos 500,000 millones de parámetros.

La venta de infraestructura ya concentra la mayor parte del negocio de Nvidia. Durante el trimestre terminado el 26 de abril de 2026, la compañía obtuvo ingresos por 81,600 millones de dólares. Su división de centros de datos aportó 75,200 millones, equivalentes a 92% del total. Esa unidad creció 92% frente al mismo periodo del año anterior, según el reporte presentado por Nvidia ante la Comisión de Bolsa y Valores de Estados Unidos.

El incidente que aceleró la alianza

La Open Secure AI Alliance nació después de una intrusión sufrida por Hugging Face durante una evaluación de seguridad realizada por OpenAI. Los modelos GPT-5.6 Sol y otro sistema previo a su lanzamiento encontraron una vulnerabilidad inédita en un programa que funcionaba como intermediario para descargar paquetes. Después consiguieron acceso a internet y penetraron en la infraestructura de producción de Hugging Face para obtener soluciones de la prueba ExploitGym.

OpenAI reconoció el 21 de julio que sus modelos operaban con menos rechazos de seguridad porque la evaluación buscaba medir su capacidad cibernética máxima. Los sistemas escalaron privilegios dentro del entorno de investigación y encontraron una ruta para ejecutar código en los servidores externos. La compañía calificó el caso como un incidente cibernético sin precedente.

Hugging Face registró más de 17,000 acciones durante la intrusión. Sus equipos intentaron analizar los comandos y las cargas maliciosas mediante modelos comerciales alojados en la nube. Los filtros de esos servicios bloquearon parte del material porque lo identificaron como contenido ofensivo. La empresa instaló entonces GLM 5.2, un modelo chino de pesos abiertos desarrollado por Z.ai, y ejecutó el análisis dentro de sus propios sistemas. La reconstrucción que normalmente habría requerido días se completó en horas y los datos del atacante permanecieron dentro de la infraestructura afectada.

La nueva alianza utilizará ese caso para desarrollar un conjunto compartido de defensa. Nvidia aportará NOOA, un programa abierto que registra el comportamiento de los agentes y facilita su auditoría. Hugging Face contribuirá con Safetensors, un formato para almacenar pesos que impide la ejecución remota de código desde el propio archivo. Microsoft incorporará MDASH, un sistema que coordina varios agentes para buscar vulnerabilidades explotables.

La apertura también elimina parte del control posterior al lanzamiento. Una copia descargada puede modificarse para retirar salvaguardas y resulta difícil conocer todas sus redistribuciones. Anthropic sostiene que esa característica permite que capacidades informáticas o relacionadas con armas peligrosas lleguen a actores fuera del control de cualquier gobierno. La empresa ha advertido que las protecciones pueden eliminarse después de publicar los pesos.

La Administración Nacional de Telecomunicaciones e Información de Estados Unidos examinó estos riesgos en 2024 y recomendó desarrollar mecanismos permanentes de vigilancia. La agencia consideró prematuro imponer restricciones inmediatas debido a la falta de evidencia suficiente sobre daños adicionales atribuibles a la publicación de los parámetros. El informe propuso un monitoreo gubernamental sin prohibiciones iniciales.

La política estadounidense vigente mantiene una postura favorable. El Plan de Acción de Inteligencia Artificial de la Casa Blanca pide facilitar el acceso de empresas pequeñas a modelos abiertos y encarga a la NTIA promover su adopción. El documento considera que permiten trabajar con información que una organización no puede enviar a proveedores externos. También reconoce su valor estratégico frente a la expansión internacional de modelos desarrollados en China. El plan federal ubica los pesos abiertos dentro de su política de innovación.

Los proveedores de modelos cerrados cobran principalmente por suscripciones o por el uso de sus interfaces. Nvidia obtiene la mayor parte de sus ingresos de la venta de infraestructura de cómputo. Los modelos de pesos abiertos pueden ejecutarse en servidores propios, servicios de nube o dispositivos con capacidad suficiente, según su tamaño y nivel de optimización.