Ley Zapata de Inteligencia Artificial

De entre el cúmulo de iniciativas para reglamentar la Inteligencia Artificial (IA), la más reciente del senador Rolando Zapata Bello (PRI) es una ley integral para regular y fomentar el uso de la IA en México. Plantea que la IA es un factor de poder y no sólo una herramienta. Una infraestructura de decisión para el Estado, los mercados y la vida cotidiana, por lo que el Congreso no puede mirar desde lejos una tecnología que impacta en derechos, empleo, seguridad, privacidad y democracia.

La propuesta parte del diagnóstico de que la regulación es dispersa, sectorial y reactiva. Sólo en la Comisión de Análisis, Seguimiento y Evaluación sobre la aplicación y desarrollo de la Inteligencia Artificial, que preside el senador Zapata, hay 34 iniciativas. También existen reglas en datos personales, competencia, salud, trabajo, seguridad y telecom, pero no un marco general que ordene la IA como fenómeno transversal. La iniciativa intenta llenar ese vacío con una ley basada en riesgos, como ha sido la tendencia internacional iniciada en Europa. 

La propuesta fija principios, reconoce neuroderechos, incorpora privacidad, ciberseguridad y convierte los Principios de Chapultepec (que la Secretaría de Ciencia, Humanidades, Tecnología e Innovación y la Agencia de Transformación Digital y Telecomunicaciones presentaron de forma unilateral el 29 de enero) en mandatos legales. 

Entre sus ejes están la no discriminación, la responsabilidad humana, la explicabilidad, la participación social y el dato como bien público.

La ley crea el Sistema Nacional de Inteligencia Artificial y coloca al frente una Autoridad Nacional en Inteligencia Artificial, de nueva creación, con autonomía técnica y de gestión, dentro del Ejecutivo Federal. Esa autoridad coordinaría, articularía y daría seguimiento a la política nacional. 

El proyecto prevé un Consejo Consultivo Nacional, consejos sectoriales y observatorios ciudadanos. La idea es gobernar la IA con varias voces y con coordinación entre Federación, estados, municipios, academia, empresas y sociedad civil.

La columna vertebral regulatoria es el enfoque basado en riesgos. También es la principal amenaza de la propuesta. La ley obliga a realizar una Evaluación de Impacto Algorítmico antes de poner en marcha sistemas de alto riesgo o de impacto relevante en derechos humanos, seguridad nacional, salud pública, medio ambiente, procesos democráticos o servicios esenciales. 

Prohíbe operar sistemas cuyo funcionamiento no pueda explicarse de forma razonable cuando produzcan efectos jurídicos o daños significativos. Sobre esa base, la autoridad podría clasificar sistemas, exigir auditorías, imponer medidas cautelares, ordenar una suspensión y crear estándares técnicos unificados. La lógica es regular donde el daño mayor es posible.

El financiamiento para la regulación de la IA está previsto. La iniciativa crea un Fondo Nacional para el Desarrollo de la Inteligencia Artificial. Se integraría con recursos del Presupuesto de Egresos de la Federación, aportaciones públicas, donaciones internacionales, aportaciones privadas y hasta ingresos derivados de proyectos tecnológicos y de innovación abierta. La ley obliga al presupuesto federal a prever recursos específicos para infraestructura, supercómputo, repositorios científicos y centros de excelencia, lo cual en muchas otras leyes no se cumple.

En la experiencia comparada, el proyecto del senador Zapata coincide con la tendencia global. Fue la Unión Europea la que abrió la ruta con un esquema integral basado en riesgos, restrictivo de la innovación en IA y con un enfoque geopolítico. El Reino Unido optó por un modelo más flexible, apoyado en principios y regulación sectorial. 

Estados Unidos ha abordado la IA como un asunto de política industrial, seguridad y competitividad estratégica, puesto que las principales empresas que están desarrollando los grandes modelos de IA son estadounidenses y buscan su desarrollo, expansión y liderazgo. China avanza con una regulación incremental, estándares y control administrativo, también con miras a liderar la tecnología. 

En su momento, la UNESCO propuso un marco ético global centrado en derechos humanos, diversidad e igualdad. La propuesta mexicana recoge todo ese mapa regulatorio y agrega la capa de neuroderechos, diversidad cultural, perspectiva de género e inclusión digital.

Regular una tecnología tan inicial en sus implicaciones y futuros alcances tiene riesgos. El principal es frenar la innovación con reglas demasiado rígidas. A eso se suma que la iniciativa crea burocracia e instituciones nuevas. Lo más peligroso es que impone obligaciones técnicas difíciles de cumplir para startups, universidades y pequeñas empresas. 

La iniciativa intenta mitigar ese problema al reservar las cargas más fuertes para los sistemas de alto riesgo, mantener estándares de bajo riesgo como referencia y aclarar que la auditoría no siempre supone revelar código fuente.

Los riesgos que intenta combatir son los sesgos discriminatorios, la vigilancia masiva, la manipulación informativa, fraude digital, afectaciones a la privacidad, errores en decisiones públicas y opacidad en sistemas usados por el gobierno. 

Se preocupa por la concentración de poder en pocas plataformas, la dependencia tecnológica del exterior y el uso de IA en infraestructuras críticas sin controles suficientes. La ley responde con controles, un registro nacional, evaluación de impacto, supervisión continua, quejas ciudadanas, reparación del daño y sanciones que van desde multas hasta suspensión o retiro del sistema.

En un Congreso con mayoría favorable a Morena y sus aliados, la oportunidad política existe, pero no la garantía de aprobación. El senador Zapata (PRI) ha trabajado la iniciativa junto con la Agencia de Transformación Digital y Telecomunicaciones, al grado que incorpora los Principios de Chapultepec. Eso le da ventaja. Pero la propuesta sí ha causado inquietud, resultado de un debate nacional e internacional insuficiente y las dudas que despierta una regulación en etapas tempranas de la IA.

Twitter: @beltmondi