Inteligencia Artificial obliga a actualizar legislación mexicana en protección de datos

Los sistemas de Inteligencia Artificial Generativa (AGI), como ChatGPT o DeepSeek, obligan a los legisladores mexicanos a pensar en esta tecnología en el momento de elaborar la legislación secundaria en materia de protección de datos personales, luego de la desaparición del Inai.

Durante la última celebración del Día Internacional de Protección de Datos Personales en las instalaciones del Inai, comisionados del instituto y miembros de la industria tecnológica advirtieron que es necesario contemplar las prácticas en materia de protección de datos de las empresas y los gobiernos que usan herramientas de Inteligencia Artificial.

Retos

La comisionada del Inai Josefina Román dijo que, al igual que el sector privado, las instituciones del Estado mexicano, tanto federales, como estatales y municipales, ya están haciendo uso de herramientas de Inteligencia Artificial, las cuales procesan datos personales que incluso pueden llegar a ser sensibles.

“La inteligencia artificial no solo utiliza grandes volúmenes de datos, sino que también puede inferir información sensible, incluso cuando los datos proporcionados han sido anonimizados. Esto pone en riesgo el derecho a la privacidad y a la autodeterminación informativa”, dijo Román.

De acuerdo con la comisionada del Inai, la reforma constitucional que extingue el Inai supone importantes retos a la hora de garantizar la protección del derecho a la protección de datos, un derecho regido por la Constitución mexicana, cuyo nuevo modelo de garantía será definido en las leyes secundarias a la recién aprobada reforma en materia de simplificación administrativa.

Román dijo que no solo es necesaria una autoridad reguladora en materia de protección de datos personales sino que es urgente, con el fin de garantizar que el avance de la Inteligencia Artificial sea ético y respetuoso de los derechos humanos.

Actualizar legislación

Blanca Lilia Ibarra, comisionada del Inai, aseguró que, ante la desaparición del instituto, nos encontramos en la antesala del nacimiento de un nuevo modelo de protección de datos, el cual debe hacer que permanezca intacto el derecho a la protección de datos personales en beneficio de todos los mexicanos.

“Se abre una oportunidad sin precedentes para actualizar la legislación a efecto de hacer frente a los nuevos retos que nuestra realidad nos impone de cara a la inteligencia artificial presente en nuestra vida. En un mundo interconectado es esencial que exista armonía legislativa, técnica y jurídica que facilite la cooperación internacional en beneficio de las y los titulares de los datos personales”, dijo.

El comisionado presidente del Inai, Adrián Alcalá, advirtió que es necesario que el nuevo modelo de garantía del derecho a la protección de datos personales cuente con los más altos estándares a nivel nacional e internacional. Añadió que si bien en México existen leyes en materia de protección de datos que regulan al sector público y al privado, la Inteligencia Artificial es una tecnología transfronteriza por lo que un uso adecuado de ella depende de la coordinación y regulaciones internacionales, así como un enfoque global.

“Nosotros hemos hecho un llamado muy respetuoso a las y los legisladores a que en un ejercicio de parlamento abierto se nos permita ser escuchados, no solamente a los comisionados y comisionadas, sino también a los expertos, a empresas, reguladores y a todos quienes tengan algún interés en aportar para la construcción de este nuevo modelo de garantía”, dijo.

Regulación ante Inteligencia Artificial

Jacobo Esquenazi, estratega global de Privacidad de HP, dijo que la aplicación de principios de protección de datos personales varía en cada etapa del desarrollo de un modelo de Inteligencia Artificial.

“La formación del modelo tiene características específicas que inciden en estos principios, y la aplicación final de este modelo en tecnologías interactuando con usuarios tiene otras características. Por lo tanto, los conceptos son distintos”, dijo.

De acuerdo con Esquenazi, existen nueve principios de protección de datos relevantes en la inteligencia artificial generativa:

1. Principio de licitud: Este principio establece que los datos deben ser tratados de manera legal y formal, considerando las consecuencias del procesamiento y evitando resultados injustos o sesgados. Por ejemplo, en los modelos de inteligencia artificial, las decisiones no deben tener sesgos.
2. Principio de limitación de la recolección de datos: El desarrollo de modelos requiere grandes volúmenes de datos, lo cual puede ser incompatible con el principio de minimización de datos. Este principio requiere reconsiderar cómo recolectar datos de manera proporcional sin afectar el propósito del modelo.
3. Principio de finalidad: Los datos utilizados para entrenar modelos a menudo se recolectan de fuentes públicas y privadas, pero no necesariamente con la finalidad de entrenar un modelo. Por lo tanto, debemos repensar cómo aplicar este principio en el contexto de la inteligencia artificial generativa.
4. Bases legales del procesamiento: En México, la ley se basa en el consentimiento y algunas excepciones. Sin embargo, en otros países existen bases legales como el interés legítimo, que podrían ser más adecuadas para desarrollar e implementar modelos.
5. Principio de necesidad: El barrido de datos públicos dificulta el cumplimiento del aviso de privacidad a los titulares, especialmente cuando no es viable contactar a cada uno. Esto requiere reinterpretar el principio para adaptarlo a los propósitos de los modelos generativos.
6. Derechos ARCO: El ejercicio de estos derechos es complejo en la inteligencia artificial generativa, ya que el desarrollador del modelo no siempre puede modificarlo directamente. Es necesario considerar opciones como filtros de resultados o el derecho a objeción.
7. Transparencia: Es esencial que los desarrolladores de modelos declaren de manera clara las fuentes de los datos y las consecuencias de su uso. Esto permitirá a los titulares entender cómo sus datos son procesados y ejercer sus derechos en la medida de lo posible.
8. Responsabilidad demostrable: Demostrar que se ha realizado un análisis de riesgos y que se han implementado mitigaciones pertinentes es crucial para garantizar un uso ético de los datos.
9. Flujo transfronterizo de datos: Limitar este flujo puede generar sesgos en los modelos, ya que estos reflejarán las políticas sociales y culturales de una región específica. Es necesario establecer estándares internacionales que permitan un flujo de datos controlado y legal.

La desaparición del Inai implica el surgimiento de un nuevo modelo que garantice la protección de datos personales de los mexicanos. Este nuevo modelo no solo debe atender las necesidades que hasta ahora han tenido los titulares de datos personales, sino que debe prever los retos que suponen el uso de tecnologías como la Inteligencia Artificial Generativa.

rodrigo.riquelme@eleconomista.mx