IA exige política de gobernanza de datos en empresas: Arochi Lindner

Las empresas que utilizan herramientas de inteligencia artificial  (IA) necesitan una política interna de gobernanza que delimite qué información puede cargarse en esos sistemas, para no exponer secretos comerciales ni datos personales, dijo Gabriela Espinosa, counsel de Privacidad y Protección de Datos del despacho Arochi Lindner.

La especialista explicó que uno de los mayores riesgos surge cuando los empleados recurren a plataformas abiertas o gratuitas para agilizar su trabajo. “Nadie lee los términos y condiciones”, advirtió Espinosa en un encuentro con medios.

Muchos de esos servicios, detalló, usan la información que ingresan los usuarios para entrenar sus modelos, por lo que los datos pierden su carácter confidencial.

Por ello, recomendó que la política interna fije usos permitidos y prohibidos, de acuerdo con el tamaño y el nivel de riesgo de cada organización. “No estamos diciendo que no se pueda”, aclaró. La clave, dijo, es no subir información confidencial o disociarla, por ejemplo, al omitir el nombre de un paciente o plantear una fusión como caso hipotético. De acuerdo con Espinosa, esta política también sirve para generar una expectativa de comportamiento al interior de las organizaciones y sancionar a quien la incumpla.

Recordó que México no cuenta con una ley general de IA, aunque el tema se ha incorporado de forma aislada en la normativa de datos personales, que permite oponerse, por ejemplo, al uso de decisiones automatizadas, así como en las leyes federales del Trabajo y del Derecho de Autor, que regulan el uso de la imagen y la voz de artistas y creadores mediante esta tecnología.

Espinosa calificó esos cambios como “loables esfuerzos”, aunque limitados frente al alcance real de la IA.

Regular el impacto, no la tecnología

La abogada anticipó que el próximo año se presentarán al menos tres iniciativas de Ley General de Inteligencia Artificial: una del Senado, otra de la Cámara de Diputados y, probablemente, una del Ejecutivo.

Cuál de los documentos prospere “dependerá enteramente del apetito político del momento”, dijo.

A su juicio, la nueva ley no debe intentar regular sistemas o herramientas que cambian a gran velocidad, pues ello “sería absurdo”, sino el impacto de la IA en las personas y las obligaciones de las empresas para mitigar esos riesgos.

Espinosa planteó tres atributos para la futura norma. El primero es la transparencia: informar siempre cuando un contenido fue creado con IA, para distinguirlo de una imagen real.

El segundo es la responsabilidad demostrada, conocida en inglés como accountability, para determinar si un daño es atribuible al desarrollador, a la organización que implementó la herramienta o al usuario.

El tercero es un enfoque basado en riesgos, pues a su juicio sería injusto imponer a las empresas pequeñas y familiares las mismas cargas que a las multinacionales, cuyos flujos de información y datos son mayores.