Buscar
Opinión

Lectura 5:00 min

Protección de datos en la IA. ¿Cómo regularlo?

El pasado 3 de abril la Universidad de Stanford publicó el llamado Índice de Inteligencia Artificial (IA) 2023 el cual realiza un interesante monitoreo respecto a la penetración en diversos ámbitos a nivel mundial de dicha inteligencia y en particular destaca el papel de la creciente regulación en todo el mundo. Baste al lector saber que, al día de hoy, según el reporte, de 127 países analizados en 31 de ellos se ha aprobado alguna norma relacionada con esta tecnología siendo que países como Estados Unidos, Italia, Portugal y el Reino Unido ha emitidos diversas normativas que inciden directamente en el quehacer de la IA. Incluso en junio pasado el Parlamento Europeo aprobó una ley que será discutida con el Consejo de la Unión Europea y los Estados miembro, misma que se vislumbra como el ordenamiento jurídico de mayor avanzada en el mundo.

Es claro que la IA se ha vuelto como una especie de tierra de nadie, donde le nivel de oportunidades es amplísimo, pero donde el nivel de riesgo en la producción de daños es también notable. Tan es así que el pasado marzo más de 10,000 personalidades de todo el mundo relacionadas con los desarrollos tecnológicos firmaron la llamada “Carta abierta para frenar la inteligencia artificial” en donde exponían los riesgos potenciales para la humanidad en el caso de que no se frenara la velocidad con la que crece esta nueva tecnología. En dicha carta se destacan al menos 4 riesgos vinculados a la pérdida masiva de empleos, al uso malintencionado de la IA, a que la IA pronto superaría las capacidades y potencialidades humanas y sobre todo al riesgo de perder el control sobre la misma tecnología.

A pesar de ello, no se ha visto con claridad una disminución sustancial en la generación de la tecnología y en todo el mundo se ha seguido experimentando e instrumentando diversas innovaciones que comienzan a generar oportunidades maravillosas del desarrollo humano, como por ejemplo en temas de salud, pero también comenzamos a observar riesgos potenciales vinculados a la desinformación y ruptura del tejido social a partir de la polarización que se genera con diversas plataformas de IA. Desde el 2012 ha multiplicado por 26 el número de incidentes relacionado con el mal uso de la misma según el estudio de Stanford.

Es necesario que nuestro país pronto comience al menos una conversación vinculada a la posible regulación de la IA en donde al menos podamos vislumbrar algunos ejes torales que todo el mundo ya ve y que desafortunadamente ni siquiera tenemos contemplado en nuestra agenda legislativa y ello eventualmente con el pretexto de potenciar algún bien como podría ser ofrecer mejores condiciones de seguridad pueda acabar generando violaciones sistémicas a los derechos humanos. Ya alguno de los precandidatos a la presidencia ha manifestado su interés en ello.

En ese sentido es claro que de cara a una legislación tengamos como punto de partida prohibiciones expresas y sanciones claras para quien las violente en temas como el reconocimiento de la IA de emociones humanas con finalidades de perfilamiento o bien el uso de datos biométricos en tiempo real en conjunto con la vigilancia predictiva en los espacios públicos pues en ambos casos el flujo en la captación procesamiento y difusión de datos produce efectos irreversibles no sólo en la invasión de la privacidad sino en la potencial violación a derechos humanos. Otros temas que sin lugar deberán estar en la agenda como prohibiciones son las llamadas calificaciones sociales a partir del comportamiento social de las personas. Este tipo de prácticas que parecieran sólo estar vinculadas a regímenes autoritarios en realidad se encuentran en nuestro día a día en temas como la concesión de préstamos o en la fijación de tarifas de seguros. Hoy la IA asociada a dispositivos de monitoreo como relojes inteligentes pueden proveer un sinfín de datos que perfilen a una persona a partir de su estilo de vida.

Como puede observar, estimado lector, el camino es largo y amplio en materia de regulación y mientras tanto usted y yo empezamos a padecer los efectos de la IA en nuestras vidas cotidianas pues al no existir frenos institucionales que busquen una regulación con enfoque en los derechos humanos nos estamos convirtiendo ya en el principal insumo de una industria que devora a pasos agigantados toda la experiencia humana.

*El autor es doctor en Derecho. Actualmente es decano de la Escuela de Gobierno y Economía de la Universidad Panamericana. Es integrantes del Sistema Nacional del investigadores de México. Preside la Asociación Cooperación Iberoamericana de Transparencia y Acceso a la Información.

Únete infórmate descubre

Suscríbete a nuestros
Newsletters

Ve a nuestros Newslettersregístrate aquí

Últimas noticias

Noticias Recomendadas

Suscríbete