IA sin control: los riesgos “invisibles” para las empresas

La inteligencia artificial es una herramienta extraordinaria de trabajo, que permite potenciar la capacidad de cualquier organización. Sin embargo, su adopción avanza más rápido que la aptitud de las empresas para identificar sus mejores usos, establecer protocolos e implementar medidas de seguridad, lo que genera riesgos en los ámbitos comercial, litigioso y reputacional.

Estudios globales reportan algunas situaciones que permiten dimensionar el reto. Por ejemplo, de un estudio a 48,000 personas de 47 países (Universidad de Melbourne y KPMG), resultó que el 66% de los entrevistados confía en lo que produce la IA sin verificar su exactitud; el 57% oculta su uso y presenta como propio el resultado; y solo el 41% de las empresas cuenta con protocolos para el uso de IA generativa. El problema es mayor si se considera que probablemente la IA presenta resultados tergiversados en la mitad de los casos.

En el plano cotidiano de la empresa se presentan “pequeños” incidentes, cuyos efectos pueden magnificarse cuando se trasladan al exterior de la organización. Algunos de ellos son los siguientes:

Publicar o entregar contenido sin verificación. La IA es muy eficaz para generar relatos con datos que parecen creíbles. Tan buenas son las historias, que la gente considera innecesario corroborarlas. La regla general, irrenunciable, es que no debe publicarse contenido sin verificar y sin la lectura de un tercero.

Cargar información confidencial a herramientas de IA, particularmente de uso gratuito. Los LLM funcionan con distintos niveles de seguridad y confidencialidad. Las plataformas gratuitas son las más vulnerables. Aunque se utilicen plataformas de pago, no existe un escenario de seguridad total, si bien pueden implementarse medidas para moderar los riesgos. Todo usuario de herramientas gratuitas debe asumir que su información podrá estar disponible a terceros; en el caso de herramientas de suscripción se deben estudiar los términos y condiciones del plan contratado para verificar el grado de protección de la información cargada y generada para el entrenamiento de los modelos.

Elaborar cálculos y datos de la IA sin contrastarlos e incorporarlos a reportes y políticas. Esto puede llevar a la adopción de decisiones equivocadas, puesestudios internacionales han identificado que una de cada cinco respuestas contenía errores, desde fechas hasta datos inexistentes.

Operar con IA en la sombra. Los colaboradores utiliza herramientas no aprobadas, cuentas de correo personales y mecanismos de almacenamiento no autorizados, lo cual permite la fuga de información. Ello se agrava por la ausencia de instrumentos en materia de ciberseguridad y la falta de protocolos para proteger accesos al equipo de cómputo. El personal oculta el uso de la IA y cuando los errores sobrevienen, se adoptan posiciones defensivas y se culpa a la herramienta. Eso no resuelve el problema, solo desvía la atención. El origen es la carencia de reglas y controles.

Delegar decisiones sensibles a la IA sin criterio humano. Los modelos reproducen los sesgos de quien los alimenta con información. A los sesgos humanos hay que sumar las imprecisiones de la IA, que además puede ser complaciente y generar los resultados que el usuario desea. Con ello se pueden adoptar decisiones irracionales o discriminatorias.

Estos errores tienen en común tres elementos: i) la búsqueda de velocidad pero sin verificación; ii) la evasión de criterios humanos que validen los resultados; y iii) el traspaso de las fronteras (generalmente no establecidas) en el uso de la IA en la búsqueda de atajos para economizar y reducir el esfuerzo.

Establecer reglas claras sobre el empleo de las herramientas, definir la información utilizable, impartir la capacitación mínima y diseñar procedimientos son medidas necesarias para crear una política de uso responsable de la IA. Lo más importante es entender que la responsabilidad sobre los resultados de la IA no es delegable.

*Especialista en competencia económica y regulación. Socio Director de Ockham Economic Consulting.