La capa oculta de la inteligencia artificial

Thomas Davenport, profesor universitario y un respetado estudioso de la gestión del conocimiento, consultó a su médico por una infección respiratoria. La respuesta que recibió había sido claramente generada por una herramienta de inteligencia artificial (IA) especializada en temas de salud. El médico reconoció que ni siquiera leyó el reporte antes de remitirlo. Davenport contó el episodio en una mesa redonda de la revista Harvard Business Review junto a Kate Niederhoffer, psicóloga social y directora científica de BetterUp Labs. Su conversación revela cómo el uso descuidado de la inteligencia artificial puede desvirtuar los beneficios que se esperan de ella.

El equipo de Niederhoffer documentó un fenómeno bautizado como workslop, que puede entenderse de la siguiente forma. En el trabajo tradicional, quien produce un documento genera el contenido y garantiza su calidad. La IA separa ambos elementos, pues alguien puede producir rápidamente un documento que luce bien redactado, con estructura profesional y aparentemente completo sin realizar el trabajo intelectual necesario, esto es, sin verificar si los datos son ciertos, si el razonamiento se sostiene y si responde a lo requerido. Entonces, el documento generado con IA tiene la forma del trabajo, pero carece de la sustancia.

Lo anterior genera un costo con efecto en cascada, pues quien recibe el documento debe descifrar qué hacer con él, lo que genera frustración y desemboca en un juicio negativo sobre la capacidad de quien lo envió y en una menor disposición a volver a colaborar con esa persona. Así, la tecnología puede romper el vínculo entre la calidad de un documento y el esfuerzo dedicado a su elaboración y merma la confianza en los equipos que utilizan las herramientas de IA.

Imaginemos el siguiente ejemplo. Un analista pide a la IA un informe sobre un mercado y lo reenvía sin revisarlo. El informe señala una cifra de participación de mercado inventada. Quien recibe el informe, si es cuidadoso, rastreará la cifra, descubrirá que no existe, se preguntará qué más es falso en el informe, verificará el resto del contenido y probablemente lo reescribirá. El emisor "ahorró" dos horas; el receptor utilizó cuatro. La productividad neta del equipo cayó, aunque la métrica individual del emisor mejoró.

Esta situación puede trascender a procesos completos, como el reclutamiento. Imaginemos una empresa en la que el perfil de las vacantes se elabora con IA, los candidatos generan sus currículos con IA y la empresa los evalúa con IA. No hay intervención humana en el proceso de selección. Los resultados probablemente serán deficientes y ello minará la confianza en todo el proceso.

Para evitar lo anterior, los expertos proponen alternativas. Entre ellas, enfocar el uso de la tecnología de manera integral en pocos procesos críticos, con resultados medibles. El uso generalizado de la IA puede diluir el valor e impedir la medición de la productividad. Asimismo, evaluar la confianza de los equipos y la calidad del trabajo, con acciones sencillas como preguntar a la gente cómo se siente con el uso de la IA. Aplicar procesos de gobernanza que establezcan reglas claras sobre los ámbitos en que se permite experimentar, permitiendo el ensayo y error dentro de esos límites. Finalmente, invertir en las personas así como se invierte en plataformas tecnológicas, esto es, dedicar recursos a la formación de capital humano y establecer un compromiso creíble de que la tecnología ampliará las capacidades de los empleados en lugar de reemplazarlos.

La IA es la tecnología de nuestra época y por ello debe cuidarse su implementación. Las empresas que experimenten antes de imprimir velocidad, cuiden la salud de sus equipos e inviertan en la gente a la par que en tecnología serán más fuertes, evitarán los daños ocultos y elevarán la calidad de su trabajo.

*Especialista en competencia económica y regulación. Socio Director de Ockham Economic Consulting.