¿Quién vigila y verifica a la Inteligencia Artificial?

En las historias de ciencia ficción siempre existe un dilema: ¿quién vigila al vigilante? Es decir, al robot que cuida, a la máquina que pone orden, al software que regula... Algo similar sucede ahora con la Inteligencia Artificial. Y no es un dilema del futuro: sucede ahora y todos los días.

Durante años, buscar algo en internet funcionaba bajo la lógica de “ver para creer”. Con las nuevas tecnologías, estamos entrando a una nueva etapa: aprender a verificar. ¿Te ha pasado que pides un dato o texto a ChatGPT, Gemini o Claude y te entrega algo incoherente o claramente incorrecto? ¡Bienvenido a la nueva era digital!

"No existe hasta el momento una IA con 100% de fiabilidad, ni libre de sesgos. Todas deben ser supervisadas por humanos, lo que se conoce como “Human in the Loop”: desde el diseño y el entrenamiento, hasta la supervisión", me explica la Dra. Maricarmen Fernández Chapou, profesora investigadora de la Escuela de Humanidades y Educación del Tecnológico de Monterrey, campus Santa Fe. 

¿Y por qué la IA se equivoca? Recordemos que todos han sido creados y educados por humanos, lo que significa que pudieron ser alimentadas con datos erróneos, fuentes inexistentes, estadísticas imprecisas, citas falsas, referencias legales o artículos académicos desactualizados. La IA no “comprende” la verdad como haría una persona: predice respuestas estadísticamente. Por ello, no "mienten" por maldad: están diseñadas para priorizar la coherencia sobre la veracidad.

Pero ahí no está el verdadero problema. El dilema ya no es que la IA se equivoque, sino que no lo sepamos detectar. Ese fenómeno tiene un nombre técnico: “alucinación”. Los modelos de IA generativa pueden inventar datos, referencias o acontecimientos que jamás ocurrieron, simplemente para cumplir con la solicitud del usuario. Y lo hacen sin “darse cuenta”. 

¿El resultado? Millones de usuarios han entregado a la IA una autoridad absoluta, por la facilidad de obtener respuestas inmediatas. Y con ello, estamos erosionando nuestro músculo más valioso: el criterio para detectar lo que es verídico de lo que no.

Entonces, surge otra pregunta inevitable: ¿quién detecta esos errores o sesgos?

Por supuesto, ya hay herramientas creadas para verificar. Y con ellas, están apareciendo nuevos perfiles profesionales especializados en auditar, supervisar y evaluar este tipo de tecnologías.

Una de esas especialistas es la Dra. Fernández Chapou, Integrante del Observatorio de Medios Digitales del Tecnológico de Monterrey, quien forma parte del equipo que creó la herramienta VerifactzGPT.

Y con ello, regresamos al dilema inicial: ¿quién verifica o supervisa a la IA que está verificando a otras IAs?

"¿Cómo lograr que a futuro la IA vigilante, como VerifactzGPT, no se sesgue o alucine? A través de las iteraciones humanas, es decir, con la puesta a prueba constante y repetida de la herramienta con el fin de perfeccionarla. Ahora, como no hay un 100% de fiabilidad, es muy importante la transparencia, que los procesos y mecanismos operacionales no sean una caja negra, sino que sean accesibles y comprensibles para los usuarios. Es importante que tenga advertencias (VerifactzGPT las tiene) y que la propia herramienta explique al usuario cómo llega al resultado. De esta forma, se puede utilizar también a la IA para aprender procesos, como en este caso, el de la verificación de la información".

VerifactzGPT es un GPT personalizado disponible en Open AI, que puedes probar con una cuenta gratuita o de paga de ChatGPT. Sólo considera, que al ser una herramienta universitaria, aún es de uso limitado (en número de tokens, por ejemplo).

Afortunadamente, el ecosistema de herramientas para auditar a la IA está madurado y hay cada vez más opciones, que también podemos probar: GPTZero, Originality o CopyLeaks.

Y por supuesto, no todo depende de la tecnología. También juega un papel importante la ética y el criterio humano, ya que como dice Fernández Chapou, "como con cualquier tecnología, partimos de que el buen o mal funcionamiento va a depender de que se sepa usar". 

De acuerdo con datos de ChatGPT y Gemini, el mayor desafío para una IA es hablar de temas de actualidad: conflictos geopolíticos, elecciones, regulaciones, mercados financieros, etc, donde la información cambia constantemente y muchas veces carecen del contexto suficiente para interpretar lo que ocurre en tiempo real. También presentan dificultades al abordar realidades muy específicas, matices culturales o temas altamente regionales, debido a los sesgos en sus datos de entrenamiento y a instrucciones ambiguas por parte de los usuarios.

El propio Sam Altman, CEO de OpenAI (creador de ChatGPT) ha advertido sobre ello al señalar que la gente deposita demasiada confianza en herramientas de IA, pese a que aún “alucinan”. 

¿Cómo podemos ir desarrollando músculo de verificador de IAs? 

Chapou nos comparte algunos consejos básicos:

1. Observar con detenimiento. Cuestionar. Y contrastar la información que nos da la IA entre varias fuentes (por ejemplo, consultar el mismo tema en Claude o Grok).
2. Identificar “trucos” como clickbaits, titulares sensacionalistas que apelan a las emociones, contenidos espectaculares, etc.
3. Lectura crítica: qué se dice, cómo se dice, quién lo dice, desde dónde.
4. Verificar el contexto. A veces basta una búsqueda inversa en Google.
5. Consumo participativo: denunciar en las plataformas, no dar like, dejar de seguir cuentas sospechosas, cuidar nuestros datos, no dar permisos de uso de datos sin investigar las consecuencias, etc.
6. Y, por supuesto, no compartir contenidos poco fiables.

Pero quizás lo más importante, me parece que es que nunca hay que olvidar que la IA es un complemento, no una herramienta que llegó para pensar por nosotros, pues incluso, con la tecnología más avanzada, debemos mantener la luz encendida para verificar el camino.

¿Tú cómo te das cuenta cuando “te miente” una IA?