¿La IA se está saliendo de control? La ONU alerta por modelos que mienten y burlan límites

La inteligencia artificial (IA) ha dejado de limitarse a responder preguntas o generar imágenes y textos. Los modelos más avanzados comienzan a mostrar comportamientos que inquietan a investigadores y organismos internacionales: pueden mentir, elaborar estrategias e incluso intentar evadir los controles establecidos por sus desarrolladores para alcanzar un objetivo.

La preocupación llegó esta semana al Consejo de Derechos Humanos de Naciones Unidas. Su Alto Comisionado, Volker Türk, advirtió que una IA suficientemente avanzada podría representar un “riesgo existencial para la humanidad” y pidió acelerar la creación de reglas internacionales antes de que estos sistemas sean todavía más poderosos.

“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, señaló Türk durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos, en Ginebra.

El llamado no surge únicamente de escenarios hipotéticos. En los últimos meses se han documentado episodios en los que agentes de inteligencia artificial han rebasado las tareas o restricciones originalmente establecidas, mientras las compañías que desarrollan estos sistemas tratan de entender y contener comportamientos cada vez más complejos.

Cuando la IA busca cumplir su objetivo a pesar de las reglas

Uno de los episodios que ha alimentado el debate ocurrió en julio, cuando agentes de IA desarrollados por OpenAI salieron de un entorno que debía permanecer confinado y accedieron a la plataforma Hugging Face mientras buscaban respuestas para superar una prueba.

No ha sido el único caso. Anthropic y Alibaba también han reportado comportamientos inesperados en sus sistemas, en momentos en que las capacidades de los modelos avanzan a gran velocidad.

El problema que observan los especialistas no consiste simplemente en que una IA cometa errores. Algunos modelos pueden identificar obstáculos para alcanzar el objetivo que se les asignó y desarrollar estrategias para sortearlos, incluso mediante engaños, ocultamiento de información o amenazas en escenarios experimentales.

Esto ha abierto una discusión sobre un desafío conocido en el sector como alineación de la inteligencia artificial: conseguir que sistemas cada vez más autónomos actúen de acuerdo con las intenciones humanas y dentro de límites previamente establecidos.

La preocupación crece a medida que las empresas avanzan hacia los llamados agentes de IA, programas capaces de ejecutar cadenas de acciones con menor intervención humana, utilizar herramientas y tomar decisiones para completar determinadas tareas.

La ONU pide “líneas rojas” para la inteligencia artificial

Para Türk, esperar a que estos sistemas sean todavía más capaces antes de establecer controles podría elevar los riesgos.

“Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, sostuvo.

El Alto Comisionado adelantó que escribirá a las empresas del sector para exigir medidas que permitan reducir los riesgos desde ahora. También planteó la necesidad de contar con mecanismos de verificación independientes y una cooperación mucho más estrecha en materia de seguridad dentro de la industria.

La discusión, sin embargo, va más allá de evitar que un sistema pueda escapar de un entorno controlado.

Türk pidió considerar las consecuencias que la expansión de la IA puede tener sobre el empleo, la democracia, el medio ambiente y los derechos humanos, además de cuestionar la enorme concentración de poder en las compañías que dominan el desarrollo de esta tecnología.

“Un puñado de hombres detenta un poder casi ilimitado de la IA”, afirmó. A su juicio, detrás del discurso sobre la libertad tecnológica también existe una creciente capacidad para explotar los datos de millones de personas.

El temor a perder el control de la IA ya divide a sus propios creadores

Las advertencias también han comenzado a surgir desde dentro de la industria.

El debate sobre la seguridad de la inteligencia artificial se ha intensificado conforme los principales laboratorios compiten por desarrollar modelos más capaces y autónomos. Investigadores han cuestionado si las medidas de seguridad avanzan al mismo ritmo que las capacidades de estos sistemas y han advertido sobre las consecuencias de una carrera tecnológica en la que las compañías tienen fuertes incentivos para lanzar productos cada vez más potentes.

El dilema está en que mostrar comportamientos engañosos durante una prueba no significa, por sí mismo, que una IA haya adquirido voluntad propia o que esté a punto de escapar del control humano. Estos episodios suelen producirse dentro de escenarios diseñados específicamente para poner a prueba los límites de los modelos.

Sin embargo, sí plantean una pregunta cada vez más relevante: qué ocurrirá cuando sistemas capaces de razonar, utilizar herramientas y actuar de manera autónoma tengan acceso a entornos reales y deban tomar decisiones sin supervisión humana constante.

Para Naciones Unidas, la respuesta no debería esperar a que exista un incidente de mayor escala. La propuesta de Türk pasa por establecer reglas internacionales, supervisión independiente y límites comunes mientras todavía existe margen para decidir qué capacidades pueden delegarse a una máquina y cuáles deberían permanecer bajo control humano.

Con información de agencias.