OpenAI y Meta advierten al poder judicial de EU sobre el riesgo de fabricar pruebas falsas

Expertos en tecnología de OpenAI y Meta Platforms META.O advirtieron el jueves a un comité judicial federal de que los "ultrafalsos" generados por la inteligencia artificial (IA) son cada vez más sofisticados y que resultará cada vez más difícil determinar la autenticidad de las pruebas de audio y video presentadas en los juicios.

Los representantes de las empresas y otros compartieron sus opiniones sobre la evolución de esta tecnología durante una reunión celebrada en Boston del Comité Asesor sobre Normas Probatorias de la Conferencia Judicial de Estados Unidos, que lleva tres años debatiendo cómo controlar los riesgos que plantean las pruebas falsificadas generadas por IA en los tribunales.

Solo en ese periodo, los rápidos avances en la IA generativa han llegado a un punto en el que los videos falsificados se han vuelto difíciles de detectar tanto para las personas como para el software, señalaron los expertos en la reunión.

"Las imágenes generadas por IA no dejan de mejorar, y no creo que en el futuro exista una forma científica de detectarlas", dijo Shira Anderson, asesora de políticas de OpenAI, al comité.

El comité lleva desde 2023 debatiendo cómo abordar los problemas de autenticación relacionados con los "ultrafalsos" y garantizar que las pruebas que se sabe que han sido generadas por IA cumplan los mismos estándares de fiabilidad que las pruebas aportadas por un perito humano.

El poder judicial ha tratado de adelantarse a pesar de la falta de pruebas de que se trate de un problema generalizado. El Centro Federal del Poder Judicial, el órgano de investigación del poder judicial, señaló en marzo que, de los 931 jueces que respondieron a una encuesta, solo 15 se habían enfrentado a un caso en el que una parte litigante impugnó una prueba por tratarse de un "ultrafalso".

"Hay muchos comentarios académicos y de otro tipo que predicen que los tribunales tendrán que lidiar con los ultrafalsos, pero, en realidad, aún no hemos visto muchos casos de este tipo", dijo el juez federal de distrito de Manhattan Jesse Furman, que preside el panel.

Sin embargo, expertos del sector, del ámbito académico y del Gobierno advirtieron de que la cuestión dista mucho de ser puramente hipotética. Afirmaron que la capacidad de los tribunales para actuar como filtros frente a las pruebas falsificadas generadas por IA solo va a ser cada vez más complicada.

"Los contenidos multimedia generados a partir de modelos de vanguardia, al menos en las últimas generaciones, son indistinguibles para los seres humanos de los contenidos auténticos o generados por IA", dijo Devin Norder, director de gestión de productos de Meta. "Y el costo y el tiempo que lleva crear estos contenidos son realmente insignificantes en este momento".

Grandes empresas, entre ellas OpenAI y Meta, han tratado de adoptar herramientas y servicios destinados a verificar la validez del contenido visual, y las nuevas leyes de California y la Unión Europea exigen el uso de "marcas de agua" para detectar los ultrafalsos.