Papa León XIV pide que la IA sirva a la humanidad, no al poder

El papa León XIV alertó este lunes sobre los riesgos de la inteligencia artificial (IA) e instó a los gobiernos a frenar y regular en detalle el desarrollo de los sistemas de IA, advirtiendo de que estos difunden desinformación, favorecen los conflictos y corren el riesgo de llevar al mundo por un camino de guerra sin fin.

Al publicar su primera encíclica –Magnifica humanitas (Magnífica humanidad)–, este lunes 25 de mayo, en el 135º aniversario de la Rerum novarum, el Pontífice renueva la postura de la Iglesia católica en defensa de la dignidad del trabajo, la justicia social y la paz en la era digital, y llama a "desarmar" la IA por el riesgo de que pueda volverse en contra de la humanidad.

"La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos", sostiene el papa Robert Francis Prevost en el documento.

El Papa propone "la custodia de la persona humana en la era de la inteligencia artificial", partiendo de la premisa de que “la tecnología no es una fuerza antagónica respecto a la persona, ni un mal en sí misma. Sin embargo, no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza".

Por tanto, llamó a construir "marcos jurídicos adecuados, una supervisión independiente, usuarios informados y un sistema político que no renuncie a su responsabilidad".

El primer Papa estadounidense pidió que la propiedad de los datos de IA no se deje exclusivamente en manos privadas, que los responsables políticos protejan los derechos de los trabajadores y mantengan a los niños a salvo de la tecnología, e instó a que se enfríe la competencia entre las empresas de IA.

"Lo que se necesita es una implicación política más activa, capaz de frenar las cosas cuando todo se acelera", afirma León XIV.

Las personas como recurso y los algoritmos

Dividida en cinco capítulos, una introducción y una conclusión, la encíclica papal aboga por la dignidad de las personas, que –sostiene– no puede ser valorada con "parámetros de eficiencia y beneficio", ya que las personas no deben ser reducidas a "un recurso que se usa y se explota" o a "lo que (la persona) realiza o produce" en función del dominio tecnológico.

Finalmente, el Pontífice condenó la dictadura de los algoritmos, que construyen lo que llamó "Arquitectura de la visibilidad", que premia y amplifica solo lo que es visible, moldeando opiniones y generando conformismo.

"Es urgente reforzar la libertad interior de cada uno y hacer frente al riesgo del control social derivado de la recopilación masiva de datos y del uso de sistemas algorítmicos. Perfilar, predecir y orientar los comportamientos es, de hecho, un poder nuevo, que corre el riesgo de discriminar a los más débiles".

Magnifica Humanitas ambién condenó el número de guerras que azotan el mundo, lamentó el debilitamiento de las organizaciones multilaterales y advirtió de que los beneficios de la industria armamentística son una fuerza impulsora detrás de los conflictos.

"La humanidad está cayendo en una cultura violenta del poder, donde la paz ya no aparece como una responsabilidad que asumir, sino como un frágil intervalo entre conflictos", sostiene el Papa.

(Con información de Reuters y Vatican News)