El papa León advierte del riesgo de un apocalipsis provocado por la IA

El Vaticano advirtió sobre el riesgo de un apocalipsis provocado por la inteligencia artificial años antes de que las principales empresas estadounidenses dieran la voz de alarma el miércoles en el Consejo de Seguridad de las Naciones Unidas, una preocupación que el papa León XIV está situando en el centro de su papado.

Se espera que León, quien en mayo instó a los líderes mundiales a establecer normas globales para supervisar el sector, vuelva a advertir sobre los riesgos de la IA este viernes en un discurso que pronunciará en la sede de París de la UNESCO, el organismo de la ONU encargado de la cultura y la educación.

"Para la Santa Sede, esto no es una novedad", dijo a Reuters el reverendo Paolo Benanti, uno de los principales asesores del Vaticano en materia de IA, refiriéndose a los recientes llamamientos a una desaceleración que han respaldado los directores generales de empresas de IA como Anthropic, OpenAI y xAI, entre otras.

"El poder transformador de la IA (…) podría generar cambios sociales de tal magnitud que resultan muy difíciles de predecir", dijo Benanti, un académico italiano que participó recientemente en la cumbre sobre IA organizada por el rey Carlos III de Inglaterra.

El sacerdote señaló que no podía revelar detalles sobre el contenido de las conversaciones confidenciales de la cumbre.

Cardenal Parolin: "el futuro de la humanidad está en juego"

León, el primer papa nacido en Estados Unidos, ha planteado con frecuencia los posibles peligros del desarrollo de la IA a lo largo de sus 16 meses de papado y abordó el tema públicamente por primera vez en su tercer día en el cargo.

En su llamamiento de mayo, publicado como su primer documento importante, León advirtió de que los sistemas de IA difunden desinformación, dan prioridad al conflicto y podrían llevar al mundo por un camino de guerra sin fin.

El cardenal Pietro Parolin, máximo diplomático del Vaticano, reiteró el llamamiento de León a una regulación internacional del sector en un acto celebrado en Roma la semana pasada, advirtiendo de que los países no pueden "actuar por su cuenta" en lo que respecta a esta tecnología.

"El futuro de la humanidad está realmente en juego", dijo Parolin. El mundo, añadió, necesita "la participación de todos para establecer unas normas comunes que puedan regular de verdad este fenómeno".

El cofundador de Anthropic Chris Olah intervino en el acto de presentación en el Vaticano del documento del papa publicado en mayo, conocido como encíclica.

Cuando se le preguntó si el Vaticano mantiene un diálogo continuo con alguna empresa de IA, Benanti destacó el carácter descentralizado de la Iglesia universal y señaló que algunas conversaciones las están liderando los obispos locales.

El 16 de septiembre, la Conferencia Episcopal de Estados Unidos anunció que había creado un nuevo grupo de trabajo sobre IA después de que varios de sus líderes se reunieran ese mismo día con directivos del sector.

"El diálogo se centró en las formas de mantener cualquier sistema de inteligencia artificial al servicio de la humanidad y en la urgente necesidad de abordar los peligros reales y actuales que plantea dicha tecnología", se indicaba en un comunicado.

León advierte sobre las armas autónomas

El Vaticano comenzó a advertir sobre los riesgos de la IA en 2019, organizando ese año dos conferencias sobre los posibles peligros de esta tecnología. El difunto papa Francisco advirtió a los asistentes a uno de los eventos de que la desinformación difundida por la IA podría desencadenar una guerra mundial.

El Vaticano también se asoció en 2020 con Microsoft, IBM, la Organización de las Naciones Unidas para la Alimentación y la Agricultura (FAO) y el Gobierno italiano para hacer un llamamiento a favor de un desarrollo de la IA que "no tenga como único objetivo la obtención de mayores beneficios o la sustitución gradual de las personas en el ámbito laboral".

León ha instado a que se ejerza una supervisión especial sobre el desarrollo de sistemas de armamento, como los que se están utilizando en la guerra entre Rusia y Ucrania. Afirmó en su encíclica que dichas armas han avanzado "prácticamente más allá de cualquier capacidad humana para controlarlas".

La defensa del Vaticano en la escena internacional contra el armamento autónomo se remonta a décadas atrás, señaló Benanti, comparando los drones impulsados por IA con las minas terrestres, que no distinguen entre sus objetivos.

El sacerdote comparó las advertencias del Vaticano sobre los riesgos de la IA con la forma en que los papas llevan mucho tiempo abogando por el desarme nuclear.

"Si las armas nucleares pueden destruir a la humanidad (…), la manipulación de contenidos generados por IA en los espacios sociales puede destruir la capacidad de las personas para permanecer unidas como sociedad", dijo.

"Las armas nucleares deben almacenarse en instalaciones y se pueden contar y controlar. La IA no es tan visible."