¿Humanos u objetos optimizables? Magnifica Humanitas desafía a la inteligencia artificial

En un momento definitivo para la evolución tecnológica, donde las creaciones humanas transforman de raíz las dinámicas de trabajo, relación y ejercicio del poder, la Universidad Iberoamericana Ciudad de México convocó a especialistas de diversas disciplinas para analizar los alcances del nuevo documento pontificio del Papa León XIV: la encíclica "Magnifica Humanitas" (Magnífica humanidad), dedicada íntegramente a los desafíos de la inteligencia artificial (IA).

Durante el conversatorio virtual “Magnifica Humanitas: La educación frente al desafío de la inteligencia artificial”, académicos de las áreas de filosofía, ingeniería, psicología y pedagogía coincidieron en que el texto no parte del miedo al progreso, sino de un llamado urgente a resguardar la soberanía, la transparencia algorítmica y, sobre todo, la dignidad humana frente al paradigma de la optimización tecnocrática.

El valor intrínseco de lo humano

Para enmarcar el sentido filosófico y teológico del documento, el doctor Francisco Castro Merrifield, director del Departamento de Filosofía, explicó que el Papa sitúa esta encíclica dentro de la doctrina social de la Iglesia (en continuidad histórica con la "Rerum Novarum" de León XIII), dirigiéndose en realidad a todas las personas de buena voluntad ante una clara "coyuntura civilizatoria".

El filósofo destacó una alegoría clave presente en el texto: la contraposición entre Babel y Jerusalén. En clave contemporánea, Babel representa un mundo donde todo se pretende reducir a datos, eficiencia, control y rendimiento cognitivo. En contraste, Jerusalén simboliza la construcción paciente de una comunidad humana plural, frágil y corresponsable. "El ser humano vale por el hecho de existir, por ser persona, no por su productividad o utilidad económica", enfatizó Castro Merrifield.

En este sentido, la doctora María de Lourdes Caudillo Zambrano invitó a profundizar en la autodefinición de la especie: "¿Por qué el Papa habla de una humanidad 'magnífica' y no de una humanidad 'optimizable'?". Para la especialista, el texto resalta el potencial del drama humano, donde el florecimiento no ocurre a pesar de los límites, los errores o la finitud, sino precisamente dentro de ellos. "Somos seres relacionales y con una conciencia moral única", acotó.

El mito de la neutralidad

Por su parte, el doctor Andrés Guillermo Molano Jiménez, director del Departamento de Ingeniería para la Innovación, abordó el fenómeno como una infraestructura de poder tecnológico que está redefiniendo la soberanía de las naciones en el siglo XXI.

Detalló que desde la ingeniería existe una alerta por la concentración del poder. El desarrollo de la IA avanzada requiere capacidades computacionales masivas, clústeres de GPU y un consumo energético gigantesco que genera enormes barreras de entrada.

"Actualmente, solo cuatro o cinco actores privados en el mundo controlan los modelos fundacionales. Muchos países podemos consumir la IA, pero no cultivarla; esto redefine la soberanía tecnológica", advirtió Molano. Asimismo, desmitificó la neutralidad de los algoritmos al señalar que detrás de cada modelo existen sesgos de origen en los datasets y que la supervisión humana es imperativa para no convertirnos en esclavos de los sistemas.

Durante la charla se recordó que en la presentación mundial de la encíclica participó el cofundador de Anthropic, firma que en su momento rechazó un contrato millonario con el Departamento de Defensa de Estados Unidos, para evitar el uso armamentista de sus modelos, un riesgo latente sobre el cual el Papa dedica un capítulo entero para advertir sobre la automatización de decisiones de vida o muerte.

Los riesgos psicosociales

La doctora Cimenna Chao, directora general de Planeación Estratégica e Innovación,  vinculó las directrices de "Magnifica Humanitas" con la encíclica previa del papa Francisco, "Dilexit Nos" (Nos amó), para profundizar en la tensión entre la conciencia emocional humana y la simulación algorítmica. Chao alertó sobre los peligros de desplegar IA conversacional en contextos de cuidado o salud mental. Al no poseer cuerpo ni intencionalidad, el uso de estas herramientas genera un "riesgo de engaño" donde el usuario vulnerable cree que es escuchado o cuidado, cuando en realidad está siendo procesado por un algoritmo.

"La imitación artificial de la relación de afecto es peligrosa. El uso desregulado de estos dispositivos para buscar apoyo emocional puede derivar en riesgos psicosociales graves, que van desde aislamiento hasta psicosis inducidas por IA", apuntó la especialista.

Por su parte, la doctora Alejandra Luna Guzmán, coodinadora de la Licenciatura en Pedagogía, analizó el impacto pedagógico de la encíclica a través de tres dimensiones: formación, acompañamiento y trascendencia. Luna advirtió sobre el riesgo latente de una "atrofia del pensamiento crítico" en los estudiantes, propiciada por los sistemas de respuestas automáticas que simulan un pensamiento lógico inmediato, pero anulan el verdadero roce de ideas.

El foro enfatizó que el acompañamiento humano en el aula es absolutamente irremplazable, extendiéndose no solo al educador, sino al estudiantado y a toda la comunidad educativa. Reemplazar la presencia real por interfaces o simulaciones afectivas digitales despoja a la educación de su dimensión de trascendencia.

Innovación con rostro humano

El conversatorio concluyó que la tecnología puede ser una aliada si se subordina al criterio humano. Caudillo Zambrano compartió un caso desarrollado en la Ibero bajo la guía del doctor Luis Medina: un sistema de evaluación para el profesorado mediante agentes conversacionales de IA que detona procesos de reflexión metacognitiva a partir de los comentarios de los estudiantes.

No obstante, Caudillo acotó que la herramienta es solo el detonador: "El modelo ignaciano exige que esta reflexión se enriquezca en espacios de conversación humana. Citando a John Henry Newman, 'las aulas son un corazón a corazón'. Al final del día, los alumnos recuerdan los ojos y las palabras de quien supo reconocer en ellos un don único".

El debate regulatorio

Ante el cuestionamiento de este medio sobre cómo exigir transparencia algorítmica a corporaciones que se escudan bajo el "secreto comercial", Andrés Molano sugirió imponer auditorías algorítmicas independientes obligatorias y supervisión pública estricta de los datasets de entrenamiento.

Por su parte, Cimenna Chao abordó el vacío de responsabilidad civil ante daños catastróficos inducidos por algoritmos y propuso una analogía regulatoria con la industria tabacalera: "Es urgente legislar para que las plataformas transparenten la simulación emocional de manera explícita: colocar advertencias claras al usuario que indiquen que el producto es nocivo para la salud mental si se asume una conciencia afectiva inexistente".

El encuentro concluyó con una máxima que sintetizó el espíritu del debate: el verdadero peligro de la inteligencia artificial contemporánea no radica en que las máquinas adquieran rasgos humanos, sino en que el diseño social y educativo obligue a los seres humanos a procesarse y tratarse entre sí como si fueran máquinas.