Estamos a punto de construir a Dios

La ciencia ficción se ha vuelto realidad. Tanto es así que el Papa León XIV le ha dedicado su primera encíclica: Magnifica Humanitas (Magnífica Humanidad). En efecto, el líder católico ha retomado un tema que muchos escritores y directores de cine abordaron como ficción: la dignidad de lo humano frente a los avances de la inteligencia artificial y el poder que hay detrás de esta.

Sí, la ciencia ficción se ha vuelto realidad o está a punto de estarlo.  Ya estamos en la era del Gran Hermano (1984 de George Orwell, 1948) y su vigilancia masiva a través de miles de ojos y oídos, como un Argos moderno; avanzamos a un mundo donde no hace falta quemar los libros, como en Fahrenheit 451 (Ray Bradbury, 1933), simplemente porque ya cada vez menos personas los leen; gracias a los avances en tecnología de nanites, biotecnología y genética pronto habrá una casta de seres humanos mejorados (Un mundo feliz, de Aldous Huxley, 1932), aquellos que podrán pagar los cambios, dejando atrás a los restantes mortales que lidiarán con pobreza, mala salud, desempleo o empleo precarizado y educación deficiente.

Una desigualdad compleja y diferente en los países más avanzados con respecto a las naciones más pobres, producto de un desarrollo desigual y combinado, como diría León Trotsky.

En 2001, una odisea del espacio (Stanley Kubrick y Arthur C. Clark, 1968) se nos presenta a HAL 9000, una superinteligencia artificial (SIA) capaz de decidir sobre la vida humana, ¿quién vive y quién muere? Una alternativa que puede ser tomada en función de la lógica fría, sin sentimientos como odio o venganza. Hoy, los misiles programados con cierta IA pueden tomar la decisión de destruir lugares o personas. HAL 9000 nos trajo a las salas de cine el terror de una SIA que no se rebeló a sus creadores, sino que, fiel a su misión original, decidió quien estorbaba para cumplir cabalmente su misión. Salimos del cine y tal vez creímos que eso se quedaría en la ficción.

En 1990, el futurólogo Ray Kurzweil publicó un libro llamado La era de las máquinas inteligentes en el que avizoraba que en algún momento una computadora derrotaría al que fuera el mejor ajedrecista del mundo (Deep Blue de IBM contra Garri Kasparov en 1996 y 1997), la nanoingeniería, el aprendizaje a distancia, las prótesis controladas por IA, la traducción automática, el cifrado de la comunicación y la aparición de tecnología táctil, entre otras cosas. Kurzweil tiene una visión optimista acerca del transhumanismo, las tecnologías de extensión de la vida, la nanotecnología, la robótica y la biotecnología. Supone que el ser humano está cerca de la singularidad, entendida como el momento en que la inteligencia humana y la de las máquinas se fusionará. En 2005 creía que esa fecha sería 2045, pero tal vez suceda mucho antes.

Pero, momento, ¿por qué estamos mezclando a Kurzweil y a un montón de autores de ciencia ficción con el Papa León XIV? Porque el Pontífice plantea en su encíclica que ha llegado el tiempo de hacernos una pregunta ética fundamental: ¿la tecnología debe estar al servicio de la humanidad, de toda ella, o debe servir a los intereses de unos cuantos empresarios superricos o de líderes de gobierno sin escrúpulos? La respuesta es obvia, pero el mundo no funciona así.

Aquí viene a la mente el texto de Yanis Varoufakis: Tecnofeudalismo: el Sigiloso Sucesor del Capitalismo. Supone este autor que en esta era de tecnofeudalismo las grandes corporaciones tecnológicas controlan los territorios digitales y, por medio de ellos, controlan o influyen de manera determinante en la economía, la sociedad, los gobiernos y, por supuesto, las guerras. Estos señores neofeudales no van a soltar el control en favor de la humanidad ¿o me equivoco?

Hay, sin duda, una línea conductora única entre la histórica encíclica Rerum Novarum de León XIII con Magnifica Humanitas de León XIV y esta es la preocupación porque el progreso, sea de la revolución industrial o la tecnológica, no aplaste a los seres humanos, sino que les sirva. Este nuevo texto papal no condena el progreso científico, sino que propone un imperativo ético.

Me temo que, con toda la influencia del líder mundial de los católicos, su llamado, en forma de uno de los documentos más notables de la Iglesia Católica, pondrá un tema durante unos días o semanas, enfrentará la antipatía o la indiferencia de los dueños de las tecnologías y los políticos de las potencias y luego saldrá del radar público.

Empeñados como estamos en el desarrollo sin control de la tecnología, estamos a punto de construir a Dios y será peor que el del Antiguo Testamento.