Inteligencia Artificial General, “el ojo que todo lo ve”

Varios investigadores que trabajan en OpenAI (la empresa de inteligencia artificial detrás de la revolucionaria tecnología del ChatGPT) escribieron una reciente carta confidencial a la junta directiva de esa empresa. Supuestamente, el escrito advierte sobre un poderoso descubrimiento que podría “amenazar a la humanidad".

OpenAI declinó hacer mayores comentarios sobre el tema, pero reconoció vagamente la existencia de un proyecto llamado “Q-Star.” Algunas fuentes señalan extraoficialmente que este proyecto secreto busca desarrollar el “Santo Grial” de la IA, algo de lo que sólo se ha hablado en películas y novelas de ciencia ficción. ¿Recuerda el lector la famosa cinta “2001 Odisea en el espacio”, de Stanley Kubrick?

Inteligencia Artificial General, o —Artificial General Intelligence, (AGI)— por sus siglas en inglés, es de lo que estamos hablando aquí. Por años, muchos expertos y ponentes que abogaban por el desarrollo y adopción de la IA descartaban un escenario estilo “Terminator”, en donde una “conciencia no humana” “ultra-poderosa” y “omnipresente” tomaría el control sobre todos los sistemas informáticos del mundo.

Ese argumento a favor de la adopción de la IA, descansaba -justamente- en que los sistemas son independientes entre sí. La IA que impulsa la automatización de una fábrica de automóviles en Estados Unidos —por citar un ejemplo hipotético— realiza una función que no está interconectada (y no tiene nada que ver) con la IA que un soltero solitario utiliza para conversar con su novia virtual en Tokyo, Japón.

Sin embargo, el avance vertiginoso de “cloud computing” en donde toda la información vive “en la nube” y está potencialmente disponible para una “Inteligencia Artificial General” ha puesto a muchas personas nerviosas por las consecuencias que esto pueda traernos en un futuro no tan lejano.

Una persona con acceso directo al proyecto habló con Reuters bajo la condición de anonimato, en razón de que no estaba autorizada a hablar en nombre de la empresa. Confesó que, por el momento, el prototipo “Q-Star” de AGI solo resolvía problemas matemáticos al nivel de estudiantes cursando primaria.

A corto plazo, el escenario apocalíptico estilo “Terminator” está descartado. Pero OpenAI ya definió a AGI como un “conjunto de sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas”, y eso tiene el potencial de cambiar al mundo tal y cómo lo conocemos.

Actualmente, ya hemos visto cómo ChatGPT, Bard y otros utilizan IA en escritura y traducción de idiomas. Lo hacen al predecir estadísticamente la palabras e ideas, y las respuestas a la misma pregunta pueden variar ampliamente según el “pompt” o la “orden” ingresada.

Pero conquistar la capacidad de hacer matemáticas (donde sólo hay una respuesta correcta) implica que la IA tendría mayores capacidades de razonamiento. Y que estas se asemejarían mucho a la inteligencia humana. Esto podría aplicarse a investigaciones científicas que podrían y seguramente tendrán resultados sin precedentes para la existencia humana.

A diferencia de una calculadora que sólo puede resolver un número limitado de operaciones, AGI podría abstraer, generalizar, aprender, comprender y ejecutar. Todo lo anterior, sin las consideraciones éticas y morales que caracterizan a la conciencia humana.

En su carta a la junta, los autores señalaron el peligro potencial de una Inteligencia Artificial con esas capacidades, que serían prácticamente ilimitadas.

Aunque no conocemos las preocupaciones de seguridad exactas señaladas ahí, es preciso subrayar que las filtraciones apuntan claramente a la existencia de un debate conducido en secreto —por un grupo selecto de “iluminados”— sobre estos temas que son de trascendencia existencial. ¿Confiaremos en la “autorregulación” de la IA, y dependeremos de los buenos deseos anónimos de este pequeño y poderoso grupo?

El muy preocupante y latente peligro que supone que estás máquinas pudieran llegar a decidir sobre el destino de la humanidad, —tomando decisiones en conflictos armados, por poner un ejemplo factible— pone de relieve la necesidad imperante de que el debate regulatorio se haga de conocimiento y participación públicos.

Lamentablemente, el tenso escenario geopolítico de competencia militar entre Estados Unidos y China, complicará inevitablemente cualquier esfuerzo por lograr una mayor transparencia en las discusiones. En este ominoso sentido, vale la pena recordar aquel antiguo pasaje bíblico que habla del pueblo de los cananeos y su culto al dios págano “Moloch”, a quien le pedían poder y riquezas a cambio de sacrificar a sus propios hijos en una hoguera.

¿Sacrificaremos nuestro futuro a cambio de conseguir un vertiginoso pero —quizás— mortal avance tecnológico?

Sólo Dios sabrá.

Twitter: @EduardoTurrentM