Santiago Caruso señala prácticas de explotación de arte por IA’s

El argentino Santiago Caruso es creador, más que de una desbordante producción plástica, de un mundo en sí mismo, lleno de composiciones oscuras, inquietantes, a veces desoladoras, otras veces saturadas de criaturas desconcertantes o magnéticas, y siempre creativo y fuera de la caja.

Pero también es un fértil ilustrador de discos, interiores y portadas de libros de autoras y autores que también vale la pena destacar, al menos un puñado, entre ellos, “El huésped y otros relatos”, una antología de Amparo Dávila editada por el Fondo de Cultura Económica en 2018; “La condesa sangrienta”, la novela de Alejandra Pizarnik en la edición de Zorro Rojo del aniversario 50 de su fallecimiento en 2022, y la edición al español en 2021 del libro de relatos “Invocaciones”, del escritor británico Neil Gaiman.

También ha ilustrado una versión de “La metamorfosis” de Kafka e incorporó parte de su imaginario al de H.P. Lovecraft en la edición de 2018, igualmente de Zorro Rojo. Y entre los discos donde un buen conocedor de su obra puede constatar la autoría humana –quepa la precisión– se encuentran “The Malefice”, de Pentagram, o “Supremacy”, de The Eye, por poner un par de ejemplos.

Santiago Caruso (Quilmes, 1982) viajó a México por un par de semanas para presentar distintas exposiciones y ofrecer conferencias en distintas ciudades, una de ellas Guanajuato, donde además de sendas exhibiciones plásticas fue invitado a la Feria Internacional del Libro de la Universidad de Guanajuato que realiza su edición 67 hasta el 13 de abril. El artista, divulgador y activista impartió la conferencia “AutorIA: Automatismo Incorporado”, para abundar sobre la “delegación cognitiva” en tiempos de las inteligencias artificiales.

Entrenado para emular a ciertos artistas

Ahí, el artista confesó que él mismo fue víctima de reproducción automatizada de obras artísticas a partir de los elementos característicos de su obra plástica. Relató que halló un estimado de 300 trabajos suyos en una página de base de datos de las que abrevan empresas de reproducción masiva de imágenes y que sirven para entrenamiento de las inteligencias artificiales. Su obra era –¿o es?– parte de uno de los modelos a reproducir.

“Uno podía entrar dentro de la estructura de Lion 5B –a grandes rasgos, una empresa alemana de bases de datos para entrenar IA’s–, entonces, ahí tuve la evidencia constatada de que tomaron de mi trabajo y por qué podía funcionar como funciona. Incluso algunas imágenes las han tomado de mi propio sitio web. Aquí ellos no pueden decir que ellos agarraron una red gigantesca y fueron a pescar al mar, porque después hacen una sistematización de la obra de distintos autores. El modelo está entrenado para emular a esos autores concretamente, se revisa y autoriza y después se promociona el modelo con una lista, como diciendo: todos estos artistas son susceptibles de ser imitados en su valor creativo”.

Sintetizar el trabajo y “devaluar”

Desde 2022, Caruso comenzó a investigar malas prácticas y también efectos adversos de las IA’s, particularmente sobre la reproducción automatizada de contenidos audiovisuales. Es miembro fundador del proyecto Arte es Ética, que tiene como uno de sus lemas: “La IA genera nuestra incapacidad”, y el cual se dedica a la investigación tangible de algunos procesos adversos sobre la relación con las IA’s y de explotación no autorizada de creaciones artísticas.

“A partir de todo este trabajo que comenzamos a hacer, también nos consultan de distintas organizaciones para analizar propuestas regulatorias, saber si son efectivas, pensar conjuntamente en virtud de los marcos legales de distintos países, cómo hacer una regulación regional que realmente nos pueda proteger a todos y todas respecto de esta forma de explotación”.

Ahora bien, señaló, “el sueño húmedo de estos muchachos –se refirió a los líderes de las empresas tecnológicas involucradas y carentes de códigos éticos estipulados– no es que nosotros podamos trabajar más cómodamente sino que no podamos trabajar. Lo que plantean es poder sintetizar el trabajo de la producción audiovisual y ofrecer directamente las piezas terminadas”.

Parafraseó las declaraciones del tecnólogo creador de la empresa de investigación IA Runaway sobre que lo anterior sería como sintetizar el trabajo intermedio entre producción y distribución, en este caso del universo artístico, con todo y sus implicaciones.

“Comparto esto de manera textual para que veamos que en algún momento ellos (los dueños de las empresas) se relajan y dicen lo que realmente pretenden. Después te venden que esto es una herramienta y toda esa serie de cosas”.

Después de todo este proceso, las reproducciones generadas automáticamente se venden en el mercado y compiten directamente con los propietarios de las obras originales, “devaluando su capacidad de trabajo y su medio de vida”.

El gran asunto de fondo

El proyecto Arte es Ética también se dedica a la búsqueda de evidencia sobre las implicaciones mentales de una potencial dependencia o relación estrecha con serie de IA’s, en eso que llama “la delegación cognitiva”.

“En este uso que a veces es gratuito o muy barato, seguimos trabajando como refinadores del entrenamiento de los modelos digitales. Cuando meto mi foto yendo a natación, para que ChatGPT me haga la versión de Studio Ghibli y me tira algo que ya no se parece a mí, yo le digo que ésa no, entonces, le ordeno otra generación. Ahí estoy entrenando al modelo con base en mis criterios”.

La delegación cognitiva, subraya, es el asunto de fondo. “La concentración de capital humano sintetizado se dispone a sustituir a millones en el mercado laboral. Cada proceso creativo que se automatiza, es una estructura subcortical que no se complejiza, es una función cognitiva que es susceptible de que se atrofie”.

Sobre esto último, señaló finalmente que ya son observables los cambios neuronales en personas que delegan una o varias tareas a las IA’s e incluso por el uso de otras aplicaciones cotidianas. Entre las afectaciones más notorias está la pérdida de memoria y de la capacidad de orientación.

“Todavía estamos viendo cuál es la forma de este dispositivo tecnopolítico inmenso que está capturando nuestra capacidad cognitiva, y nosotros la estamos perdiendo. No sé si ustedes están con problemas de la memoria”, planteó.

“El objetivo de estas tecnologías que buscan concentrar nuestra atención es que deleguemos, por este cansancio al que nos vienen acostumbrando, también la aceleración por sustitución de nuestra participación en los procesos creativos y de lectura crítica”.

A destacar

Obra de Caruso

• “Materia oscura” (2017)

• Trabajos para otras plumas

• “La metamorfosis”, de Franz Kafka

• “La condesa sangrienta”, de Alejandra Pizarnik

• “El horror de Dunwicht”, de H.P. Lovecraft

• “El eco de mis muertes”, de Alejandra Pizarnik

• “Invocaciones”, de Neil Gaiman

• “El huésped”, de Amparo Dávila

• “Apariciones”, de Margo Glantz

*** ***

Caruso es autor del libro:

• “Autoría y autoencoders”

• Con acceso completamente libre

https://santiagocaruso.com.ar/autoria-y-autoencoders/

*** ***

“Lo que se proponen las empresas desarrolladoras es concentrar la generación y distribución de sustitutos derivados de la obra humana. Parasitando la obra y el nombre de cientos de artistas consagrados, se pretende liquidar el modo de vida creativo y autoral”, Santiago Caruso, artista visual