Objetores de conciencia de la tecnoutopía, uno de cada 6 profesionales del campo de la Inteligencia Artificial (IA) en Reino Unido abandonó su trabajo debido a la preocupación que le generó las consecuencias que los proyectos en cuyo desarrollo cooperó pudieran traer a la sociedad. Es la tasa más alta de renuncias en cualquier campo del sector tecnológico.

Pero la cifra más preocupante es la de que 6 de cada 10 profesionales de la IA en Reino Unido aseguró colaborar o haberlo hecho en un proyecto potencialmente perjudicial para la sociedad. Estos datos provienen del estudio People, Power and Technology: The Tech Workers View (cuya traducción sería Gente, poder y tecnología: el punto de vista de los trabajadores del sector tecnológico), realizado por Doteveryone, centro de investigación que aboga por la responsabilidad de la industria tecnológica frente a la sociedad.

El estudio de Doteveryone indica que los profesionales de la IA opina en su mayoría que el sector debe tener una mayor regulación gubernamental como mecanismo para evitar consecuencias perniciosas que afecten a la sociedad. El desempleo por la automatización es uno de los efectos negativos que más citaron en el estudio los desarrolladores de proyectos de IA.

La importancia de estos datos es que las objeciones no provienen de neoluditas o de activistas refractarios al progreso, sino que viene de quienes están desarrollando los proyectos de IA. Son, entonces, objetores de conciencia de un mandato que nos dice que toda nueva tecnología que prometa a la sociedad una vida más cómoda y fácil, debe estar exenta de toda regulación, condición sine qua non para permitir que se desarrolle óptimamente.

En contracorriente, el escritor Evgeny Morozov, crítico que ha alertado sobre los peligros que pueden entrañar el uso y desarrollo irreflexivo de las tecnologías, ha señalado que dado que las empresas tecnológicas deben someterse a controles democráticos toda vez que nuestras infraestructuras económicas y sociales dependen de los servicios que proveen, pues sus intereses son meramente económicos.

Sobran los casos de empresas que expresan su preocupación por proteger a la sociedad de los posibles daños causados por sus servicios, hasta que sus estrategias abusivas para aumentar sus ganancias —Mark Zuckerberg y sus ya varios mea culpa, por citar uno de los casos más conspicuos— son ya tan evidentes, que deben someterse a una nueva sesión de maquillaje para dar un nuevo rostro a las autoridades, estrategia que busca evitar, entre otras cosas, la regulación gubernamental que pudiera afectar sus intereses.

Volviendo a Morozov, éste nos dice que si estos desarrollos tecnológicos están enfocados a aumentar ganancias aún cuando pudieran afectar a las personas, no se debe a las empresas que las crean, sino a los capitales que las financian. Es entonces el capitalismo financiero el que está detrás de, por ejemplo, que la IA amenace el futuro del empleo, y no que ésta posea una naturaleza maligna.

El problema inmediato no es que la IA sea una nueva criatura de Frankenstein, figura usada ad nauseam para consignar la supuesta naturaleza incontrolable de la tecnología, no. Los posibles efectos perniciosos de la IA no son inevitables ni imprevisibles y mucho menos necesarios para su avance, como la propaganda de los intereses económicos que hay detrás de su desarrollo ha difundido. Sólo lo será si no sometemos a controles democráticos a los grupos económicos interesados en aumentar sus ganancias, y ganar control político, con la IA.

Lo inevitable del desempleo por la automatización es una de las narrativas más fuertes importantes de la actualidad. Será la IA la culpable, una criatura de Frankenstein a modo. Sharan Burrow, Secretaria General de la Confederación Sindical Internacional (CSI), señala en un artículo publicado en el sitio del World Economic Forum (WEF) que no es la tecnología la que dicta el futuro del trabajo y de los trabajadores, sino que deben hacerlo los gobiernos, las empresas, los trabajadores y sus sindicatos y las sociedades en general. Pero la narrativa de una tecnología que opera por cuenta propia no es naif, sino que tiene propósitos claros.

En una entrevista del 2018 para el diario El Confidencial, Morozov describe el mecanismo que hay detrás de estas narrativas recurriendo al caso ejemplar de Uber, la empresa de transporte privado. Morozov explica que Uber ha operado por años reportando pérdidas millonarias no porque esto forme parte de una estrategia para acabar con sus competidores y dominar el mercado, para entonces aumentar las tarifas y comenzar a reportar ganancias. No. La estrategia, dice, es más sofisticada: opera con pérdidas porque en la actualidad está en una fase de recopilación de datos —rutas, clientes y tráfico— gracias al servicio actual de conductores, para luego, gracias a la IA, prescindir de ellos —despedirlos— al reemplazarlos con autos autónomos, que operarán gracias a la data acumulada. “Uber, gracias a sus pactos de optimización fiscal, ni siquiera dejará apenas impuestos en los países en los que opera”, advierte Morozov.

Lo descrito pone en relieve la importancia de la objeción de conciencia de los desarrolladores de IA. La figura de “objetor de conciencia” se define contra los mandatos de una autoridad con los cuales no se está de acuerdo. Y el mandato de los intereses detrás de esta narrativa es que sus efectos negativos son inevitables, pero que nadie puede oponerse al progreso.

Hannah Arendt, pensadora de origen alemán que obtuvo la nacionalidad estadounidense luego de encontrar refugio en este país de la persecución nazi de la población judía, tuvo entre sus temas de relexión más importantes el problema del mal. En un mundo sacudido por una Segunda Guerra Mundial en la que se experimentaron horrores y crímenes contra la humanidad hasta entonces inéditos,  se hizo necesario entender qué llevó a personas simples a realizar actos terribles.

En 1961, en el recién creado estado de Israel, se inicia el juicio al alemán Adolf Eichmann por genocidio contra el pueblo judío durante la Segunda Guerra Mundial. Arendt fue enviada a cubrir el evento por el diario The New York Times. Durante el juicio, la pensadora encontró que Eichmann no era un monstruo cuyas acciones estuvieran motivadas por una maldad que le llevara a provocar sufrimiento. Lo que encontró en su lugar fue un hombre simple que sólo siguió órdenes y renunció a reflexionar sobre las consecuencias de éstas.

La maldad, entonces, fue no reflexionar sobre los mandatos de la autoridad, y en caso de no estar de acuerdo con ellos, negarse a seguirlos, ser un objetor de conciencia.

Los verdaderos creadores de la IA, los programadores y no las empresas ni los fondos de capitales y accionistas, están en su mayoría convencidos de que el desarrollo de esta tecnología debe ser sometida a códigos de ética, y transparentar los proyectos para que éstos beneficien a toda la sociedad y no se vuelva un medio de control de ésta a favor de un reducido grupo para, y es necesaria la reiteración, aumentar sus ganancias.

La fuerza está en los números, en las acciones colectivas y coordinadas. La sociedad entera debe reflexionar sobre estas narrativas que rigen no sólo nuestras vidas, sino las políticas públicas y hasta el destino de los recursos públicos. Hay que recordar que muchos gobiernos financian las investigaciones de IA, investigaciones cuyos resultados luego pasan a empresas privadas. La regulación, los controles democráticos, la reflexión y, en caso de ser necesario, la objeción de conciencia, son necesarios para tener mejores sociedades. Ni la tecnología, ni los capitales financieros, nos traerán el bienestar común.