La IA y la tragedia de los comunes

Elinor Ostrom fue la primera mujer en obtener el Nobel de Economía. Su contribución más conocida es el estudio de los mecanismos para enfrentar la tragedia de los comunes, dilema económico y social en el que las personas, al perseguir su beneficio individual, incurren en acciones que destruyen o agotan un recurso compartido y limitado.

Un recurso compartido es un bien al que todos tenemos acceso libre y gratuito, sobre el cual cada individuo desea obtener la mayor utilidad posible. Para cada persona, existe un beneficio marginal privado cuando utiliza el recurso, aunque existe un costo por el daño o desgaste del bien. El incentivo individual es explotar el bien excesivamente, hasta que el recurso se agota, lo cual afecta al colectivo.

Las noticias que han corrido en las últimas semanas en relación con la IA generan un escenario en el que caben los argumentos de Ostrom. Hace años, en el ámbito de la competencia económica surgió una preocupación por la colusión algorítmica, que ahora parece ser un riesgo menor. Diversos analistas, desde científicos de datos e ingenieros hasta filósofos, alertan sobre riesgos mucho más graves que la cartelización. Se habla de efectos profundos en el tejido social, por la capacidad de vigilancia y de predicción de los modelos, lo cual podría socavar la democracia y dar pie a regímenes autocráticos. También se menciona la creación de comunidades autónomas de agentes de IA, capaces de rebelarse a las instrucciones de sus creadores. Aflora una preocupación por el uso de las nuevas herramientas para la creación de armas de destrucción masiva de todo tipo. Asimismo, hay inquietudes sobre la afectación a la ciberseguridad y la posibilidad de ataques al sistema financiero.

Este nerviosismo surge en un entorno en el que parece que el desarrollo tecnológico avanza exponencialmente, al grado que los líderes de las principales empresas estadounidenses de IA han alertado que la capacidad de vigilancia y control de los modelos avanza más lentamente, lo cual puede generar una pérdida de control. Y han efectuado un llamado para pausar la carrera tecnológica a fin de implementar medidas regulatorias y de vigilancia, que involucren además a las empresas chinas.

En mi opinión es correcto que la competencia desbocada amenaza con deteriorar el espacio compartido de internet y las plataformas, y la búsqueda de beneficios individuales pasa por encima de los costos sociales, como la generación de información falsa, la pérdida de confianza, el desplazamiento laboral y la ciberseguridad comprometida, así como los efectos ambientales por el consumo de recursos físicos como el agua y la energía. Sin embargo, hay que examinar los aspectos financieros y estratégicos subyacentes de la propuesta.

En el contexto actual, hay serias dudas acerca de la capacidad financiera de las empresas líderes. OpenAI registra una pérdida operativa de 1.84 dólares por cada dólar de ingreso. Anthropic aparentemente tiene un margen bruto superior al 80%, aunque esa cifra no descuenta los ingresos que comparte con diversos socios de distribución y los costos de entrenamiento. Se sabe que los costos de investigación y entrenamiento son inmensos, sobre todo en el desarrollo de agentes. Esto genera la duda de si la pausa propuesta, que podría provenir de una preocupación genuina en materia de seguridad, puede también ser conveniente para aliviar las presiones financieras de algunas empresas y para frenar la capacidad competitiva de algunos rivales.

La inclusión de China tiene también el efecto de limitar a otros competidores. Sin embargo, es cierto que un esquema regulatorio asimétrico que aplique a las empresas estadounidenses y deje fuera a las chinas desequilibraría notablemente la competencia y sería ruinoso para las primeras.

La situación es complicada, porque la prevalencia de los incentivos individuales amenaza con obstaculizar una coordinación que pudiera ser beneficiosa. Al mismo tiempo, existe el riesgo de que la regulación sea utilizada para excluir competidores y favorecer a algunas empresas.

*Especialista en competencia económica y regulación. Socio Director de Ockham Economic Consulting.