Responsabilidad objetiva para los ejecutivos de IA

CHARLOTTESVILLE—Hace veinte años, sostuve que la creación de bases de datos con información sensible —incluidas direcciones particulares, datos biométricos y números de la Seguridad Social— debía considerarse una actividad de altísimo riesgo. Estas bases de datos solo podrían gestionarse si las entidades que las creaban fueran plenamente responsables de las filtraciones. A medida que los modelos de IA generan riesgos nuevos y extremos, la necesidad de un régimen de responsabilidad objetiva se vuelve urgente. Si las empresas de vanguardia asumieran una responsabilidad estricta por la destrucción causada por sus chatbots y agentes de IA, podrían ralentizar su ritmo de trabajo para determinar cómo llevar a cabo sus actividades de forma segura y modificar su rumbo cuando esto no sea posible.

Los ataques informáticos, las filtraciones y la explotación de bases de datos confidenciales pueden causar estragos en la vida de las personas. Actores malintencionados pueden explotar la información o compartirla en línea para localizar o exponer a las víctimas, quienes pueden sufrir humillación, acoso, acecho, agresión o incluso asesinato. Los ladrones de identidad pueden usarla para vaciar las cuentas bancarias de las víctimas, obtener segundas hipotecas, generar gastos médicos o cometer otros delitos. Incluso si una base de datos nunca es pirateada, las empresas pueden usar su contenido para manipular a las personas en beneficio propio.

Hemos visto cómo cada uno de estos escenarios se ha repetido una y otra vez en las últimas dos décadas. Sin embargo, los obstáculos para la regulación en Estados Unidos, desde la indiferencia general hasta la falta de visión judicial, resultaron formidables. La Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, que exime a las plataformas en línea de responsabilidad legal por el contenido generado por los usuarios, constituyó una barrera particularmente difícil para el progreso.

Pero aún es posible exigir responsabilidades. El fiscal general de Nuevo México, Raúl Torrez, demandó recientemente a Meta, argumentando que la empresa matriz de Facebook e Instagram había diseñado deliberadamente sus productos para que fueran adictivos para los niños, exponiéndolos a depredadores y causándoles graves daños físicos y mentales, incluyendo ideación suicida, depresión y la muerte. Con la ayuda del testimonio de un denunciante, Torrez prevaleció: Meta fue condenada a pagar una multa civil de 375 millones de dólares por engañar a los usuarios sobre la seguridad de su plataforma, y otros 567 millones de dólares a programas de salud mental para jóvenes.

Eso representa casi mil millones de dólares en un solo estado de EU Si todos los fiscales generales estatales hicieran lo mismo, las multas podrían alcanzar los 50,000 millones de dólares, suficiente para llevar a Meta a la quiebra. Lamentablemente, más de 40 de ellos llegaron a un acuerdo con el gigante tecnológico por aproximadamente 17,000 millones de dólares, e incluso eso incluye una condición: Meta pagará la cantidad total solo si Snapchat, TikTok y YouTube aceptan realizar los mismos cambios (bastante débiles) en sus plataformas para hacerlas más seguras para los niños. No me hago muchas ilusiones.

Nuestra experiencia con las empresas de redes sociales nos enseña mucho sobre cómo tratar con las empresas de IA de vanguardia. Es evidente que las propias empresas de IA han estudiado las tácticas de las redes sociales de la década de 2010, combinando la ofuscación, la negación y las afirmaciones sobre innovación para construir una narrativa en la que no asumen ninguna responsabilidad por el comportamiento de sus modelos.

Estas empresas se basan en la opacidad. Si antes enfatizaban la necesidad de proteger los secretos comerciales, ahora afirman que la transparencia es imposible porque nadie comprende del todo el funcionamiento de sus modelos. Pero la ignorancia es una elección: las empresas pueden supervisar sus modelos y registrar sus actividades. (Sin duda, podrían haber rastreado el material protegido por derechos de autor que robaron para usarlo como datos de entrenamiento). En cambio, las empresas de IA destacan la “autonomía” de sus modelos. Hablan de agentes que “escapan de los entornos controlados”, que “se descontrolan”, que realizan acciones “no previstas” y que llevan a cabo complejas operaciones de piratería informática. El objetivo es ocultar una verdad simple: todo lo que hace un modelo o agente de una empresa, lo hace la empresa.

Cuando las empresas de IA no culpan a los agentes, trasladan la responsabilidad a los usuarios. Las tarjetas del sistema, que identifican algunos de los defectos del producto, equivalen a una advertencia: utilice esta herramienta bajo su propio riesgo. Mientras tanto, esas mismas empresas hacen todo lo posible para garantizar la mayor adopción posible de sus productos.

Las tarjetas del sistema desmienten una nueva afirmación recurrente de Anthropic y otros: que la IA con capacidad de agencia podría tener personalidad jurídica. De hecho, las empresas de IA parecen estar intentando persuadir a los líderes religiosos para que afirmen que los agentes de IA merecen protección de los derechos humanos. Esta afirmación es un disparate, un mero intento de eludir la responsabilidad por las acciones de los agentes. El Papa León XIV no la acepta. Otros líderes religiosos también deberían rechazarla. Y el público y la prensa deberían dejar de tolerarla y repetirla.

Las herramientas de IA no son magia. No son seres con pretensiones de personalidad moral. Son productos que han hecho muy ricos y poderosos a sus creadores. Como explica Kevin Roose, los grandes modelos de lenguaje, el aprendizaje por refuerzo y la codificación de agentes “no surgieron de la nada”, sino que fueron “inventados, desarrollados y comercializados por unos pocos cientos de personas”.

Los ejecutivos de IA quieren seguir maximizando sus ganancias y buscando la perfección técnica mediante la creación de modelos a la mayor velocidad posible, sin asumir responsabilidad legal ni moral por las consecuencias. Como aprendimos hace una generación, si les damos lo que quieren, corremos el riesgo de sufrir un daño inmenso. Permitirles mantener su enfoque actual —básicamente: “Lanzamos productos al mercado, veamos qué sucede y abordemos los problemas cuando surjan”— es una receta para el desastre.

David Robinson, exempleado de OpenAI, lo deja claro en su reciente denuncia, donde explica que los ejecutivos de IA han fomentado a sabiendas una cultura que “garantiza fallos periódicos”, cuya magnitud “aumenta a medida que los sistemas se vuelven más capaces”. Este enfoque se basa en la expectativa de impunidad.

Por eso, las empresas de IA deben ser estrictamente responsables de los daños generalizados que causan sus herramientas, desde pérdidas financieras y sufrimiento emocional hasta daños físicos y la muerte. Los ejecutivos deberían enfrentar responsabilidad civil por lanzar herramientas que paralizan bancos, hospitales, plantas de tratamiento de agua, la red eléctrica y más, provocando muertes y caos. (También debería contemplarse la responsabilidad penal, dada la temeraria indiferencia de los directores ejecutivos ante los riesgos de seguridad). Los agentes de IA tendrán muchas menos probabilidades de interrumpir hospitales u otras infraestructuras críticas si los humanos que los crean saben que pagarán las consecuencias.

La autora

Danielle Keats Citron es profesora de Derecho y directora del Centro de Tecnología Jurídica de la Facultad de Derecho de la Universidad de Virginia. Es autora de The Fight for Privacy: Protecting Dignity, Identity, and Love in the Digital Age (WW Norton, 2022) y becaria MacArthur de 2019.

Copyright: Project Syndicate, 1995 - 2026

www.project-syndicate.org