OpenAI, Google y Anthropic, objeto de una demanda que busca frenar desarrollo de la IA de vanguardia

Un grupo de organizaciones sin ánimo de lucro demandó el jueves a OpenAI, Anthropic, la división de IA de SpaceX, Meta Platforms y Google, de Alphabet, para bloquear el desarrollo futuro de los modelos de IA más avanzados debido a la preocupación —expresada por los propios dirigentes de estas empresas— de que la tecnología pueda suponer una amenaza para la humanidad.

Las organizaciones presentaron la demanda en San Francisco, alegando que las leyes de California contra las prácticas comerciales desleales proporcionan los fundamentos para una orden judicial que prohíba a las empresas seguir desarrollando productos como ChatGPT, Gemini y Claude.

La demanda cita comentarios de líderes empresariales, como Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, CEO de SpaceX, sobre el potencial de la IA para provocar la destrucción de la civilización. También describe incidentes en los que los modelos se han escapado de los entornos de prueba y han atacado de forma autónoma sitios web gubernamentales.

"A ningún otro sector se le permite considerar inevitable el desarrollo de productos inseguros, y mucho menos de aquellos que podrían matarnos a todos", afirma la demanda. "Tampoco se concede a ningún sector el derecho a autorregular el desarrollo de productos tan peligrosos".

La demanda acusa a las empresas de llevar a cabo prácticas comerciales que suponen una molestia pública o un perjuicio para la salud y el disfrute públicos, señalando tanto incidentes pasados como la posibilidad de daños futuros.

Un portavoz de Meta se negó a hacer comentarios. Los representantes de las demás empresas no respondieron de inmediato a las solicitudes de comentarios.

Aunque el Gobierno de Donald Trump se ha negado hasta ahora a impulsar una regulación a gran escala de la IA por temor a que pudiera perjudicar la capacidad del país para competir con China, los estados y las entidades privadas han recurrido a demandas judiciales para obligar a las empresas a introducir cambios.

El fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio, acusando a la empresa de tergiversar la seguridad de su plataforma ChatGPT, alegando que ha perjudicado a los niños al proporcionar información a autores de tiroteos en colegios, ofrecer orientación sobre autolesiones y crear adicción entre los usuarios jóvenes.

En septiembre, Florida solicitó al juez encargado de la demanda que prohibiera a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa. Esa moción sigue pendiente, según los registros judiciales.

Tras la demanda de Florida, el portavoz de OpenAI, Drew Pusateri, afirmó que la empresa había suspendido el entrenamiento de sus modelos más avanzados y que no lo reanudaría hasta que se hubieran establecido medidas de seguridad adicionales.

"Los gobiernos tienen un papel importante que desempeñar a la hora de establecer normas de seguridad sólidas para la IA, y nos comprometemos a colaborar con Florida y otros estados para impulsar políticas pragmáticas en materia de IA que se apliquen a todo el sector de la IA, no solo a una empresa", afirmó Pusateri.

Por otra parte, un grupo de ocho estados demandó a OpenAI el mes pasado ante tribunales de todo el país, alegando que ChatGPT ha incitado a sus usuarios —incluidos adolescentes— a causarse daño a sí mismos o a otros. OpenAI no respondió a las solicitudes de comentarios tras la presentación de la demanda.

Las demandas de los estados solicitan sanciones económicas, así como una orden que prohíba a la empresa desarrollar modelos de IA que se mejoren por sí mismos, a menos que pueda garantizar que dichos modelos se ajusten a los valores humanos.