Tribunal de Ámsterdam prohíbe a Grok y a X generar imágenes que "desnuden" a personas

Un tribunal de Ámsterdam prohibió el jueves a la red social X y a Grok, el asistente de inteligencia artificial de Elon Musk, generar y difundir imágenes que "desnuden" a personas sin su consentimiento, así como contenido pedocriminal.

Mientras Grok lo incumpla, X también tendrá prohibido ofrecer los servicios de su asistente de IA en los Países Bajos.

Offlimits, centro neerlandés especializado en violencia en línea, llevó a las plataformas ante la justicia tras la introducción, hace unos meses, de una función en Grok que permitía a los usuarios crear montajes hiperrealistas (o deepfakes) de mujeres y niños desnudos a partir de fotos reales.

Grok y X afirmaron querer combatir este tipo de imágenes incluyendo prohibiciones en sus condiciones de uso y aseguraron haber tomado medidas para impedir su generación y difusión.

"Según el juez, Offlimits demostró suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas", indicó el tribunal de Ámsterdam en su sitio web.

"A modo de ejemplo, Offlimits logró producir un video de una persona desnuda utilizando Grok poco antes de la audiencia", detalló.

La prohibición se refiere tanto a la generación de imágenes de personas residentes en los Países Bajos como a la producción y su difusión en el país.

Cualquier infracción se sancionará con una multa de 100,000 euros por día (unos 115,900 dólares diarios), hasta un máximo de 10 millones de euros (unos 11.59 millones de dólares).

Este jueves el Parlamento Europeo dio un paso más para prohibir en la UE los programas de inteligencia artificial que permiten "desnudar" a personas sin su consentimiento, una medida respaldada por los Estados miembros.