España investigará a X, Meta y TikTok por difundir material de abuso sexual infantil generado con IA

El Gobierno español ha ordenado a la Fiscalía que investigue las plataformas de redes sociales X, Meta y TikTok por presuntamente difundir material de abuso sexual infantil generado por inteligencia artificial, ⁠según anunció el martes el presidente del ⁠Gobierno, Pedro Sánchez.

El anuncio se conoce en un momento en que los reguladores europeos están tomando medidas drásticas contra las grandes empresas tecnológicas, alegando la prevalencia de prácticas abusivas en las plataformas en internet, que van desde comportamientos anticompetitivos en la publicidad digital hasta el diseño deliberado de funciones adictivas en las redes sociales.

Las tres empresas mencionadas por Sánchez no respondieron inmediatamente a las solicitudes de comentarios enviadas por correo electrónico.

Aumenta escrutinio mundial sobre plataformas tecnológicas

"Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas", escribió en su cuenta de la red social X. "El Estado no lo puede permitir. La impunidad de los gigantes debe acabar".

Dijo que el Gobierno pediría a la fiscalía que "investigue los delitos que X, Meta y TikTok podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA".

España no es el único país que investiga el contenido sexualmente explícito generado por el chatbot Grok de xAI, de Elon Musk, en X; otros Gobiernos han puesto en marcha investigaciones, prohibiciones y exigencias de salvaguardias en un esfuerzo global cada vez mayor por frenar el material ilegal.

Este mes, Sánchez anunció varias medidas destinadas a frenar los abusos en internet y proteger a los niños, entre ellas una propuesta para prohibir el acceso a las redes sociales a los menores de 16 años.

El mismo ⁠día, la policía francesa registró las oficinas de X, de Musk, y la fiscalía ordenó al multimillonario ⁠tecnológico que respondiera a una serie de preguntas en el marco de una investigación cada vez más amplia, en un contexto de creciente escrutinio de la plataforma por parte de las autoridades de toda Europa.

En noviembre, Sánchez dijo que el Parlamento español investigaría a Meta por posibles violaciones de la privacidad de sus usuarios de Facebook e Instagram.

Mientras tanto, la Comisión de Protección de Datos de Irlanda anunció el martes que había abierto una investigación formal sobre Grok por el tratamiento de datos ⁠personales y su potencial para producir imágenes y vídeos sexualizados perjudiciales, incluidos los de niños.