Reino Unido exige que Grok responda a preocupaciones sobre fotos sexualizadas en X

El Reino Unido ha exigido a X, la red social de Elon Musk, que explique cómo su chatbot de inteligencia artificial Grok pudo producir imágenes de personas sin ropa e imágenes sexualizadas de niños, y si estaba incumpliendo su deber legal de proteger a ⁠los usuarios.

Grok declaró el viernes que fallos en las salvaguardias habían dado lugar a "imágenes de menores con poca ropa" en X, y afirmó que estaba corrigiéndolos en forma urgente.

El regulador británico ⁠de los medios de comunicación, Ofcom, dijo que estaba al tanto de las "serias preocupaciones" suscitadas por esta función.

"Nos hemos puesto en contacto urgentemente con X y xAI para saber qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido", dijo un portavoz.

Grok dijo el viernes: "xAI cuenta con salvaguardas, pero se están realizando mejoras para bloquear por completo este tipo de solicitudes".

Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidos los deepfakes sexuales creados por inteligencia artificial, es ilegal en Gran ⁠Bretaña.

Además, las plataformas tecnológicas tienen la obligación de tomar medidas para evitar que los usuarios ⁠británicos encuentren contenidos ilegales y retirarlos cuando tengan conocimiento de ellos.

La petición se produce después de que los ministros franceses denunciaran a X ante la fiscalía y los organismos reguladores por las perturbadoras imágenes, afirmando en un comunicado el viernes que el contenido "sexual y sexista" era "manifiestamente ilegal".