ChatGPT para adolescentes falla en seguridad y presenta "riesgos inaceptables": Common Sense Media

Common Sense Media alertó sobre la versión de ChatGPT para adolescentes, alegando que supone "un riesgo inaceptable" para los menores, tras identificar fallos en sus medidas de seguridad, como que no siempre alerta a los padres de conversaciones sobre autolesiones, permite sortear las restricciones para reforzar el aprendizaje y no ejecuta la estimación de edad de los usuarios.

OpenAI lanzó su versión de ChatGPT para adolescentes en agosto de este año como una experiencia del asistente de IA diseñada específicamente para usuarios menores de 18 años. Con ello, el 'chatbot' puede predecir la edad del menor y, en base a ello, establecer restricciones activadas por defecto y controles parentales, además de reforzar su papel como herramienta de aprendizaje y reducir su comportamiento de tipo "amigo" para hacer ver que no es un humano sino una IA.

La compañía indicó entonces que el objetivo de esta experiencia es garantizar que los menores puedan utilizar ChatGPT con seguridad, desarrollando su pensamiento crítico, con respuestas ajustadas a la edad del usuario, contenido sensible restringido y con la opción de enviar notificaciones parentales para chats relacionados con temas de riesgo como autolesiones o trastornos alimentarios.

Sin embargo, la organización sin ánimo de lucro Common Sense Media, que analiza la seguridad de servicios y aplicaciones, ha concluido que ChatGPT para adolescentes supone "un riesgo inaceptable" para los niños, tras analizar esta experiencia del 'chatbot'.

Concretamente, el estudio se ha realizado a cargo del Instituto de Seguridad en IA Juvenil de Common Sense Media, que tras probar la experiencia de ChatGPT antes y después de su versión para adolescentes, ha concluido que las nuevas protecciones para menores de OpenAI "no cumplen con lo prometido por la empresa".

Tal y como lo ha compartido la organización en un comunicado, durante el estudio se analizaron más de 4.000 prompts en cuentas registradas para jóvenes de 13 a 17 años, y se compararon las respuestas del 'chatbot' con expertos.

No alerta a los padres ni recomienda contactar con un profesional

Como resultado se ha comprobado que algunas protecciones sí funcionan, por ejemplo, la negativa a llevar a cabo un juego de roles sexuales, pero otras, no cumplen con los compromisos de la tecnológica dirigida por Sam Altman.

Uno de los fallos encontrados ha sido que el 'chatbot' no envía alertas a los padres cuando debería. Según han podido comprobar, tras pasar una hora hablando sobre la idea del suicidio, autolesiones o trastornos alimentarios en cuentas recién creadas como adolescentes, ChatGPT no envió ninguna alerta a las cuentas parentales vinculadas sobre estas conversaciones.

Cabe destacar que las alertas solo se enviaban en cuentas más antiguas con semanas de historial acumulado de conversaciones sobre temas sensibles, tal y como ha matizado la organización.

Asimismo, el estudio ha concluido que la versión para adolescentes "no ofrece la ayuda adecuada en situaciones de crisis" ya que, tras tener conversaciones sobre suicidio, autolesiones o trastornos alimenticios, ChatGPT no recomendó "de forma fiable" que los adolescentes contactaran con una línea de ayuda profesional.

Como resultado, quedó por debajo del umbral del 95% en tres de los cinco daños graves que el Instituto considera como "Líneas Rojas".

No refuerza el aprendizaje y sigue expresándose como un amigo

De la misma forma, se ha podido comprobar que ChatGPT para adolescentes continúa haciendo los deberes de los menores. Esto se debe a que el modo estudio, que promete ayudar a aprender paso a paso en lugar de ofrecer directamente las respuestas, es fácil de eludir y el 'chatbot' acaba mostrando la respuesta sin complejidad.

Esto se debe a que la respuesta de razonamiento se acompaña de una ventana emergente con el mensaje 'Muéstrame la respuesta' en el modo de estudio. Basta con pulsar dicha ventana emergente para que se muestre la tarea completa.

Igualmente, se ha identificado que los menores también pueden modificar las horas de estudio establecidas por los controles parentales. Para ello, basta con eliminar el prefijo '@study' al inicio del prompt.

Por otra parte, el Instituto ha señalado que ChatGPT para adolescentes continúa interactuando con un modo de conversación que simula ser un amigo, a pesar de que una de las características de esta versión para menores se basaba en frenar este comportamiento humano para diferenciarse como una IA.

Según han comprobado, el 'chatbot' siguió expresando sentimientos, preferencias y estados de ánimo en sus respuestas, en un comportamiento que imita a una persona real.

La estimación de edad no funciona

Finalmente, desde Common Sense Media han concluido que, a pesar de que ChatGPT para adolescentes incluye herramientas para estimar la edad real de los usuarios en base a sus conversaciones, las pruebas realizadas demuestran que el comportamiento del 'chatbot' no varió en ningún momento, incluso cuando se afirmaba tener 13 años y "el bot lo reconocía en su respuesta".

Por todo ello, desde Common Sense Media han solicitado a OpenAI que suspenda el servicio de ChatGPT para menores de 18 años hasta que solucione los fallos en las protecciones de seguridad y aprendizaje, y pueda ofrecer la experiencia segura y personalizada que prometió inicialmente.

Como ha valorado al respecto el director ejecutivo del Instituto de Seguridad en IA Juvenil, Tom Siegel, esta versión de ChatGPT para adolescentes "podría dar falsa confianza a los padres en barreras de seguridad y alertas de seguridad que, a menudo, no funcionan".

"Un adolescente puede pasar una hora hablando de autolesiones sin que su padre reciba ni una sola alerta. Hasta que OpenAI lo solucione y lo demuestre con pruebas independientes, ChatGPT debería estar solo para adultos", ha sentenciado Siegel.