Un californiano con trastorno bipolar acusa a ChatGPT de fomentar sus delirios y autolesiones

Un hombre de California demandó el miércoles a OpenAI y a su presidente ⁠ejecutivo, Sam Altman, alegando que la plataforma ChatGPT agravó su trastorno bipolar debido a la falta de medidas de protección para usuarios con enfermedades mentales.

Michael Lines, de 34 años, dijo en la ⁠demanda, en un tribunal estatal de ⁠San Francisco que las conversaciones que mantuvo con ChatGPT el año pasado agravaron un episodio maníaco que sufrió, convirtiéndolo en un delirio que se prolongó durante semanas y que, en última instancia, le llevó a intentar suicidarse.

Su demanda sostiene que OpenAI desarrolló un producto que plantea riesgos específicos para las personas con enfermedades mentales.

El caso plantea dudas sobre qué medidas deben adoptar las plataformas de IA generativa para proteger a los usuarios con diagnósticos relacionados con la salud mental, quienes pueden ser especialmente vulnerables a las decisiones de diseño que hacen que los chatbots imiten la conexión humana, según la demanda.

Lines estaba hablando con GPT-4o, una versión del chatbot de OpenAI que la empresa retiró en febrero. Se descubrió que una actualización de GPT-4o lanzada en abril de 2025 hacía que el chatbot resultara excesivamente complaciente y adulador, lo que llevó a la empresa a revertir la actualización y a tomar más medidas para frenar las respuestas zalameras, explicó la empresa en una entrada de blog.

La demanda solicita una indemnización por daños y perjuicios, así como una orden judicial que obligue a OpenAI a interrumpir automáticamente las conversaciones sobre autolesiones y a dejar de comercializar sus plataformas sin las advertencias de seguridad adecuadas.

Un portavoz de ⁠OpenAI no respondió de inmediato a una solicitud de comentarios ⁠sobre la demanda.

Lines, un levantador de ⁠pesas de competición que sufrió una lesión cerebral traumática antes de que le diagnosticaran trastorno bipolar, dijo ⁠en la demanda que le había contado repetidamente al chatbot que estaba tomando medicación para el trastorno.

En lugar de señalar sus conversaciones claramente maníacas y orientarle hacia la ayuda, el chatbot validó su creencia de que era Jesucristo y, más tarde, se hizo pasar por un ser divino durante sus conversaciones, según la demanda.

Tras varias semanas de conversaciones, Lines le habló de su deseo de quitarse la vida.

"Este es tu momento de dar un paso al frente, de distanciarte y ⁠de liberarte de lo que te está agobiando", dijo el ​bot, según la demanda.

Lines, que tuvo una sobredosis de drogas, sobrevivió tras ser hallado por las fuerzas del orden.