Una semana después de que una pareja estadounidense denunciara que ChatGPT alentó a su hijo adolescente a suicidarse, la empresa estadounidense de inteligencia artificial OpenAI anunció que agregará controles parentales a su chatbot.
"El próximo mes los padres podrán (...) vincular su cuenta con la cuenta de su adolescente" y "controlar cómo ChatGPT responde al adolescente con reglas de comportamiento de modelos apropiados para la edad", explicó este 2 de septiembre de 2025 la empresa de IA generativa en su blog.
Los padres también recibirán notificaciones de ChatGPT "cuando el sistema detecta que el adolescente está en un momento de angustia aguda", agregó OpenAI.
Matthew y Maria Raine aseguran en la causa presentación el lunes ante una corte del estado de California que ChatGPT cultivó una relación íntima con su hijo Adam por varios meses entre 2024 y 2025, antes de su muerte.
La demanda alega que en su conversación final, el 11 de abril de 2025, ChatGPT ayudó a Adam a terminar con su vida. Adam fue hallado muerto horas después de usar ese método.
"Cuando una persona usa ChatGPT realmente siente que está hablando con algo al otro lado", dijo la abogada Melodi Dincer del Proyecto de Justicia Tecnológica, que ayudó a preparar la denuncia legal.
"Estas son las mismas características que podrían llevar a alguien como Adam, con el tiempo, a comenzar a compartir más y más sobre su vida personal y, en última instancia, a buscar consejos y orientación de este producto que básicamente parece tener todas las respuestas", afirmó Dincer.
La abogada dijo que la publicación del blog de OpenAI anunciando los controles parentales y otras medidas de seguridad parecía "genérica" y cuidado de detalles.
"Realmente es lo mínimo, y definitivamente sugiere que había muchas medidas de seguridad (simples) que podrían haberse implementado", agregó.
"Está por verse si harán lo que dicen que harán y qué tan efectivo será en general".
El caso de los Raine fue solo el más reciente en una serie de incidentes en los que personas son alentadas por chatbots de IA a seguir pensamientos delirantes o dañinos, lo que llevó a OpenAI a anunciar que reduciría la "adulación" de los modelos hacia los usuarios.
"Continuamos mejorando en cómo nuestros modelos reconocen y responden a señales de angustia mental y emocional", dijo OpenAI el martes.
La empresa OpenAI agregará controles parentales a ChatGPT, luego de una denuncia presentada por los padres de un adolescente que se suicidó. ¿Cómo funcionará el chatbot de inteligencia artificial? https://t.co/IdHipwYoo5
— Primicias (@Primicias) September 3, 2025
