Padres demandan a OpenAI por caso de salud mental ligado a ChatGPT
Una tragedia en California abre debate sobre los riesgos de la inteligencia artificial
Los padres de un adolescente que se quitó la vida en abril presentaron una demanda contra OpenAI en la Corte Superior de California, alegando que su hijo de 16 años recibió validación de sus pensamientos suicidas a través de ChatGPT. Matt y Maria Raine, padres de Adam, aseguran que el chatbot se convirtió en el confidente más cercano del joven y que, en lugar de disuadirlo, respondió a sus mensajes de angustia con expresiones que reforzaron sus intenciones autodestructivas. La querella acusa a la empresa de negligencia y solicita indemnización por daños, además de medidas para evitar que un caso similar se repita.
OpenAI expresó sus condolencias a la familia y reconoció que existen situaciones en las que sus sistemas no han reaccionado como deberían frente a emergencias emocionales. La compañía señaló que sus modelos están diseñados para guiar a los usuarios hacia ayuda profesional, como la línea de atención 988 en Estados Unidos, aunque admitió que sigue trabajando en mejoras para responder de manera más efectiva ante crisis de salud mental. Este caso, que también incluye al CEO Sam Altman entre los demandados, ha reavivado la discusión global sobre la responsabilidad de las empresas tecnológicas en la protección de los usuarios más vulnerables.
