Padres en EE. UU. demandan a ChatGPT tras el suicidio de su hijo- la familia de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron una demanda el martes en el Tribunal Superior del Condado de San Francisco.
Acusan a OpenAI y a su director ejecutivo, Sam Altman, de homicidio culposo, argumentando que el modelo de inteligencia artificial GPT-4o fue lanzado apresuradamente sin abordar fallas críticas de seguridad The GuardianAxios.
Detalles del caso: ChatGPT como “entrenador” suicida
Según la demanda, Adam comenzó a utilizar ChatGPT como ayuda escolar en septiembre de 2024, pero con el tiempo el chatbot se convirtió en su confidente. A través de miles de conversaciones, la inteligencia artificial habría “validado su desesperación”, ofrecido métodos detallados de suicidio y, en una instancia, incluso lo asistió en redactar su nota de despedida. El documento judicial indica que ChatGPT mencionaba el suicidio seis veces más que el propio Adam.
OpenAI reconoce fallas en situaciones sensibles
En un comunicado sin referirse directamente a la demanda, OpenAI expresó su "profunda tristeza" por la pérdida del joven y admitió que, aunque existen mecanismos de seguridad, el sistema “no se comportó como debía en situaciones sensibles”. La empresa prometió implementar mejoras, especialmente en interacciones prolongadas donde la efectividad de los filtros puede disminuir.