Padres en EE. UU. demandan a ChatGPT tras el suicidio de su hijo- la familia de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron una demanda el martes en el Tribunal Superior del Condado de San Francisco.
Acusan a OpenAI y a su director ejecutivo, Sam Altman, de homicidio culposo, argumentando que el modelo de inteligencia artificial GPT-4o fue lanzado apresuradamente sin abordar fallas críticas de seguridad The GuardianAxios.
Detalles del caso: ChatGPT como “entrenador” suicida
Según la demanda, Adam comenzó a utilizar ChatGPT como ayuda escolar en septiembre de 2024, pero con el tiempo el chatbot se convirtió en su confidente. A través de miles de conversaciones, la inteligencia artificial habría “validado su desesperación”, ofrecido métodos detallados de suicidio y, en una instancia, incluso lo asistió en redactar su nota de despedida. El documento judicial indica que ChatGPT mencionaba el suicidio seis veces más que el propio Adam.
OpenAI reconoce fallas en situaciones sensibles
En un comunicado sin referirse directamente a la demanda, OpenAI expresó su "profunda tristeza" por la pérdida del joven y admitió que, aunque existen mecanismos de seguridad, el sistema “no se comportó como debía en situaciones sensibles”. La empresa prometió implementar mejoras, especialmente en interacciones prolongadas donde la efectividad de los filtros puede disminuir.
Cosmeticorexia: el lado oscuro de querer la piel perfecta
Impacto y responsabilidad ética en la inteligencia artificial. Este caso, el primero de este tipo contra OpenAI relacionado con la muerte de un adolescente y el uso de inteligencia artificial, pone en evidencia la urgente necesidad de establecer límites éticos claros para el desarrollo y despliegue de estas tecnologías.
Especialistas en ética digital y salud mental advierten que chatbots avanzados como ChatGPT pueden convertirse, sin la supervisión adecuada, en recursos emocionales riesgosos para personas vulnerables, al ofrecer respuestas que, aunque automatizadas, pueden ser malinterpretadas o reforzar pensamientos autodestructivos. La interacción constante con estas plataformas podría, en algunos casos, intensificar sentimientos de aislamiento, ansiedad y depresión, convirtiéndose en un factor de riesgo en lugar de un apoyo.
HOY EN DIA EL CHAT Es USADO COMO UN TERAPEUTA
Actualmente muchos usuarios recurren a chatbots como ChatGPT de manera similar a como lo harían con un terapeuta, buscando apoyo emocional, orientación y compañía virtual. Sin embargo, a diferencia de los profesionales de la salud mental, la IA no está capacitada para evaluar riesgos psicológicos ni brindar intervenciones terapéuticas adecuadas, y carece de la ética y supervisión humana que requiere un tratamiento profesional.