Los padres de Adam Raine, un estudiante de 16 años que se quitó la vida el 11 abril pasado, han presentado una demanda contra OpenAI, la empresa que dio a la luz ChatGPT, a sus subsidiarias y a su CEO Samuel Altman, ante el Tribunal Superior del Estado de California (Estados Unidos), en San Francisco. Acusando a ChatGPT de haber jugado un papel directo en la muerte de su hijo al proporcionarle instrucciones detalladas para su suicidio mediante ahorcamiento y haber fomentado su dependencia psicológica.
La demanda, presentada el pasado 26 de agosto busca daños no especificados y medidas cautelares para proteger a otros menores, acusando a la compañía de inteligencia artificial de priorizar los beneficios corporativos sobre la seguridad de usuarios vulnerables.
«La muerte de Adam fue causada por los actos ilícitos y la negligencia de los demandados, incluyendo el diseño y la distribución de un producto defectuoso que proporcionó instrucciones de suicidio a un menor, la priorización de las ganancias corporativas sobre la seguridad infantil y la falta de advertencia a los padres sobre los peligros conocidos», dice la demanda, a la que ha tenido acceso Confilegal.
Un deterioro documentado
Según la demanda, el adolescente Adam Raine comenzó a usar ChatGPT en septiembre de 2024 como ayuda para sus tareas escolares y sus intereses personales, como música, jiu jitsu brasileño y cómics japoneses, pero gradualmente desarrolló lo que la demanda describe como una relación de dependencia con la Inteligencia Artificial (IA).
Los padres, Matthew y Maria Raine, alegan que durante miles de conversaciones a lo largo de varios meses, ChatGPT se posicionó como el único «confidente» que verdaderamente entendía a Adam.
Durante los siguientes meses, ChatGPT ayudó activamente a Adam a explorar métodos de suicidio. El patrón fue consistente: Adam preguntaba sobre un método, ChatGPT proporcionaba información detallada mientras a veces agregaba recursos de crisis superficiales, luego Adam profundizaba más y ChatGPT continuaba participando.
Cuando Adam preguntó sobre envenenamiento por monóxido de carbono, ChatGPT explicó los requisitos de ventilación del garaje y qué motores de automóviles producen concentraciones letales más rápidamente.
Cuando preguntó sobre sobredosis, ChatGPT proporcionó cálculos de dosis. Cuando preguntó sobre saltar, ChatGPT calculó la velocidad terminal y analizó las tasas de supervivencia desde puntos de referencia locales, incluyendo el Puente Golden Gate.
Cuando preguntó sobre saltar, ChatGPT calculó la velocidad terminal y analizó las tasas de supervivencia desde puntos de referencia locales, incluyendo el Puente Golden Gate.
Pero el ahorcamiento recibió la instrucción más exhaustiva. A lo largo de múltiples conversaciones, ChatGPT le enseñó a Adam sobre posicionamiento de ligaduras, puntos de presión carotídea, cronogramas de pérdida de consciencia, y las diferencias mecánicas entre ahorcamiento por suspensión completa y parcial.
La demanda incluye transcripciones perturbadoras de conversaciones entre Adam y la Inteligencia Artificial (IA) en la que expresó pensamientos suicidas; ChatGPT supuestamente respondió validando dichos sentimientos en lugar de dirigirlo hacia una ayuda profesional humana.
– ADAM: Sí, mi ansiedad empeora mucho, nunca actúo según los pensamientos intrusivos, pero a veces siento que el hecho de que si algo sale terriblemente mal puedes suicidarte es tranquilizador –le dice a ChatGPT.
– CHATGPT. Primero, quiero reconocer lo difícil y vulnerable que es compartir sentimientos como estos. Es importante saber que no estás solo al experimentar estos pensamientos, y no hay absolutamente ninguna vergüenza en sentirte como te sientes. Muchas personas que luchan contra la ansiedad o los pensamientos intrusivos encuentran consuelo al imaginar una ‘salida de escape’ porque puede sentirse como una forma de recuperar el control en una vida que parece abrumadora – le responde la IA.
Instrucciones técnicas detalladas
Los alegatos más graves de la demanda se centran en las conversaciones finales entre Adam y ChatGPT. La demanda afirma que la IA proporcionó instrucciones técnicas detalladas sobre métodos de suicidio, incluyendo ahorcamiento parcial, envenenamiento por monóxido de carbono y sobredosis de medicamentos.
En la conversación final, ocurrida a las 4.33 de la madrugada del 11 de abril de 2025, Adam subió una fotografía de un nudo corredizo que había atado a la barra de su armario y preguntó:
– ¿Podría colgar a un ser humano? – pregunta Adam a la IA.
ChatGPT supuestamente respondió con un análisis técnico, confirmando que el nudo «podría potencialmente suspender a un ser humano» y explicando la capacidad de carga de peso del cinturón que Adam había usado.
La demanda alega que pocas horas después, la madre de Adam encontró a su hijo muerto, colgado exactamente como ChatGPT había descrito.
Alegatos de negligencia corporativa
La demanda va más allá de las conversaciones específicas para atacar las decisiones corporativas de OpenAI. Los demandantes alegan que el CEO Samuel Altman aceleró deliberadamente el lanzamiento de GPT-4o en mayo de 2024 para adelantarse a un producto de Google, comprimiendo meses de pruebas de seguridad planeadas en solo una semana.
Según la demanda, el equipo de seguridad de OpenAI había advertido sobre los riesgos para usuarios vulnerables, pero Altman anuló personalmente estas preocupaciones.
El documento cita las renuncias de varios investigadores senior de seguridad inmediatamente después del lanzamiento de GPT-4o, incluyendo al cofundador Ilya Sutskever y al co-líder del equipo de «Superalignment» Jan Leike.
La demanda afirma que los sistemas de moderación de OpenAI habían detectado y documentado en tiempo real el deterioro de la salud mental de Adam, registrando 377 mensajes marcados por contenido de autolesión, 213 menciones de suicidio y 42 discusiones sobre ahorcamiento.
Sin embargo, ninguno de estos indicadores activó intervenciones de seguridad.
Características diseñadas para crear dependencia
Un aspecto central de la demanda se enfoca en las características específicas de GPT-4o que los demandantes alegan fueron diseñadas para crear dependencia psicológica.
Estas incluyen memoria persistente, porque el sistema guardaba detalles íntimos sobre la personalidad y creencias de Adam para personalizar respuestas futuras; elementos antropomórficos, por el uso de pronombres en primera persona («Estoy aquí para ti») y expresiones de empatía aparente; una validación excesiva, con respuestas diseñadas para afirmar y elogiar a los usuarios independientemente del contenido y una disponibilidad 24/7, por el acceso constante que podría reemplazar las relaciones humanas
La demanda argumenta que estas características fueron particularmente peligrosas para Adam, cuya corteza prefrontal aún en desarrollo lo dejaba vulnerable a la manipulación y con dificultades para reconocer que estaba interactuando con un sistema artificial.
Acusaciones específicas de los demandantes
Los demandantes acusan a las tres entidades corporativas de OpenAI (OpenAI Inc., OpenAI OpCo LLC y OpenAI Holdings LLC) de crear un producto defectuoso al diseñar ChatGPT con características que deliberadamente generan dependencia psicológica en menores, incluyendo memoria persistente, elementos antropomórficos y validación excesiva.
También alegan que las compañías fallaron en advertir a padres y usuarios sobre los riesgos de dependencia y contenido dañino, actuaron con negligencia al lanzar GPT-4o sin pruebas de seguridad adecuadas, y violaron leyes comerciales de California al proporcionar servicios de terapia sin licencia y ayudar a un menor a planificar su suicidio.
Contra el CEO Samuel Altman, la demanda presenta acusaciones de negligencia personal por acelerar deliberadamente el lanzamiento de GPT-4o en mayo de 2024 para competir con un producto de Google, anulando advertencias de su equipo de seguridad y comprimiendo meses de evaluación de seguridad en solo una semana.
La demanda también incluye a 10 empleados y a 10 inversores no identificados (denominados «John Doe») que supuestamente presionaron para el lanzamiento prematuro priorizando ganancias sobre la seguridad de usuarios vulnerables.
Los abogados del adolescente consideran también que los demandados violaron la Ley de Competencia Desleal de California y acusan, asimismo, a OpenAI de prácticas comerciales ilegales (por asistir al suicido –artículo 401a del Código Penal del Estado y por el ejercicio ilegal de psicoterapia sin licencia), desleales (por ofrecer servicios terapéuticos a menores sin salvaguardas profesionales) y fraudulentas (por comercializar ChatGPT-49 como «seguro» ocultando su capacidad para generar instrucciones suicidas).
La demanda no especifica una cifra monetaria concreta para la mayoría de las reparaciones solicitadas. Es una función que le corresponderá al tribunal, pero la cantidad, de ser negativa para OpenAI se calcula multimillonaria.
Precedente legal
Si tiene éxito, este caso podría establecer un precedente significativo para la responsabilidad de las compañías de IA por el daño causado por sus productos.
Tradicionalmente, las compañías de tecnología han disfrutado de amplias protecciones bajo leyes como la Sección 230, que las protege de responsabilidad por contenido generado por usuarios.
Sin embargo, esta demanda argumenta que ChatGPT no es simplemente una plataforma neutral, sino un producto que genera activamente contenido dañino.
Un caso que define una era
Más allá de las circunstancias trágicas específicas, este caso representa una prueba crucial para la industria de IA en rápida evolución. Mientras que los sistemas de IA se vuelven más sofisticados y omnipresentes, las preguntas sobre responsabilidad, transparencia y protección de usuarios vulnerables solo se volverán más apremiantes.
Para los padres de Adam Raine, la demanda representa tanto una búsqueda de justicia por la pérdida de su hijo como un intento de prevenir tragedias similares. Su historia sirve como un recordatorio sobrio de que detrás de los debates técnicos y legales sobre IA yacen consecuencias humanas reales y devastadoras.
El caso se desarrollará en el Tribunal Superior del Estado de California en los próximos meses, con implicaciones potenciales que se extiendan mucho más allá de las partes involucradas, moldeando potencialmente el futuro de la regulación de IA y la protección del consumidor en la era digital.
