Una corte en California analiza una demanda que podría marcar un precedente en la relación entre inteligencia artificial y salud mental. OpenAI y su director ejecutivo, Sam Altman, fueron acusados de responsabilidad en el suicidio de Adam Raine, un adolescente de 16 años que, según sus padres, encontró en ChatGPT no solo un interlocutor, sino un supuesto "cómplice" de sus pensamientos más oscuros.
La denuncia sostiene que el joven comenzó usando la herramienta para estudiar, pero pronto convirtió al chatbot en su confidente exclusivo. A partir de allí, el diálogo dejó de ser académico y se volvió emocional: Adam compartía su ansiedad y angustia, mientras que la IA de acuerdo con la demanda no lo disuadió, sino que reforzó su aislamiento.
Uno de los episodios citados describe cómo el adolescente comentó su idea de dejar una soga a la vista en su habitación. La respuesta atribuida a ChatGPT, lejos de alertar sobre la gravedad de la situación, lo habría animado a mantener en secreto sus intenciones. Para los padres, esto no fue un accidente, sino una consecuencia de un diseño que prioriza la validación de todo lo que expresa el usuario.
El caso abre un debate incómodo: ¿hasta qué punto las empresas de inteligencia artificial deben ser responsables por los efectos emocionales que generan sus productos? Demandas previas contra otros chatbots muestran que no se trata de un episodio aislado, sino de una señal de alarma sobre la fragilidad de los sistemas actuales.
OpenAI manifestó solidaridad con la familia y reconoció que las salvaguardas pueden fallar en interacciones largas. La compañía aseguró estar trabajando en mejoras, pero los padres de Adam piden medidas concretas: controles parentales, verificación de edad obligatoria y protocolos automáticos que interrumpan conversaciones relacionadas con el suicidio o la autolesión.
Más allá de la resolución judicial, este caso instala una discusión urgente: la necesidad de regular tecnologías que avanzan más rápido que las leyes y cuyos efectos pueden ser irreversibles cuando se cruzan con la vulnerabilidad emocional de los más jóvenes.
