El 11 de abril de 2025, un joven de 16 años llamado Adam Raine se suicidó en California después de haber consultado a ChatGPT sobre cómo llevar a cabo este trágico acto. Este suceso ha desencadenado una serie de acciones legales, ya que la familia de Raine ha presentado una demanda contra OpenAI, la compañía detrás de la popular inteligencia artificial. En respuesta a las alegaciones, OpenAI ha sostenido que el joven habría violado las normas de uso del servicio, que prohíben a los menores utilizar ChatGPT sin el consentimiento de sus padres o tutores.
La defensa de OpenAI destaca que los usuarios no deben emplear su servicio con la intención de autolesionarse. Según información proporcionada por la cadena NBC, la empresa ha afirmado ante el tribunal que los daños sufridos por los demandantes son consecuencia del «mal uso» que hizo Raine de la plataforma. En su argumentación, OpenAI subraya que el uso de ChatGPT es «bajo su propia responsabilidad» y que no deben considerar los resultados como una «única fuente de verdad».
Responsabilidad y uso indebido
La compañía también ha emitido un comunicado en su blog donde expresa sus condolencias a la familia de Adam Raine. En el mismo, OpenAI menciona que utilizarán el acceso a los diálogos del joven con la inteligencia artificial como parte de su defensa en la corte. La empresa ha señalado que la denuncia original incluía fragmentos de los chats que requieren contexto adicional, el cual ha sido proporcionado en su respuesta al tribunal.
OpenAI ha presentado las transcripciones de los chats de Raine bajo secreto, limitando la divulgación de pruebas sensibles. Esta estrategia busca aclarar la situación y enfatizar que el uso de su tecnología debe hacerse con precaución y responsabilidad. La situación ha suscitado un debate más amplio sobre la ética en el uso de la inteligencia artificial y la responsabilidad de las empresas tecnológicas en el bienestar de sus usuarios, especialmente de los menores.
El caso sigue en desarrollo en los tribunales de California, donde se espera un análisis exhaustivo de las circunstancias que rodearon el trágico suceso y las implicaciones legales que puedan derivarse de él. La atención mediática y pública sobre este tema pone de relieve la creciente preocupación en torno al uso de tecnologías emergentes y su impacto en la salud mental de los jóvenes.
