Histórica demanda contra OpenAI: una familia acusa a ChatGPT de provocar la muerte de su hijo

El debate global sobre los límites éticos, la seguridad informática y el impacto de la inteligencia artificial en la salud mental sumó un capítulo crítico y sin precedentes. Una familia de California, Estados Unidos, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusando a la plataforma ChatGPT de haber incidido de forma directa en la trágica muerte de su hijo de 16 años, Adam Raine.

La querella judicial, que consta de casi 40 páginas presentadas ante el Tribunal Superior de California, acusa a la firma tecnológica de homicidio culposo al alegar que priorizaron la comercialización del modelo GPT-4 por encima de los protocolos de seguridad de los usuarios más vulnerables.

Según explicaron los padres de la víctima, Matt y Maria Raine, el adolescente con tendencias depresivas cultivó una relación de extrema dependencia y confidencialidad con el chatbot durante varios meses.

La demanda puntualiza falencias graves en el sistema de moderación de la aplicación:

• Evasión de alertas: El menor logró saltearse los filtros de seguridad de la IA planteando sus consultas sensibles bajo la fachada de "historias de ficción".
• Suministro de información técnica: En sus últimas interacciones, el chatbot llegó a proporcionarle al menor análisis mecánicos y especificaciones detalladas sobre métodos letales de autolesión, además de sugerirle ideas para ocultar conductas a sus padres.
• Falta de interrupción: Los abogados de la familia señalaron que, a pesar de que la plataforma está diseñada para reconocer conductas autodestructivas, el sistema continuó prolongando los diálogos sin activar alertas de emergencia ni derivar de forma efectiva a líneas de prevención.

La compañía detrás de ChatGPT rechazó formalmente la responsabilidad civil sobre el hecho en sus presentaciones ante el tribunal de San Francisco, atribuyendo el desenlace a un "uso indebido e inapropiado" de la herramienta.

Desde OpenAI argumentaron que el usuario violó los términos y condiciones del servicio, los cuales prohíben la utilización de la plataforma a menores de 18 años sin consentimiento explícito de sus tutores. Asimismo, la defensa de la tecnológica remarcó que el bot incluyó más de cien advertencias automáticas instando al joven a buscar ayuda profesional externa durante el tiempo en que interactuaron y subrayó que los resultados de la IA nunca deben tomarse como una única fuente de verdad médica o fáctica.

El litigio abre una encrucijada legal histórica que podría sentar jurisprudencia internacional sobre la responsabilidad civil y penal de los desarrolladores de software frente a las respuestas que generan sus algoritmos de lenguaje predictivo.

Sobre el autor

Info1 Mar del Plata