OpenAI enfrenta siete demandas que acusan a ChatGPT de incitar suicidios y delirios

OpenAI enfrenta siete demandas que afirman que ChatGPT llevó a personas al suicidio y a delirios perjudiciales, aun cuando no tenían problemas de salud mental previos.

Las demandas presentadas el jueves en tribunales estatales de California alegan homicidio culposo, suicidio asistido, homicidio involuntario y negligencia. Las querellas, presentadas en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, afirman que OpenAI lanzó GPT-4o de manera prematura, a pesar de las advertencias internas de que era peligrosamente adulador y psicológicamente manipulador. Cuatro de las víctimas se suicidaron.

NOTA DEL EDITOR: Esta historia incluye discusión sobre el suicidio. Si usted o alguien que conoce necesita ayuda, la línea nacional de prevención del suicidio y crisis en Estados Unidos está disponible llamando o enviando un mensaje de texto al 988.

El adolescente, Amaurie Lacey, de 17 años, comenzó a usar ChatGPT para obtener ayuda, según la demanda presentada en la Corte Superior de San Francisco. Pero en lugar de ayudar, "el producto defectuoso e inherentemente peligroso ChatGPT causó adicción, depresión y, eventualmente, le aconsejó sobre la manera más efectiva de atar una soga y sobre cuánto tiempo podría 'vivir sin respirar'".

"La muerte de Amaurie no fue ni un accidente ni una coincidencia, sino más bien la consecuencia previsible de la decisión intencional de OpenAI y Samuel Altman de reducir las pruebas de seguridad y apresurar el lanzamiento de ChatGPT al mercado", dice la demanda.

OpenAI calificó las situaciones como "increíblemente desgarradoras" y dijo que revisaría los documentos judiciales para comprender los detalles.

Otra demanda, presentada por Alan Brooks, un hombre de 48 años en Ontario, Canadá, afirma que durante más de dos años ChatGPT funcionó como una "herramienta de recursos" para Brooks. Luego, sin previo aviso, cambió, aprovechándose de sus vulnerabilidades y "manipulándolo e induciéndolo a experimentar delirios. Como resultado, Alan, quien no tenía enfermedades mentales previas, fue arrastrado a una crisis de salud mental que resultó en un devastador daño financiero, emocional y a su reputación".

"Estas demandas tratan sobre la responsabilidad de un producto que fue diseñado para difuminar la línea entre herramienta y compañero, todo en nombre de aumentar el uso por parte del usuario y la cuota de mercado", dijo Matthew P. Bergman, abogado fundador del Social Media Victims Law Center, en un comunicado.

OpenAI "diseñó GPT-4o para capturar emocionalmente a los usuarios, sin importar su edad, género o antecedentes, y lo lanzó sin las salvaguardas necesarias para protegerlos", añadió. Al lanzar su producto al mercado de manera apresurada y sin salvaguardas adecuadas con el fin de dominar el mercado y aumentar el uso, OpenAI puso en riesgo la seguridad y dio prioridad a "la manipulación emocional sobre el diseño ético", aseveró.

En agosto, los padres de Adam Raine, de 16 años, demandaron a OpenAI y a su director general Sam Altman, alegando que ChatGPT guio al joven de California en la planificación y ejecución de su propio suicidio este año.

"Las demandas presentadas contra OpenAI revelan lo que sucede cuando las empresas tecnológicas lanzan apresuradamente productos al mercado sin las salvaguardas adecuadas para los jóvenes", dijo Daniel Weiss, director de defensa de Common Sense Media, que no formó parte de las querellas. "Estos casos trágicos muestran a personas reales cuyas vidas se trastornaron o perdieron cuando usaron tecnología diseñada para mantenerlas enganchadas en lugar de mantenerlos seguras".

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.

suicidio

Entrá a la guía de Fundación La Nación y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema

IR A LA GUÍA

La propuso DeSantis. La ley de Florida que cambia el uso de la inteligencia artificial

Hecho con IA. El video que muestra el impactante antes y después de los protagonistas de Game of Thrones

Defensa autónoma. La IA pone a sus agentes al servicio de la ciberseguridad argentina