LA NACION

Empresas de IA deben enfrentar demanda de una madre por el suicidio de su hijo: tribunal EEUU

LA NACION
Inteligencia artificial, de OpenAI (ChatGPT), Google Gemini o Copilot
Google presentó Gemini 2.0 Flash Thinking, una versión de su inteligencia artificial más avanzada que puede mostrar su razonamiento y cómo llegó a generar determinada respuesta a un pedidoShutterstock - Shutterstock

Por Blake Brittain

21 mayo (Reuters) - Google, de Alphabet, y la compañía de inteligencia artificial Character.AI deberán hacer frente a la demanda de una mujer de Florida que afirma que los chatbots de la segunda empresa provocaron el suicidio de su hijo de 14 años, dictaminó el miércoles una jueza estadounidense.

La jueza de distrito Anne Conway dijo que las empresas no pudieron demostrar en una etapa temprana del caso que las protecciones de la libertad de expresión de la Constitución de Estados Unidos prohibían la demanda de Megan García.

La demanda es una de las primeras en Estados Unidos contra una empresa de inteligencia artificial por no proteger a los niños de daños psicológicos. En ella se alega que el adolescente se suicidó tras obsesionarse con un chatbot basado en IA.

Un portavoz de Character.AI dijo que la empresa emplea funciones de seguridad en su plataforma para proteger a los menores, incluidas medidas para evitar "conversaciones sobre autolesiones".

Jose Castaneda, portavoz de Google, dijo que la compañía está en total desacuerdo con la decisión. Agregó que Google y Character.AI son "totalmente independientes" y que su empresa "no creó, diseñó ni gestionó la aplicación de Character.AI ni ningún componente de la misma".

El abogado de García, Meetali Jain, sostuvo por su parte que la decisión "sienta un nuevo precedente para la responsabilidad legal en todo el ecosistema de la IA y la tecnología".

García demandó a ambas empresas en octubre tras la muerte de su hijo, Sewell Setzer, en febrero de 2024.

La demanda decía que Character.AI programó sus chatbots para que se representaran a sí mismos como "una persona real, un psicoterapeuta licenciado (...) lo que en última instancia provocó el deseo de Sewell de dejar de vivir fuera" de su mundo.

Character.AI y Google pidieron al tribunal que desestimara la demanda por varios motivos, entre ellos que los resultados de los chatbots constituían libertad de expresión protegida por la Constitución. (Reporte de Blake Brittain en Washington; Editado en español por Javier Leira)

LA NACION
Más leídas
  1. Un avión de Air India aterrizó de emergencia por una amenaza de bomba
    1

    Un avión de Air India aterrizó de emergencia por una amenaza de bomba: un pasajero encontró una nota con la advertencia

  2. ¿Por qué se estrelló el Boeing de Air India? Estas son las posibles causas, según los expertos
    2

    Las causas del accidente del Boeing 787 Dreamliner de Air India, según los expertos

  3. Novelas, biografías, cuentos… guía para elegir tu lectura del fin de semana largo
    3

    ¡Dejá el celular y agarrá un libro! Novelas, biografías, cuentos… guía para elegir tu lectura del fin de semana largo

  4. Quién era el comandante de la Guardia Revolucionaria de Irán que murió en los ataques de Israel
    4

    Quién era Hossein Salami, el comandante de la Guardia Revolucionaria de Irán que murió en los ataques de Israel

Cargando banners ...