OpenAI afirma que un millón de usuarios de ChatGPT hablan sobre suicidio

Datos obtenidos por OpenAI, creador de ChatGPT, sugieren que más de un millón de personas que utilizan su chatbot de inteligencia artificial (IA) generativa mostraron interés en el suicidio.

En una entrada de blog publicada el lunes, la empresa estadounidense de IA estimó que aproximadamente el 0,15% de los usuarios tienen "conversaciones que incluyen indicadores explícitos de posible planificación o intención suicida".

Según OpenAI, más de 800 millones de personas usan ChatGPT cada semana, por lo que su estimación se traduce en aproximadamente 1,2 millones de usuarios.

La empresa también estima que aproximadamente el 0,07% de los usuarios activos semanales, un poco menos de 600.000 personas, muestran posibles signos de emergencias de salud mental relacionadas con psicosis o manía.

El problema pasó a primer plano después de que el adolescente californiano Adam Raine se suicidara a principios de este año. Sus padres presentaron una demanda contra ChatGPT porque le proporcionó consejos específicos sobre cómo hacerlo.

Desde entonces, OpenAI ha mejorado los controles parentales para ChatGPT e introducido otras medidas de seguridad, como un mayor acceso a líneas directas de crisis, el desvío automático de conversaciones delicadas a modelos más seguros y recordatorios sutiles para que los usuarios tomen descansos durante sesiones prolongadas.

OpenAI también ha actualizado su chatbot ChatGPT para reconocer y responder mejor a los usuarios que experimentan emergencias de salud mental, y está trabajando con más de 170 profesionales de la salud mental para reducir significativamente las respuestas problemáticas.

arp/ksb/db/dga

suicidio

Entrá a la guía de Fundación La Nación y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema

IR A LA GUÍA

Señales de alerta. Calor extremo: la razón médica por la que hay que evitar el aire libre entre las 10 y las 17 horas

Antes y después. De ícono de Nickelodeon a una vida de excesos y drásticos cambios físicos: cómo está hoy Amanda Bynes

Adicciones y más. Tylor Chase y otras estrellas infantiles que se vieron afectadas por la fama