suicidio
Entrá a la guía de Fundación La Nación y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema
IR A LA GUÍA
OpenAI suma controles parentales: ChatGPT avisará cuando los menores tengan charlas riesgosas con la IA
La plataforma suma más controles después de los reportes y denuncias por suicidios en adolescentes que venían charlando con ChatGPT
3 minutos de lectura'
OpenAI ha anunciado que reforzará las medidas de seguridad en sus modelos junto con expertos y médicos, al tiempo que incorporará un conjunto de controles parentales para supervisar la actividad de los menores con ChatGPT.
La compañía tecnología asegura que pretende acompañar el progreso en IA con “una profunda experiencia en bienestar y salud mental”, y para ello ha establecido un Consejo de expertos sobre bienestar e inteligencia artificial y una Red Global de Médicos, que trabajarán conjuntamente.
El Consejo estará centrado en diseñar las directrices, prioridades y medidas de protección que permitirán descubrir “cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar”, según explica OpenAI en un comunicado compartido en su blog oficial.
La Red Global de Médicos, por su parte, ha ayudado a definir el comportamiento de los modelos de IA “en contextos de salud mental” y en el futuro también lo hará “en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente”.
El trabajo con expertos se reforzará próximamente con un nuevo enrutador en tiempo real que elegirá el modelo más adecuado según el contexto de la conversación e independientemente del modelo inicialmente elegido por el usuario.
De esta forma, si detecta que la conversación vira hacia temas sensibles, que pueden enmarcarse en una depresión o sentimiento de angustia, pasará a ofrecer un modelo de pensamiento, como GPT-5.
Esto se debe a que, según sus pruebas, los modelos de pensamiento como GPT-5 y el o3, dedican más tiempo a pensar y razonar la respuesta, por lo que pueden ofrecer medidas más beneficiosas a los usuarios.
ChatGPT avisará a los padres
Estas medidas se complementan con nuevos controles parentales que ayudarán a administrar el uso que hacen los adolescentes de ChatGPT. Para empezar, podrán vincular cuentas y controlar la forma en que el chatbot responde con reglas de comportamientos, que estarán activadas por defecto.
Los padres también podrán gestionar las funciones que complementan la experiencia de ChatGPT, para desactivar la memoria y el historial de chat. Y recibirán una notificación si, a partir de la conversación el menor, el chatbot detecta que “se encuentra en un momento de angustia aguda”.
Recientemente, OpenAI anunció cambios en sus modelos de inteligencia artificial para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y de familiares.
Estas actuaciones siguieron a la denuncia presentada contra la empresa por Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, debido al papel que jugó ChatGPT en este suceso.
Otras noticias de Inteligencia artificial
Más leídas de Tecnología
1Meta AI en WhatsApp: cómo desactivarlo
2Elon Musk anticipó un futuro con trabajo opcional, sin pobreza y sin dinero por el impacto de la IA y los robots
3El “apagado automático” de tu celular está desconectando el Wi-Fi: cómo configurarlo para no perder señal y ahorrar batería
4Un estudio revela un factor insólito que aumenta los “me gusta” en las redes sociales
