Gobernador de California firma ley para proteger a niños de los chatbots

SACRAMENTO, California, EE.UU. (AP) — El gobernador de California Gavin Newsom firmó el lunes una legislación para regular los chatbots de inteligencia artificial y proteger a los niños y adolescentes de los posibles peligros de la tecnología.

La ley exige que las plataformas recuerden a los usuarios que están interactuando con un chatbot y no con un humano. La notificación aparecerá cada tres horas para los usuarios que sean menores de edad. Las empresas también deberán mantener un protocolo para prevenir contenido de autolesiones y remitir a los usuarios a proveedores de servicios de crisis si expresan ideación suicida.

Newsom, quien tiene cuatro hijos menores de 18 años, afirmó que California tiene la responsabilidad de proteger a niños y adolescentes que cada vez más recurren a los chatbots de IA para todo, desde ayuda con las tareas hasta apoyo emocional y consejos personales.

"Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin verdaderas salvaguardias, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños", declaró el demócrata. "Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin los límites y la responsabilidad necesarios".

California es uno de varios estados que intentaron este año abordar las preocupaciones en torno a los chatbots utilizados por los niños para compañía. Las preocupaciones en torno a la tecnología aumentaron tras informes según los cuales los chatbots fabricados por Meta, OpenAI y otros interactuaban con jóvenes usuarios en conversaciones altamente sexualizadas y, en algunos casos, los instruían para quitarse la vida.

La legislación fue parte de una serie de proyectos de ley sobre IA introducidos por los legisladores de California este año para controlar la industria local que está evolucionando rápidamente con poca supervisión. Las empresas tecnológicas y sus coaliciones, en respuesta, gastaron al menos 2,5 millones de dólares en los primeros seis meses de la sesión haciendo lobby contra las medidas, según el grupo de defensa Tech Oversight California. Las empresas tecnológicas y líderes en los últimos meses también anunciaron que están lanzando super PACs pro-IA para luchar contra la supervisión estatal y federal.

El fiscal general de California, Rob Bonta, en septiembre le dijo a OpenAI que tiene "serias preocupaciones" con su chatbot insignia, OpenAI, para niños y adolescentes. La Comisión Federal de Comercio también lanzó una investigación el mes pasado sobre varias empresas de IA sobre los posibles riesgos para los niños cuando usan chatbots como compañeros.

La investigación de un grupo activista dice que los chatbots dan consejos peligrosos a los niños sobre temas como drogas, alcohol y trastornos alimentarios.

La madre de un adolescente en Florida que murió por suicidio después de desarrollar lo que describió como una relación emocional y sexualmente abusiva con un chatbot ha presentado una demanda por muerte injusta contra Character.AI. Y los padres de Adam Raine, de 16 años, recientemente demandaron a OpenAI y a su CEO Sam Altman, alegando que ChatGPT instruyó al joven de California en la planificación y ejecución de su propio suicidio a principios de este año.

OpenAI y Meta anunciaron el mes pasado cambios en la forma en que sus chatbots responden a adolescentes que hacen preguntas sobre el suicidio o muestran signos de angustia mental y emocional. OpenAI indicó que está implementando nuevos controles que permiten a los padres vincular sus cuentas a la cuenta de su adolescente.

Meta señaló que ahora está bloqueando a sus chatbots para que no hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas, y en su lugar los dirige a recursos de expertos. Meta ya ofrece controles parentales en las cuentas de adolescentes.

___________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.

suicidio

Entrá a la guía de Fundación La Nación y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema

IR A LA GUÍA

“Respuestas rápidas”. En California: así resuelven casos de inmigración con inteligencia artificial

"Dos límites éticos". La respuesta de Anthropic al "Departamento de Guerra" de EE.UU. por el uso de su IA

Género, racismo y xenofobia. Investigadoras descubrieron los sesgos de la inteligencia artificial en Latinoamérica