1 minuto de lectura'
Solo en Estados Unidos, casi tres de cada cuatro adolescentes han usado estos "compañeros de IA", amigos imaginarios virtuales, con todos los riesgos que estos asistentes de inteligencia artificial enfocados en las relaciones pueden suponer para los menores.
Este problema hace que la verificación de edad propuesta por la UE para el acceso a plataformas digitales sea cada vez más relevante.
Los "compañeros de IA", como se les llama, son aplicaciones diseñadas para conversar, dar consejos e interactuar de forma amistosa o romántica.
Algunos ejemplos son Replika, Character.AI y Nomi, pero también herramientas como ChatGpt y Claude de Anthropic, que no fueron creadas como "compañeros de IA", están siendo utilizadas de esta manera por los adolescentes.
Y hace unos días, se sumó a la iniciativa, no sin polémica, la posibilidad de que los suscriptores de Grok, la inteligencia artificial de Elon Musk, creen personajes de dibujos animados con los que incluso puedan tener relaciones románticas.
En Estados Unidos, el caso de un joven de 14 años que se suicidó tras meses de hablar con un chatbot de Character.AI ha sido noticia.
Su madre demandó a la empresa y el caso sigue en curso.
Según una encuesta realizada por la organización sin fines de lucro Common Sense Media a una muestra de jóvenes de entre 13 y 17 años, aproximadamente el 72% de los adolescentes en Estados Unidos ha usado compañeros de IA al menos una vez, y más de la mitad lo hace a diario.
Algunos los usan por entretenimiento (30%), curiosidad (28%), consejos (18%), porque siempre están disponibles para hablar (17%), no juzgan (14%), permiten decir cosas que no dirías a familiares o amigos (14%) y porque te hacen sentir menos solo (6%).
Y si bien es cierto que el 80% de los entrevistados prefiere pasar tiempo con amigos de verdad, uno de cada tres ha usado compañeros de IA para relaciones románticas o para hablar de temas importantes.
"Es una generación que depende de algoritmos para generar empatía y comparte detalles íntimos con empresas que no priorizan el bienestar de los niños", explica Common Sense Media, calificándolo de "riesgo inaceptable".
Un estudio realizado hace unas semanas por el experto digital Vincenzo Cosenza, con sede en Italia, reveló que Character.AI es la aplicación más utilizada en Italia entre los jóvenes, alcanzando casi 20 horas al mes.
El creciente uso de estos compañeros virtuales por parte de los adolescentes plantea problemas éticos, legales y sociales cada vez más acuciantes.
En su reciente informe anual, la Autoridad Italiana de Protección de Datos destacó los riesgos de la IA generativa para los menores y la necesidad de una "pedagogía digital cada vez más necesaria".
Hace unos días, la Comisión Europea presentó directrices para la protección digital de los menores y un prototipo de aplicación para verificar la edad de los usuarios en plataformas, de conformidad con la Ley de Servicios Digitales.
Italia será uno de los países que la probarán. (Ansa).
