1
Tom Siegel, exjefe de seguridad de Google: “El impacto que la IA está teniendo en los niños es terrible”
El antiguo vicepresidente de confianza y seguridad del gigante tecnológico advirtió que IA podría dañar a los niños más que las redes
3 minutos de lectura'
LA NACION
“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, dijo Tom Siegel, antiguo vicepresidente de confianza y seguridad de Google, a Reuters. “La idea de que el sector vaya a resolverlo por sí solo, sin ayuda externa, es poco realista”, sumó
Las preocupaciones de Siegel reflejan un temor creciente entre algunos expertos del sector tecnológico, investigadores y académicos. La idea que comparten es que el uso irrestricto de la IA supone una amenaza mayor para los niños que la que representan las redes sociales. En este sentido, el escenario es poco favorable: las compañías tecnológicas se apresuran a incorporar funciones cada vez más avanzadas a los chatbots que millones de jóvenes ya utilizan a diario.
Entre los expertos que han dado su opinión recientemente, se encuentra el fundador del equipo de confianza y seguridad de Google, filial de Alphabet, quien pidió esta semana que se frene el desarrollo de la IA y advirtió que el sector tecnológico está repitiendo los mismos errores que se cometieron en la era de las redes sociales, lo que podría causar un daño aún mayor en los niños.
Las empresas de redes sociales están pagando actualmente enormes sumas y se enfrentan a miles de demandas por haber perjudicado a los usuarios jóvenes, mientras que muchos gobiernos de países del mundo están trabajando para restringir el acceso de los menores a sus plataformas.
Siegel anunció esta tarde su incorporación a Common Sense Media, una organización que defiende los derechos de los niños en Internet. La organización sin ánimo de lucro, fundada en 2003, lleva a cabo investigaciones y evalúa la idoneidad de diversos medios de comunicación para los niños.
En mayo pasado, Common Sense Media puso en marcha el Instituto para la Seguridad de los Jóvenes en la IA, una organización de investigación destinada a evaluar el uso que hacen los niños de la IA, de la que Siegel será el primer director ejecutivo.
Anthropic y la Fundación OpenAI, la organización sin ánimo de lucro que controla OpenAI, se encuentran entre los patrocinadores del instituto. Siegel dijo que tenía previsto desarrollar normas para exigir responsabilidades a las empresas de IA y que esperaba hacerlo colaborando con las empresas y con grupos independientes.
Siegel trabajó en Google entre 2004 y 2019, pero abandonó la empresa tras llegar a la conclusión de que el sector tecnológico se había “estancado” en su capacidad para crear espacios en línea seguros para los consumidores.
“Creo que nos enfrentamos a escenarios muy, muy graves en los que se está causando daño”, dijo.
“Descarga cognitiva”
Sugirió que las empresas podrían tomar medidas inmediatas para proteger mejor a los jóvenes, citando riesgos que van desde el suicidio y la psicosis hasta la “descarga cognitiva”, un término utilizado para describir la disminución del pensamiento crítico causada por el hecho de recurrir a la IA para responder a preguntas.
Anthropic y OpenAI podrían aplicar medidas de verificación de edad más estrictas para impedir que los menores accedan a sus chatbots, señaló. Su antigua empresa, Google, podría implementar fácilmente una opción para desactivar los “Resúmenes de IA” y el “Modo IA” en su motor de búsqueda, añadió, del mismo modo que ya cuenta con un botón que permite a los usuarios filtrar el contenido sexualmente explícito.
Reuters
LA NACION
Más leídas de Sociedad
2Con explosivos y detonación dinamitaron una montaña en La Rioja: así avanza la megaobra de un túnel de 250 metros en la ruta nacional 75
3Gabriel Rolón, psicoanalista: “Es válido reconocer momentos felices del pasado, pero lo que fue ya está perdido”
4Cita del día, Stephen Hawking, físico: “El mayor enemigo del conocimiento no es la ignorancia, es la ilusión del conocimiento”