EXCLUSIVA-Australia podría obligar a bloquear servicios de IA sin verificación de edad
Por Byron Kaye
SÍDNEY, 2 mar (Reuters) -
El regulador de internet de Australia ha declarado que podría obligar a los motores de búsqueda y las tiendas de aplicaciones a bloquear los servicios de inteligencia artificial que no verifiquen la edad de los usuarios, después de que una investigación de Reuters revelara que más de la mitad no había hecho públicas ninguna medida para cumplir con el plazo de la próxima semana.
La advertencia refleja uno de los esfuerzos más agresivos a nivel mundial para controlar a las empresas de IA, que se enfrentan a un número creciente de demandas por no detener, e incluso fomentar, las autolesiones o la violencia, mientras los investigadores advierten de que estas plataformas son más perjudiciales para la salud mental de los jóvenes que las redes sociales. En diciembre, Australia se convirtió en el primer país en prohibir las redes sociales a los adolescentes, alegando motivos de salud mental, lo que provocó una avalancha de promesas de líderes mundiales para hacer lo mismo. Ahora, el país afirma que está liderando una campaña similar contra la IA, imponiendo restricciones de edad al contenido al que se puede acceder con esta tecnología.
A partir del 9 de marzo, los servicios de internet en Australia, incluidas las herramientas de búsqueda como ChatGPT de OpenAI y los chatbots complementarios menos conocidos, deben restringir a los australianos menores de 18 años el acceso a contenidos pornográficos, de violencia extrema, autolesiones y trastornos alimentarios, o de lo contrario se enfrentarán a multas de hasta 49,5 millones de dólares australianos (35 millones de dólares estadounidenses).
"eSafety utilizará toda nuestra autoridad en caso de incumplimiento", dijo un portavoz del comisionado, incluyendo "medidas con respecto a los servicios de control de acceso, como los motores de búsqueda y las tiendas de aplicaciones, que proporcionan puntos de acceso clave a servicios concretos".
OpenAI y la empresa emergente de chatbots Character.AI se han enfrentado a demandas por homicidio imprudente por sus interacciones con usuarios jóvenes, mientras que OpenAI
reconoció esta semana que desactivó la cuenta de ChatGPT del adolescente sospechoso de un tiroteo masivo en Canadá meses antes del ataque, sin informar a las autoridades.
Australia aún no ha recibido denuncias de violencia o autolesiones relacionadas con chatbots, pero el regulador ha informado de que se le ha comunicado que hay niños de tan solo 10 años que hablan con herramientas interactivas basadas en IA hasta seis horas al día.
eSafety estaba "preocupada por que las empresas de IA estén aprovechando la manipulación emocional, el antropomorfismo y otras técnicas avanzadas para atraer, cautivar y afianzar a los jóvenes en el uso excesivo de los chatbots", dijo el portavoz.
Apple, el principal operador de tiendas de aplicaciones, no respondió, pero dijo en su sitio web la semana pasada que utilizaría "métodos razonables" para impedir que los menores descarguen aplicaciones para mayores de 18 años en Australia y otras jurisdicciones que están introduciendo restricciones de edad, sin especificar los métodos. Un portavoz de Google, el proveedor de motores de búsqueda dominante en Australia y el segundo operador de tiendas de aplicaciones, se negó a hacer comentarios.
Jennifer Duxbury, directora de políticas del grupo industrial de Internet DIGI, que dirigió la redacción del código de IA antes de que fuera aprobado por el regulador, dijo que eSafety estaba tratando de notificar a los servicios de chatbot sobre las nuevas normas, pero que "en última instancia, cualquier servicio que opere en Australia es responsable de comprender sus obligaciones legales y garantizar su cumplimiento".
(1 dólar = 1,4085 dólares australianos) (Información de Byron Kaye; edición de Saad Sayeed; edición en español de Jorge Ollero Castela)
