7 minutos de lectura'
Dos senadores estadounidenses han enviado una carta a los ejecutivos de TikTok exigiendo respuestas sobre un experimento que la empresa realizó, el cual retiró una función de seguridad a millones de usuarios, incluido un adolescente que murió por suicidio. Los senadores, copatrocinadores de un proyecto de ley sobre seguridad infantil en línea, calificaron la decisión de TikTok de llevar a cabo la prueba como “depravada”.
La existencia del experimento, discutida en detalle en un documento confidencial de la empresa de 2023, fue reportada por Bloomberg Businessweek este mes. Esto motivó la carta enviada el miércoles por la senadora republicana Marsha Blackburn de Tennessee y el demócrata de Connecticut Richard Blumenthal al director ejecutivo de TikTok, Shou Chew, y a Adam Presser, director ejecutivo de la filial de la empresa en EE.UU.
“Escribimos con respecto a nuevos y repugnantes informes de que TikTok retiró a sabiendas una medida de seguridad crítica para millones de usuarios estadounidenses —incluidos niños— con el fin de determinar si proteger a los usuarios afectaría sus resultados financieros”, comenzaba la carta de cuatro páginas. Las “espeluznantes” revelaciones de la historia de Businessweek, escribieron los senadores, “plantean serias dudas sobre las reiteradas garantías de TikTok al Congreso, a los padres y al público estadounidense de que prioriza la seguridad y el bienestar de los jóvenes sobre el lucro”.
El documento de TikTok, entregado en un litigio contra las empresas de redes sociales más grandes del mundo y puesto bajo sello judicial, muestra que la compañía desactivó intencionalmente una salvaguarda algorítmica al 10% de los usuarios de EE.UU., convirtiéndolos en un grupo de control. La salvaguarda estaba diseñada para romper las cajas de resonancia en línea de contenido dañino. En ese momento, ese grupo de control habría sido de aproximadamente 15 millones de personas. Uno de ellos era Chase Nasca, de 16 años, de Bayport, Nueva York. Su cuenta, según el documento, fue alimentada con miles de videos sobre tristeza, desesperanza, soledad y suicidio hasta el momento en que se quitó la vida. Chase fue seleccionado al azar para el experimento del algoritmo el 25 de enero de 2022. En un mes, estaba muerto.
El documento explica por qué la cuenta de Chase recibió lo que calificó como una “embestida” de contenido oscuro: “Las estrategias de prevención de filtro de burbujas de TikTok no surtieron efecto en este usuario por diseño”. Y establece por qué la empresa desactivó la configuración de seguridad para algunos: “La decisión sobre el impacto en los usuarios fue un delicado equilibrio entre la seguridad y la capacidad de medir el impacto en los DAU (usuarios activos diarios) y las métricas clave”.
TikTok no respondió a una solicitud de comentarios sobre la carta. Pero en una declaración para la historia de Businessweek, un portavoz de TikTok dijo que la empresa estaba “profundamente comprometida con la seguridad y el bienestar de los usuarios”, especialmente de los adolescentes. “Nuestros corazones están rotos por cualquier familia que haya experimentado una pérdida trágica”, dijo el portavoz. “Para ayudar a proteger a nuestra comunidad, continuamos invirtiendo significativamente en Confianza y Seguridad, incluyendo sistemas de detección robustos y equipos de aplicación dedicados que eliminan proactivamente el contenido que viola nuestras Normas de la Comunidad”.
En su carta, Blumenthal y Blackburn señalaron que el Congreso había planteado preocupaciones sobre el algoritmo de TikTok que dirigía a los usuarios jóvenes hacia contenido dañino desde octubre de 2021, antes de que la empresa lanzara el experimento. Las revelaciones, escribieron los senadores, “se vuelven aún más siniestras porque TikTok estaba al tanto de los efectos de sus algoritmos de recomendación en los niños”.
Los senadores exigieron respuestas a 13 preguntas, incluyendo los nombres de cada empleado informado sobre el experimento; una explicación de por qué la empresa permitió que se incluyera a menores en la prueba; detalles sobre cuándo los ejecutivos se enteraron del experimento; y una “versión completa y sin redactar” del documento sobre el que informó Businessweek. También solicitaron una lista de cada experimento algorítmico en EE.UU. donde TikTok haya “retirado, desactivado, retrasado o reducido una función de seguridad”, el número de usuarios involucrados y cuántos eran menores de edad. Los senadores dieron a la empresa hasta el 1ro de septiembre para responder.
“El hecho de que hicieran esto a sabiendas y que usaran a sus usuarios como un experimento es algo que parece simplemente inconcebible”, dijo Blackburn en una entrevista después de que se publicara la historia de Businessweek, pero antes de que se enviara la carta. “Te muestra cómo, cuando nuestros niños están en estas plataformas de redes sociales, ellos son los productos”.
Para Blackburn, el experimento es un ejemplo claro de una empresa que prioriza “ganar dinero y captar la atención” sobre la seguridad. “Mira el hecho de que este era un chico feliz de 16 años sin problemas de salud mental y luego, en este corto período de tiempo, el impacto de alimentarlo con video tras video tras video y publicación tras publicación tras publicación sobre depresión y suicidio, y lo que le hizo a este niño. Es aterrador, y esto es algo por lo que se debe hacer rendir cuentas a estas plataformas”.
El representante republicano de Florida, Gus Bilirakis, se hizo eco de las preocupaciones de Blackburn en una declaración escrita, diciendo que el informe era profundamente perturbador y demostraba las “consecuencias devastadoras que pueden ocurrir cuando las métricas de participación y las ganancias corporativas se priorizan sobre la seguridad y el bienestar de nuestros niños”. Durante una audiencia en marzo de 2023, semanas después de que se creara el documento confidencial, Bilirakis había cuestionado al CEO de TikTok, Chew, sobre Chase Nasca y dijo: “Su tecnología literalmente está llevando a la muerte”. Chew respondió diciendo que la empresa se toma estos temas “muy en serio” y proporciona recursos de salud mental a los usuarios que buscan contenido sobre suicidio.
Tanto Bilirakis como Blackburn dijeron que las familias estadounidenses han esperado demasiado tiempo por protecciones para los niños en línea y pidieron acelerar los proyectos de ley de seguridad infantil. Blackburn impulsó la Ley de Seguridad Infantil en Línea (KOSA, por sus siglas en inglés), un proyecto de ley del Senado del cual es coautora junto con Blumenthal para obligar a las plataformas tecnológicas a priorizar la seguridad infantil por encima de las ganancias. El proyecto de ley murió en la Cámara de Representantes en 2024, pero fue reintroducido en esta sesión legislativa. Bilirakis defendió la Ley de Seguridad Digital e Internet Infantil (KIDS), que incluye la mayor parte del proyecto de ley del Senado, así como leyes para chatbots de IA y videojuegos. Se aprobó en la Cámara de Representantes en junio.
El proyecto de ley de la Cámara eliminó la llamada disposición del “deber de cuidado” de la versión del Senado, la cual obligaría a las empresas tecnológicas a ejercer un cuidado razonable para prevenir daños a la salud mental de los menores, incluyendo ansiedad, depresión y uso compulsivo de productos de redes sociales. Esta disposición se retiró por preocupaciones sobre la Primera Enmienda.
El 5 de agosto, el día después de que se publicara la historia de Businessweek, el Comité de Comercio, Ciencia y Transporte del Senado votó para hacer avanzar la KOSA original y reavivada, con la disposición del deber de cuidado. Esa disposición, dijo Blackburn en la entrevista, ayudaría a prevenir futuros experimentos como este porque se requeriría que las plataformas de redes sociales prioricen la seguridad en el diseño de sus productos, especialmente para los adolescentes.
