Terrorismo, algoritmo y YouTube: una familia demandó a Google por recomendar videos de Estado Islámico

González contra Google. El nombre del caso que examinó este martes el Supremo estadounidense enfrentó a la familia de una joven asesinada por el Estado Islámico contra la plataforma de Internet, a la que la madre y el padrastro de la chica dijeron no tenerle miedo: “Nos sentimos confiados”.

“Nos sentimos muy positivos y solamente queremos justicia, no solamente para nuestra familia, sino para todas las familias que han sufrido una pérdida”, dijo Beatriz González, madre de Nohemi, a la salida de la vista oral en Washington.

Su hija fue asesinada en los atentados de noviembre de 2015 perpetrados por el grupo Estado Islámico (EI) en París, que mataron en total a 130 personas. La demanda culpabiliza a Google al considerar que, a través de YouTube, les permitió colgar videos que incitaban a la violencia y a unirse al grupo, además de recomendar a sus usuarios grabaciones de los yihadistas a través de un algoritmo que identificó a posibles interesados.

El caso examina por primera vez hasta qué punto las plataformas pueden ser responsabilizadas de las recomendaciones que sus algoritmos hacen de material de terceras partes y podría tener en última instancia la capacidad de cambiar la configuración actual de internet. Pero los demandantes no temen enfrentarse al gigante tecnológico.

”Si hubiéramos pensado en miedo no hubiéramos estado aquí, porque sabemos que esto puede cambiar las redes sociales. Nohemi va a ser un cambio en todo esto”, apuntó a la prensa José Hernández, padrastro de la joven. Ella había ido a estudiar a la capital francesa y fue víctima del ataque en el restaurante La Belle Equipe.

”La recuerdo con mucho orgullo, siempre se mantenía en movimiento, siempre iba hacia adelante. Era una joven mujer independiente, autosuficiente. No fue justo que a los 23 años le cortaran su vida”, señaló Beatriz, de origen mexicano. En su opinión, es necesario un cambio: “Se está buscando que se cambie la manera en que la información se mueve tan fácilmente en las redes sociales. Es muy fácil hacer agrupaciones, compartir comunicación. Debe estar más monitoreado no solamente con los terroristas, sino con todo tipo de actividades delictivas”.

Su marido coincide. La decisión del Supremo, de mayoría conservadora, no se conocerá hasta dentro de meses, pero el matrimonio mantiene la esperanza de que cuando llegue será “algo bueno”.

”Esperemos que lo cambie todo, por eso venimos aquí, para que la Corte Suprema haga justicia en el dolor que estamos pasando. Estamos aquí para el cambio de las redes sociales, para que dejen de enseñar todo lo que es terrorismo. Desgraciadamente es un caso muy importante”, añadió Hernández.

En su punto de mira está la sección 230 de la Ley de Decencia de las Comunicaciones, aprobada en 1996, cuando internet se encontraba en sus albores. Esa regulación blinda a las plataformas frente a las demandas que las tratan como responsables de la información suministrada por otra fuente, pero está en el aire determinar si pueden ser culpadas por sus recomendaciones.

Los familiares de Nohemi González estiman, por el contrario, que Google no se limitó a distribuir contenidos del Estado Islámico, sino que su servicio seleccionaba usuarios para ofrecerles los videos del grupo yihadista, por lo que no puede reclamar esta inmunidad.

”La selección de los usuarios a los que se recomendaron los vídeos se hizo mediante algoritmos informáticos creados e implementados por YouTube”, argumentan en un recurso remitido a la Corte Suprema. Aceptando este recurso, cuando generalmente desestima la gran mayoría de los casos que le presentan, el alto tribunal insinúa que estaría dispuesto a cambiar la jurisprudencia.

Una perspectiva que asusta a los grandes grupos tecnológicos. “Las recomendaciones proporcionadas por los algoritmos son las que hacen posible encontrar las agujas en el pajar más grande de la humanidad”, escribió Google a la corte, pidiéndole que “no debilite una parte central del internet moderno”.

Permitir que las plataformas sean demandadas por sus algoritmos “las expondría a la responsabilidad por el contenido de terceros prácticamente todo el tiempo”, asegura el grupo Meta (Facebook, Instagram, WhatsApp), en otro argumento. Según ellos las recomendaciones solo sirven para organizar el contenido publicado en línea, pero no constituyen un trabajo de edición.

Este miércoles, el templo del derecho estadounidense examinará un caso parecido, pero que plantea una cuestión jurídica diferente: si no existiera el artículo 230, ¿podrían las plataformas ser condenadas bajo las leyes antiterroristas, aunque no hayan apoyado directamente un atentado?

El tribunal dictará sentencia para ambos casos antes del 30 de junio. En el pasado, varios de sus jueces expresaron su deseo de cambiar la lectura del artículo 230, que los políticos cuestionan cada vez más, aunque las divisiones entre demócratas y republicanos obstaculizan que se pueda modificar.

En 2021, el magistrado conservador Clarence Thomas lamentó que “los tribunales hayan interpretado la ley en sentido amplio y conferido una inmunidad extensa a algunas de las empresas más grandes del mundo”. Así las cosas parece probable que la Corte Suprema mueva ficha más rápido que el Congreso. Pero, por ahora, “nadie sabe exactamente cómo”, señala Tom Wheeler, experto del centro de estudios Brookings Institution. “Por eso es importante ver cómo se desarrolla la audiencia”, declaró a la AFP.