Los desafíos de YouTube en la era de la violencia y la discriminación en redes sociales

Hace unos días YouTube fue el centro de las críticas por no moderar adecuadamente los videos del youtuber norteamericano Steve Crowder, quien ofendió por su preferencia sexual al periodista Carlos Maza, del sitio de noticias estadounidense Vox. Inicialmente, YouTube se resistió a actuar porque el video no violaba sus políticas, pero la demanda de los usuarios modificó el punto de vista de la compañía. El tema escaló y la CEO de la compañía, Susan Wojcicki, tuvo que pedir disculpas a los usuarios y el particular a la comunidad LBGTQ (lesbiana, gay, bisexual y transgénero y queer, por sus siglas en ingles) al tiempo que dejó muy en claro el objetivo de la plataforma líder de videos: "bajaremos todo el material que resulte ofensivo, pero no estoy de acuerdo con ver el material antes de subirlo", explicó Wojciki durante un evento de tecnología la semana pasada.

Dentro de los parámetros estadísticos, YouTube muestra la realidad de sus números: es el segundo buscador más grande del mundo (después de Google), todos los días se ven mil millones de horas de video y por minuto se suben 500 horas de video. En particular, en la Argentina, y según un estudio de Ipsos, el 78% de los argentinos mira videos de YouTube todos los días, el 86% de los adolescentes argentinos (entre 16 y 20 años) mira videos todos los días. El 80% de los argentinos mira videos de YouTube para entretenerse y el 67% para aprender algo nuevo.

En este contexto LA NACION conversó con Amy Singer, directora de alianzas estratégicas de YouTube para América latina. De cara a eventos importantes como las elecciones generales de octubre y la actual Copa América de fútbol, la ejecutiva abrió un espacio de discusión en un encuentro en Buenos Aires con diferentes medios y anunciantes para mejorar la utilización del video como herramienta de comunicación y conexión con las audiencias.

Hay casos en los cuales YouTube tuvo una participación fundamental en la difusión de contenidos y debates políticos durante las elecciones de México y Brasil. ¿Cree que en la Argentina sucederá lo mismo?

Pero YouTube tuvo un gran protagonismo en los debates y aquí en la Argentina habrá múltiples transmisiones en vivo por la plataforma; realmente queremos apoyar a todos los candidatos de todo el espectro, para brindarles una plataforma que les permita llegar a sus electores y asegurarnos de ofrecer el apoyo técnico que necesitan para que la audiencia pueda tomar sus propias decisiones y tengan contacto visual con los candidatos. En lo que refiere a México y Brasil, un mismo proceso tan importante como las elecciones generales de un presidente, involucró estructuras políticas diferentes y propuestas de debate entre candidatos también disímiles.

¿Cuál considera que es el principal desafío de la compañía en la actualidad? ¿Cuidar el contenido que suben las personas o contar con socios confiables que suban contenido noticioso fiable?

El mayor desafío es superar esta tensión que hay, y que creo que es relativa a todos los medios de comunicación: proteger a la comunidad de usuarios. Tenemos que defender a nuestros seguidores de los contenidos dañinos y al mismo tiempo preservar el espacio como un lugar abierto. Esta tensión seguirá a futuro a pesar de los grandes avances que hicimos, pero nos queda trabajo por hacer. Cualquiera puede subir un video para compartir su historia; se suben 500 horas de contenido cada minuto. La prioridad número uno hoy es la responsabilidad de proteger a nuestra comunidad del contacto dañino.

¿De qué manera lo harán?

Para lograr altos niveles de responsabilidad con relación a la protección del contenido, YouTube desarrolló 4 pilares de comportamiento: remover todo el contenido que viole las políticas de la comunidad; reducir la visibilidad de contenido dudoso que no viola las políticas, pero tampoco es de buena calidad; elevar el contenido de calidad y las fuentes confiables o voces autorizadas; y premiar el contenido que está a la altura o supera los estándares de YouTube a través de la monetización. En este escenario, la compañía puso el foco en siete áreas de trabajo donde canaliza los esfuerzos: protección de los menores, desactivar los comentarios en los videos que muestren menores, extremismo violento, porno y fetichismo, odio y acoso, desinformación, suicidio y violencia, y finalmente contenido dañino y peligroso en general.

Toda esta actividad los ha obligado a modificar sus políticas de la comunidad dentro de YouTube.

Así es. Sólo en el último año hicimos 30 cambios en nuestras políticas, fue un trabajo quirúrgico donde identificamos casos puntuales en nuestras áreas de observación porque YouTube quiere eliminar todo contenido que viole las pautas de nuestra comunidad. Si es un contenido de baja calidad que está en el borde de nuestras políticas, queremos evitar recomendarlo en la búsqueda; es decir, admitimos la libertad de expresión, pero para ese contenido hay un límite, queremos reducirlo correctamente con nuestras propias herramientas, pero sí eliminamos el contenido que viola nuestras políticas.

¿Todo este mecanismo está en manos de un algoritmo que identifica el contenido dañino?

Nuestro algoritmo puede identificar ciertas palabras que están dentro del contenido dañino, pero a veces necesita un humano y por eso contratamos a 10.000 personas en todo el mundo, expertos en ciertas áreas como seguridad infantil o en extremismo violento que diseñan políticas y también visualizan el contenido que fue previamente marcado por el algoritmo. Pero sabemos que la tecnología necesita un conjunto humano de ojos que identifique los cambios en la sociedad, que perciba lo que ayer no era un problema y hoy lo es.

¿Y cómo se define a un socio de contenidos con videos confiables?

YouTube comienza a analizar como posible socio de contenidos a todos los canales que tienen al menos 1000 suscriptores y 4000 horas de videos visualizados. A partir de allí nos contactamos para que se sume al programa de socios de YouTube en el que le brindamos diversos niveles de soporte, dependiendo de la etapa en la que se encuentre en su desarrollo, para que mejore el nivel de los videos y respete las políticas de la comunidad. Partimos de la idea de que es una relación de necesidad mutua.

Con el lanzamiento de YouTube Premium y Youtube Music, de alguna manera se colocaron en el medio entre Netflix y Spotify. ¿Cuál es el valor agregado de la plataforma que en estos casos tienen un precio, frente a estos dos competidores?

El valor agregado está en la experiencia que puede brindar la plataforma. La flexibilidad para acceder a los contenidos que el usuario quiere, la posibilidad que ofrecen las sugerencias, articular videos con música buscada, pensar además en eventos donde YouTube interactúa con los usuarios como fiestas, encuentros de amigos y fundamentalmente la posibilidad de ver conciertos en vivo. Sea cual sea el tema que apasiona a los usuarios, se puede aprender, inspirar y entretener porque esta noción de que la televisión es personal es muy poderosa y es lo que mantiene a los usuarios viendo YouTube.