"¿Nosotros creamos este monstruo?" Cómo Twitter se volvió una red tóxica

Yair Rosenberg quería trollear a los trolls. Rosenberg, importante redactor del sitio de noticias y cultura judía Tablet Magazine, se había vuelto un blanco importante de usuarios antisemitas de Twitter por sus informes de la campaña presidencial de Estados Unidos en 2016. Pese a que lo atacaban con calumnias, no le preocupaban demasiado los nazis que utilizaban el servicio. "Mayormente me resultaban risibles y fáciles de ignorar", dijo.

Pero un tipo de troll de Twitter en particular sí le preocupaba: los que posaban como representantes de minorías -usando fotos robadas de gente real- e infiltraban conversaciones de alta exposición para lanzar su veneno. "Lectores desprevenidos podían encontrarse con este tipo que se ve como un judío ortodoxo o una mujer musulmana que decían algo ofensivo", explica.

Rosenberg decidió responder. Trabajando con Neal Chandra, un diseñador de San Francisco con el que nunca se encontró, creó un bot automatizado para Twitter llamadoImposter Buster (Revienta Impostores). A partir de diciembre de 2016 se insertó en los mismos hilos de conversación de Twitter que las cuentas engañosas y amablemente desnudó los engaños de los trolls ("FYl, esta cuenta es de un racista que se hace pasar por judío para difamar a los judíos").

El Imposter Buster pronto fue atacado por racistas que lo denunciaron a Twitter por acoso. Inesperadamente la compañía se alineó con los trolls: suspendió el bot por su conducta en abril de 2017. Con ayuda de la Liga Anti-Difamación, Rosenberg y Chandra lograron que se revirtiera esa decisión tres días más tarde. Pero sus blancos continuaron presentando denuncias de acoso y en diciembre pasado Twitter puso Imposter Buster en la lista negra en forma definitiva.

Por más que la saga de Imposter Buster tenga muchos rasgos singulares, también es sintomática de cuestiones más generales que afectan a Twitter desde hace mucho: los abusos, el uso del anonimato como arma, las guerras de bots y la toma de decisiones en cámara lenta por gente que conduce una plataforma en tiempo real. Estos problemas se han intensificado desde que Donald Trump llegó a la presidencia y eligió a Twitter como su principal vía de difusión. La plataforma es ahora el medio principal en el mundo para la política y el escándalo, la cultura y la conversación, albergando tanto al oficialista #MAGA (por Make America Great Again) como al #MeToo.

Este estatus ha ayudado a mejorar la situación de la compañía. El uso diario ha crecido un saludable 12% año contra año y Twitter informó haber tenido ganancias por primera vez en el primer trimestre del año, lo que se suma al hecho de que en los últimos doce meses se duplicó el precio de sus acciones. Aunque aún parece improbable que la compañía pueda equiparar la escala y la rentabilidad de Facebook, no está en peligro de quiebra. Los reclamos ocasionales de analistas financieros de que el CEO, Jack Dorsey, venda Twitter o de críticos que piden el cierre de la red social se ven cada vez más desubicados.

Pese a la situación más cómoda de Twitter, Dorsey habla cada vez más de los problemas de su servicio. "Estamos decididos a hacer más seguro a Twitter", se comprometió la compañía en su carta a los accionistas en febrero pasado. En la llamada correspondiente a los inversores, Dorsey delineó una iniciativa de "calidad de la información" para mejorar el contenido de las cuentas en el servicio. Los usuarios activos mensuales se han estancado en 330 millones, hecho que la compañía atribuye en parte a su poda continua de spammers, los generadores de mensajes-basura. Los esfuerzos de limpieza de Twitter son un reconocimiento, aunque implícito, de que el conjunto de malintencionados que aún usan la plataforma -los promotores del odio, los propagadores de falsas noticias y los bots que buscan influir en la opinión pública- traban su crecimiento.

Aunque la compañía ha dado pasos significativos en los últimos años para terminar con actores maliciosos, no ha eliminado la impresión de que no hace suficientes esfuerzos para hacer del servicio un espacio más seguro. Su respuesta a los incidentes a menudo es insatisfactoria para sus usuarios y más que un poco misteriosa: el castigo a Rosenberg en vez de a quienes lo atormentan es un gran ejemplo.

Twitter no es el único que se debate con el hecho de que su producto está siendo corrompido para un uso malévolo. Facebook y Google están bajo creciente escudriño desde la elección presidencial, al salir a luz cada vez más información que revela cómo las plataformas manipulan a los ciudadanos. Las respuestas de las compañías han sido tímidas, reactivas o aun peores. "Todas son culpables de haber esperado demasiado tiempo para abordar el problema y todas ellas tienen mucho camino por recorrer", dice Jonathan Morgan, fundador de Data for Democracy, un equipo de tecnólogos y expertos en datos que se ocupan de proyectos gubernamentales con impacto social.

Lo que está en juego es particularmente grande para Twitter, dado que facilitar la difusión de noticias es clave tanto para sus usuarios como para su modelo de negocios. ¿Cómo se metió en este lío Twitter? ¿Por qué recién ahora responde al mal uso que afecta a la plataforma desde hace años? "La seguridad se le escapó de las manos a Twitter", dice un exvicepresidente de la compañía. "Fue una caja de Pandora. Una vez abierta ¿cómo se cierra?".

Endurecer a las grandes redes sociales contra los abusos involucrará implementar soluciones que ni siquiera han sido inventadas aún. "Si hubiera una varita mágica que pudieran blandir para resolver este desafío, sin duda lo harían", dice Graham Brookie, vicedirector del Laboratorio de Investigaciones Digitales del Atlantic Council.

Aun así hay muchas cosas que Twitter puede hacer para proteger su plataforma. Usar tecnología para identificar bots maliciosos es un asunto espinoso, pero Twitter podría considerar así a todas las cuentas automatizadas, lo que no trabaría a las legítimas, pero haría más difícil para bots rusos hacerse pasar por partidarios de Trump.

Con el objetivo de lograr una mayor colaboración, e inspirado en investigaciones realizadas por Cortico, una organización sin fines de lucro, y el Laboratorio para Máquinas Sociales del MIT, Twitter anunció en marzo que intentará medir su propia "salud conversacional". Invitó a otras organizaciones a participar en este proceso y Twitter dirá que en julio dará a conocer quiénes son sus primeros socios.

Cuando Twitter presentó su iniciativa de nueva métrica de salud, el público estadounidense aparentemente tuvo una explicación, luego de que Dorsey tuiteara respecto de Twitter: "No predijimos ni entendimos plenamente las consecuencias negativas en el mundo real. Lo reconocemos ahora. No nos enorgullece el modo en que la gente se aprovechó de nuestro servicio o nuestra incapacidad para responder con suficiente rapidez... Hemos concentrado la mayor parte de nuestros esfuerzos en eliminar el contenido que violara nuestros términos, en vez de construir un marco sistémico para ayudar a alentar un debate, conversaciones y pensamiento crítico más saludables. Este es el enfoque que necesitamos ahora".

Una semana más tarde Dorsey siguió reconociendo errores del pasado en la transmisión de un video en vivo de 47 minutos de duración en Twitter. "Vamos a cometer errores, yo por cierto que voy a cometer errores", dijo. "Lo he hecho en el pasado en torno de toda esta cuestión de la seguridad, el abuso, la desinformación y la manipulación en la plataforma".

El objetivo del streaming en vivo fue hablar más acerca de medir el discurso y Dorsey trató de responder preguntas de los usuarios. Pero los cientos de comentarios en tiempo real que pasaban por la pantalla ilustraron el inmenso desafío por delante. Mientras avanzaba el video, la pantalla se llenó de insultos antisemitas y homofóbicos, quejas cáusticas de usuarios que temen que Twitter está silenciando sus creencias y reclamos de que la compañía termine con el racismo. Tocando su barba, Dorsey miraba la pantalla de su teléfono, viendo el flujo de expresiones maliciosas mientras buscaba lo bueno en todo eso.

Traducción: Gabriel Zadunaisky