Instagram tiene un problema con las drogas, y sus algoritmos no hacen más que empeorarlo

La aplicación Instagram, propiedad de Facebook, se hizo conocida por los posteos de las celebridades y las fotos de vacaciones envidiables. Pero también se ha convertido en un importante mercado abierto para la promoción y venta de drogas ilegales. Hace un par de semanas la empresa se comprometió a tomar enérgicas medidas al respecto, pero le está costando seguirles el ritmo a sus propios algoritmos y sistemas, que ofrecen una gran variedad de contenidos personalizados relacionados con las drogas, que apuntan directamente a las personas que manifiestan interés por comprar sustancias ilegales.

Recientes búsquedas en Instagram de hashtags que contengan el nombre de drogas ilícitas –como por ejemplo #oxy y #oxycontin por la oxicodona, o #painkillers, #painpills y #painrelief, por los analgésicos opioides– revelaron miles de posteos de una mezcla de personas, entre adictos, gente que se jacta de su vida fiestera, y dealers que ofrecen su mercancía.

Cuando alguien es seguidor de la cuenta de un dealer, o incluso si uno le pone un "me gusta" a uno de sus posteos, activa de inmediato el algoritmo de Instagram y empieza a funcionar para lo que fue diseñado: en este caso, llenando el feed de ese usuario con publicaciones sobre drogas, sugiriéndole otras cuentas de dealers para que también los siga, o proponiéndole otros hashtags de temática similar. Y junto a los posteos sobre venta ilegal de pastillas, tanto en Instagram como en el propio servicio de streaming de Facebook, empiezan a aparecer publicidades de algunas de las marcas mas importantes de Estados Unidos, como Target, Chase y Procter & Gamble.

Por más que a principios de este mes los más altos ejecutivos de Facebook y Twitter –que tienen problemas desde hace tiempo con los posteos que ofrecen drogas ilegales– prometieron durante una audiencia ante el Congreso de Estados Unidos que estaban frenando la oferta de opioides y otras drogas en sus plataformas, esos servicios siguen pareciendo un mercado abierto para publicitar ese tipo de contenidos. La jefa de operaciones de Facebook, Sheryl Sandberg, dijo que su empresa se opone "firmemente" a esas actividades. El CEO de Twitter, Jack Dorsey, dijo que estaban "analizando en profundidad" el modo en que se difunde la venta de drogas en esa red social.

Pero hace años que los activistas y diversas organizaciones civiles vienen advirtiéndoles a las empresas tecnológicas sobre la venta de drogas ilícitas en sus plataformas. En los últimos meses, los legisladores, la Administración de Alimentos y Drogas de Estados Unidos (FDA) y algunos anunciantes también se han sumado a esa lucha. En abril, Scott Gottlieb, comisionado de la FDA, acusó a las empresas de internet "de no dar los pasos concretos para encontrar y eliminar los anuncios de opioides". El senador demócrata por el estado de Virginia Occidental, Joe Manchin, calificó de "inconscientes" a las compañías de redes sociales, y agregó que "ya es hora de que pongan la vida humana por encima de las ganancias y de que finalmente instrumenten las medidas para frenar esas actividades nocivas e impedir la venta de drogas ilegales a través de sus plataformas".

La omnipresencia de los posteos sobre drogas en las redes sociales –que según la FDA, ha contribuido a fomentar la epidemia de consumo de opioides que el año pasado se cobró 40.000 vidas en Estados Unidos–, pone al descubierto la impotencia de las empresas tecnológicas frente al software que ellas mismas crearon. Los algoritmos que motorizan las redes sociales difunden contenidos ilegales a tal velocidad –desde publicidades sobre drogas hasta noticias falsas y discursos de odio– que a las empresas les cuesta seguirles el ritmo para frenarlos. Las características más comunes en las redes sociales, como los hashtags o los algoritmos que entregan feeds personalizados, envían posteos sobre venta de drogas directamente a los usuarios que han expresado algún interés en ellas, con el efecto potencial de estar exponiendo a drogas adictivas a las personas más vulnerables.

"Así como el consumo de drogas reconfigura el cerebro para que quiera más de la misma sustancia, las plataformas de las redes sociales diseñaron sus sitios de modo tal que después de buscar una sola vez el nombre de una droga ilícita, el algoritmo se reconfigura para ofrecerle drogas a un usuario que ya es vulnerable", dice Rick Lane, un experimentado asesor de política tecnológica que el año pasado impulsó la aprobación de la ley conocida como FOSTA-SESTA, por la cual las empresas tecnológicas son legalmente responsables por los avisos sobre prostitución y tráfico sexual que aparezcan en sus plataformas. Lane ahora está impulsando una ley similar sobre las publicidades de drogas.

La vicepresidenta de soluciones de marketing global de Facebook, Carolyn Everson, dice que Instagram le está prestando más atención a la venta ilegal de drogas debido al creciente énfasis de la empresa en cuestiones de seguridad y de prevención de abusos a través de la plataforma. "La plataforma no es lo suficientemente sofisticada como para analizar cada posteo y diferenciar al que vende drogas ilegales del que toma ansiolíticos porque está estresado", dice Everson, en referencia a la inteligencia artificial que maneja esa red social. "Así que obviamente hay cosas que se filtran y que van totalmente en contra de nuestra política, pero las estamos mejorando".

El lunes pasado, Kevin Systrom y Mile Krieger, confundadores de Instagram, anunciaron que abandonan la compañía. Según fuentes de la empresa, es probable que el mando de Instagram lo tome Adam Mossieri, subordinado directo durante muchos años de Mark Zuckerberg, CEO de Facebook.

"Algunos de los comportamientos que están surgiendo en nuestra plataforma nos plantean un desafío, y estamos abocados a frenarlos, en colaboración con las fuerzas de la ley, nuestros colegas de otras empresas, y la FDA", dice el vocero de Twitter, Ian Plunkett.

Los laboratorios farmacéuticos tienen permitido publicitar sus marcas en las redes sociales, pero ese proceso está estrictamente regulado por la FDA, y las empresas y los individuos no tienen autorizado realizar ventas de drogas por las redes.

Las empresas tecnológicas, que están muy poco reguladas en comparación con otras industrias, enfrentan la perspectiva de normativas más estrictas si no logran controlar sus problemas. Durante las audiencias de las empresas tecnológicas que se realizaron este mes en el Congreso de Estados Unidos, el legislador Manchin les dijo a los ejecutivos que su estado, Virginia Occidental, está siendo muy golpeado por la epidemia de adicción a los opioides, y que estaba dispuesto a impulsar una ley según el modelo de la ley contra el tráfico sexual, que haría responsables a las empresas de las compraventas de drogas que se realizaran a través de sus plataformas.

John Montgomery, vicepresidente ejecutivo de seguridad global de GoupM, un gigante de la publicidad a nivel mundial que trabaja para empresas como Target y Procter & Gamble, dice que los avances de Instagram son demasiado lentos. "Cuando se trata de contenidos sobre fármacos ilegales no hay mucho misterio, así que no se entiende por qué tardan tanto en identificarlos y bloquearlos."

Según Libby Baney, asesora de la agrupación civil Alliance for Safe Online Pharmacies (Alianza por Farmacias Online Seguras), dice que Instagram se ha convertido en la plataforma más poderosa para promocionar drogas. El furor por Instagram entre los adolescentes, así como su énfasis en lo visual, su grado de sofisticación para personalizar los contenidos y el anonimato permitido de las cuentas han convertido a esa aplicación en un caldo de cultivo para la publicidad de drogas ilegales, dice Baney.

Eric Feinberg, investigador y CEO de GiPEC, una start-up de ciberinteligencia con sede en Nueva York que se dedica a rastrear actividades ilegales en las redes, dice que las empresas dueñas de las plataformas no están haciendo lo suficiente. "Si realmente los persiguieran y bloquearan uno a uno sin descanso, no encontraríamos en las redes las cosas que encontramos."

Everson dice que Instagram y Facebook están en las primeras etapas del desarrollo de herramientas de Inteligencia artificial capaces de "marcar" los contenidos sobre drogas, y lo comparó con los esfuerzos iniciados por Facebook hace dos años para desarrollar un software de inteligencia artificial capaz de detectar la mayoría de las cuentas de la agrupación terrorista Estado Islámico antes de que los usuarios puedan verlas. Ahora está desarrollando clasificadores visuales que pueden reconocer las fotos de determinadas pastillas y detectar patrones comunes, como la inclusión de un número de teléfono que derive la transacción hacia una plataforma de mensajería codificada.

Facebook también les da a los anunciantes ciertas herramientas para evitar que sus publicidades aparezcan junto a ciertas publicaciones o categorías de contenidos, como las catástrofes o las temáticas sociales controvertidas.

Este mes, Instagram también lanzó una notificación tipo "pop-up" que aparece cuando alguien busca hashtags que contengan el nombre de opioides, medicamentos recetados o drogas ilegales. Esa notificación también le ofrece al usuario la posibilidad de contactarlo con centros de ayuda anónima para adictos e información sobre prevención y recuperación del consumo de drogas.

Por Elizabeth Dwoskin

The Washington Post