La era de la vigilancia: qué hacer frente al avance de Facebook y Google

Cada vez se alzan más voces que advierten sobre los riesgos de la expansión que están teniendo las empresas que crean un nuevo tipo de mercado a partir de datos sobre la experiencia humana privada
Cada vez se alzan más voces que advierten sobre los riesgos de la expansión que están teniendo las empresas que crean un nuevo tipo de mercado a partir de datos sobre la experiencia humana privada Crédito: Fast Company
Shoshana Zuboff
(0)
20 de marzo de 2019  

Mark Zuckerberg recibió el año nuevo comprometiéndose a dar respuesta a los muchos males que ahora afectan a su compañía "asegurándonos de que la gente tenga control de su información" y "asegurando que nuestros servicios mejoren el bienestar de la gente".

Por más que uno quiera creerle es imposible tomar seriamente el repentino giro de Zuckerberg. Los problemas citados por Zuckerberg, incluyendo la "interferencia en las elecciones" y "las expresiones de odio y la mala información" son subproductos de los recursos propios de las redes sociales, no fallas de la programación. ¿Cómo se explica que Facebook haya ignorado estos problemas durante un año? Algunos titulares culpan a internet. Otros critican a la conducción de Facebook . Una poderosa denuncia en el diario The New York Times en noviembre pasado asegura que los ejecutivos de Facebook "tropezaron", primero ignorando señales de alerta de interferencias en el período previo a la elección presidencial de EE.UU. de 2016 y luego tratando de ocultarlas. Otros analistas concluyen que el problema es el tamaño de Facebook, sosteniendo que debiera dividirse en compañías más pequeñas. Desgraciadamente, ninguna de estas explicaciones sirve para entender el verdadero problema.

Facebook es una compañía ejemplar si uno es partidario del "capitalismo de vigilancia", un término para referirse a empresas que crean un nuevo tipo de mercado a base de la experiencia humana privada. Aspiran todos los datos de conducta que puedan obtener de cada movimiento de una persona (literalmente, en términos de seguir las locaciones de sus celulares) y los transforman con inteligencia de las máquinas en predicciones, aprendiendo a anticipar e incluso guiar la conducta futura. Estas predicciones son comercializadas en mercados a otras empresas que apuntan a una nueva clase de clientes de negocios.

El capitalismo de vigilancia fue inventado por Google hace más de una década cuando descubrió que los datos de descarte que atestaban sus servidores podían combinarse con analítica para producir predicciones de la conducta de los usuarios. En aquel momento la acción de interés clave era que un usuario pudiera cliquear un aviso. La habilidad de la compañía para generar pronósticos de cliqueo a base de sus datos de descarte se convirtió en la base de un proceso de ventas inusualmente lucrativo conocido como publicidad orientada. En 2008, cuando Facebook enfrentó una crisis financiera, Zuckerberg contrató a la ejecutiva de Google, Sheryl Sandberg, para que trasladara este esquema a su compañía.

El éxito apabullante de Google y Facebook ha inspirado a compañías en sectores como seguros, comercio minorista, salud, finanzas, entretenimiento, educación o transporte, para buscar márgenes de ganancias impresionantes a través del negocio de la vigilancia. Estas nuevas empresas dependen de la expansión continua de su materia prima (datos de conducta) para impulsar el crecimiento de sus ingresos. Este imperativo de extracción explica por qué Google se expandió de las búsquedas al correo electrónico y al mapeo, hasta intentar construir ciudades enteras. Es la razón por la que Amazon invirtió millones para desarrollar el Echo y Alexa. Es la razón por la que hay una proliferación de productos denominados inteligentes, todos los cuales son simples interfaces para permitir el flujo sin impedimentos de datos de conducta que antes no estaba disponible, cosechados desde la cocina hasta el dormitorio de sus usuarios.

Cada uno de los problemas que Zuckerberg ahora dice que quiere solucionar han sido rasgos desde hace mucho de la experiencia de Facebook. Hay no menos de 300 estudios de investigaciones cuantitativas significativas sobre la relación entre el uso de las redes sociales y la salud mental. Los investigadores ahora concuerdan que las redes sociales introducen una intensidad y una generalización sin paralelo de procesos de "comparación social" especialmente para los usuarios jóvenes que están casi constantemente online. Los resultados: sentimientos amplificados de inseguridad, envidia, depresión aislamiento social y autoobjetivación. Un estudio importante publicado en el American Journal of Epidemiology concluyó: "El uso de Facebook no promueve el bienestar? Los usuarios individuales harían bien en reducir su uso de redes sociales y concentrarse en cambio en relaciones en el mundo real".

Por cierto Facebook ha buscado ávidamente dominar la dinámica de las comparaciones sociales para manipular la conducta humana. Un artículo de 2012 basado en una colaboración entre un científico de datos de Facebook, Adam Kramer, e investigadores académicos -"Un experimento con 61 millones de personas de influencia social y movilización política"- publicado en la revista Nature, detalló como la compañía implantaba indicaciones relacionadas con el voto en la información de 61 millones de usuarios de Facebook para potenciar procesos de comparación social e influir en la conducta de votación en la campaña electoral de mitad de período de 2010. El equipo concluyó que sus esfuerzos generaron exitosamente un "contagio social" que influyó en la conducta en el mundo real, con 340.000 votos adicionales emitidos como resultado de este trabajo.

En las elecciones otros han aprendido a explotar estos métodos dañinos para sus fines políticos. Los esfuerzos de desinformación en 2016 en las campañas de EE.UU. y el Reino Unido fueron las últimas manifestaciones de un problema muy conocido que ha desfigurado elecciones y el discurso en países tan diversos como Indonesia, Colombia, Alemania, Myanmar, Uganda, Finlandia y Ucrania.

A Facebook no le importa la desinformación, ni la salud mental, ni ninguna otra de las cuestiones en la lista de resoluciones de Zuckerberg. Los usuarios no son clientes ni son "el producto". Son meramente fuentes gratuitas de materia prima. Zuckerberg, Sandberg y los demás altos ejecutivos de la compañía no son radicalmente indiferentes porque sean malvados sino porque son capitalistas de vigilancia, obligados por imperativos económicos sin precedentes a extraer datos de conducta para predecir nuestros futuros para ganancia de terceros. A Facebook no le importa porque no puede importarle mientras al capitalismo se le permita prosperar.

En un memo interno de Facebook de 2015, que se filtró en la primavera boreal pasada, Andrew Bosworth, uno de los asesores más cercanos de Zuckerberg, explicó que la "conexión" tiene que entenderse como un imperativo económico, sea que mejore la vida de los usuarios o sea una amenaza para ellos. "Conectamos a la gente" escribió. "Quizás alguien encuentre el amor? Quizás alguien muera en un ataque terrorista coordinado con nuestras herramientas. La horrible verdad es que? cualquier cosa que nos permita conectar más gente más a menudo es de facto bueno".

Cuando se considera qué ha de hacerse con estas nuevas empresas, se tiende a basarse en esfuerzos anteriores para manejar el capitalismo descontrolado. Pero este modelo económico se ha enraizado y prosperado en las últimas dos décadas pese a los paradigmas existentes de leyes de privacidad y antimonopólicas. Precisamente porque este fenómeno no tiene precedentes, se necesitan nuevos remedios. Sí, se debe regular a Facebook, empezando con la aplicación del decreto de consentimiento de la Comisión de Comercio Federal de 2011 que busca supervisar sus prácticas de privacidad. Pero las amenazas del capitalismo de vigilancia no terminarán allí.

Traducción Gabriel Zadunaisky

ENVÍA TU COMENTARIO

Ver legales

Los comentarios publicados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de sanciones legales. Aquel usuario que incluya en sus mensajes algún comentario violatorio del reglamento será eliminado e inhabilitado para volver a comentar. Enviar un comentario implica la aceptación del Reglamento.

Para poder comentar tenés que ingresar con tu usuario de LA NACION.

Descargá la aplicación de LA NACION. Es rápida y liviana.