La jaula invisible. Cómo China extrema su vigilancia para intentar “predecir” el futuro
Las últimas innovaciones tecnológicas del régimen de Pekín indagan en los vastos registros de datos que van dejando los ciudadanos en sus actividades diarias; esa nueva generación de tecnología apunta a potenciales agitadores
The New York Times
NUEVA YORK.- Los más de 1400 millones de personas que viven en China están bajo constante observación: son grabados por las omnipresentes cámaras de la policía, en esquinas, subtes, recepciones de hoteles y entradas de edificios de departamentos, sus celulares son rastreados, sus compras monitoreadas, y sus conversaciones en las redes son censuradas.
Y ahora, hasta el futuro está bajo vigilancia.
Las últimas innovaciones tecnológicas indagan en los vastos registros de datos que van dejando los ciudadanos en sus actividades diarias, en busca de patrones y desviaciones, y prometen predecir delitos y protestas antes de que ocurran. Esa nueva generación de tecnología apunta a potenciales agitadores para la mirada del gobierno chino, no solo aquellos con historial delictivo, sino también grupos vulnerables, como minorías étnicas, trabajadores migrantes y quienes tienen antecedente de enfermedades mentales.
Pueden advertirle a la policía si la víctima de un fraude pretende viajar a Pekín para reclamar un resarcimiento del gobierno o si un consumidor de drogas hace demasiados llamados a un mismo número telefónico. También puede avisarles a las autoridades cada vez que una persona son problemas mentales pasa cerca de una escuela.
Para intentar esquivar esas trampas digitales hacen falta enormes maniobras evasivas Zhang Yuqiao es un hombre de 74 años que ha pasado gran parte de su vida reclamándole al Estado una compensación por la tortura que sufrieron sus padres durante la Revolución Cultural. Hasta hace un tiempo, cuando viajaba a Pekín para efectuar uno de sus reclamos, Zhang simplemente evitaba las rutas principales y con eso le bastaba para esquivar a la policía. Pero ahora también tiene que apagar el teléfono, pagar en efectivo y comprar varios pasajes de tren con distintos destinos falsos.
Aunque no hay demasiadas pruebas, esas nuevas tecnologías de China, detalladas en órdenes de compra y otros documentos analizados por el diario The New York Times, extienden aún más los límites del control político y social del gobierno de Pekín y hunden sus tentáculos en lo profundo de la vida de las personas. En el plano más elemental, sirven para justificar una vigilancia asfixiante y la violación de la privacidad, mientras que llevados al límite alientan el peligro de automatizar la discriminación sistémica y la represión política.
Para el gobierno, la estabilidad social está por encima de todo y cualquier amenaza a la misma debe ser eliminada. En la década que lleva en el poder, el líder chino Xi Jinping ha endurecido y centralizado la seguridad estatal, aplicando políticas tecno- autoritarias para aplastar la agitación étnica en la región occidental de Xinjiang y encerrar al pueblo chino en una de las cuarentenas más severas del mundo. El espacio para la disidencia, siempre acotado, está desapareciendo aceleradamente.
Los detalles de esas nuevas tecnologías de seguridad aparecen documentos de investigación policial, en registros de patentes y presentaciones de contratistas de vigilancia, y también en cientos de cotizaciones y licitaciones públicas analizadas y confirmadas por The New York Times. Muchos de esos documentos fueron compartidos por ChinaFile, una revista online publicada por la Asia Society, que desde hace años recaba sistemáticamente los datos de los sitios web del gobierno chino. Otro conjunto de documentos describe el software comprado por las autoridades de la ciudad portuaria de Tianjin para impedir que los peticionantes, como Zhang, lleguen hasta la vecina Pekín, fue aportado por IPVM, una publicación de la industria de la vigilancia.
El Ministerio de Seguridad Pública de China no respondió a los pedidos de comentarios, enviados a su oficina central en Pekín y a 6 delegaciones de todo el país.
La nueva estrategia de vigilancia se basa en parte en software de patrullaje de datos de Estados Unidos y Europa, tecnología que según las asociaciones civiles incorpora el racismo a la toma de decisiones, por ejemplo, sobre cuáles barrios deben ser más patrullados o qué prisionero obtiene libertad condicional y cuál no. Y China lo ha llevado al extremo, conectándolo con sus ingentes reservas de datos de todo el país, que permite que la policía opera con total opacidad e impunidad.
La mayoría de las veces la gente no sabe que está siendo observada. La policía china prácticamente no está sujeta al escrutinio publico sobre la efectividad de esa tecnología y las acciones que suscita. Y en China el gobierno no necesita una orden judicial para recabar información personal.
En su costado más crudo, estos sistemas conjuran la eterna paradoja de la ciencia ficción: ¿Cómo saber si el futuro fue predicho acertadamente si la policía intervino antes para impedir que el hecho ocurra?
Y los expertos dicen que aunque el software no logre deducir el comportamiento humano, puede considerárselo exitoso, ya que la vigilancia en sí misma inhibe la agitación social y el delito.
“Es meter a la sociedad en una jaula invisible de tecnología”, dice Maya Wang, investigadora de China de la organización Human Rights Watch. “Y quienes sentirán de manera desproporcionada el golpe serán los grupos que ya eran gravemente discriminados por la sociedad china.”
“No tienen dónde esconderse”
En 2017, uno de los emprendedores más conocidos de China tuvo una visión muy audaz para el futuro: un sistema informático que pudiera predecir el crimen.
El emprendedor era Yin Qi, fundador de la startup de inteligencia artificial Megvii, y les dijo a los medios estatales chinos que el sistema de vigilancia le daría a la policía un motor de búsqueda del crimen, analizando incontables horas de imágenes de video para intuir patrones y advertir a las autoridades sobre comportamientos sospechosos. El empresario explicó que si las cámaras detectaban que alguien pasaba demasiado tiempo en una estación de tren, el sistema podía etiquetarlo como posible carterista, por ejemplo.
“Sería aterrador si detrás de la cámara hubiera una persona real, observando, pero detrás de la cámara solo hay un sistema informático”, dijo Yin. “Es como el motor de búsqueda que usamos todos los días para navegar por internet: es muy neutral. Se supone que es algo que ayuda.”
Yin agregó que con ese sistema de vigilancia, “los malos no tienen dónde esconderse.”
Cinco años después, su visión se va convirtiendo poco a poco en realidad. Las presentaciones internas de Megvii revisadas por The Times muestran que los productos de la startup arman expedientes digitales completos para la policía.
“Construya una base de datos multidimensional que almacene caras, fotos, autos, casos y registros de incidentes”, dice la descripción de un producto de la empresa, llamado “búsqueda inteligente”. El software analiza los datos para “detectar gente común que parece inocente” y así “frenar los actos ilegales desde la cuna”.
En un comunicado por email, un vocero de Megvii dijo que la compañía estaba comprometida con el desarrollo responsable de inteligencia artificial y que su objetivo era hacer que la vida sea más fácil y segura, “y no monitorear a ningún grupo o individuo en particular”.
Hay tecnologías similares que ya están en uso. En 2022, la policía de Tianjin compró un software creado por un competidor de Megvii, Hikvision, cuyo objetivo es predecir protestas. El sistema recopila datos sobre miles de peticionantes, un término genérico que en China describe a quienes intentan presentar reclamos sobre funcionarios locales ante autoridades nacionales.
A continuación, el sistema califica a los peticionantes según la probabilidad de que viajen a Pekín. Según figura en los documentos de compran, en el futuro los datos se utilizarán para entrenar modelos de aprendizaje automático.
Los funcionarios locales tratan de evitar a toda costa los viajes de los peticionantes para evitar la vergüenza política o la exposición de irregularidades en su administración. Y el gobierno central no quiere que los ciudadanos descontentos se congreguen en la capital.
Automatización del prejuicio
Cuando la policía de Zhouning, un municipio rural de la provincia de Fujian, compró un nuevo paquete de 439 cámaras, en 2018, enumeraron las coordenadas de dónde iría cada una. Según el registro público de la compra, algunas colgarían sobre intersecciones y otras cerca de escuelas.
Pero nueve fueron instaladas frente a la vivienda de personas con algo en común: la enfermedad mental.
Mientras que algunos programas intentan usar datos para descubrir nuevas amenazas, el tipo de programas más común se basa en nociones preconcebidas de la policía. En más de 100 documentos de compras revisados por The Times, la vigilancia está enfocada en listas negras de “personas clave”: pacientes con enfermedades mentales, delincuentes convictos, fugitivos, consumidores de drogas, peticionantes, presuntos terroristas, agitadores políticos y amenazas a la estabilidad social. Otros sistemas hicieron blanco en trabajadores migrantes, jóvenes “ni-ni” —adolescentes que ni estudian ni trabajan—, minorías étnicas, extranjeros y personas con VIH.
En muchos casos, el software va más allá de simplemente apuntar a una población y permite que las autoridades armen “trampas digitales” que se disparan ante una posible amenaza. En una presentación de Megvii donde detalla las funciones de un producto rival de Yitu, la interfaz del sistema permitía que la policía diseñara sus propias alertas tempranas en base a sus propios criterios.
Con un simple menú para completar los espacios en blanco, la policía puede basar las alarmas en parámetros específicos, con personas incluidas en las listas negras, ver cuándo se mueven, si se reúnen con otras personas en la lista negra, y la frecuencia de ciertas actividades. La policía podría configurar el sistema, por ejemplo, para disparar una alerta cada vez que dos personas con antecedentes de consumo de drogas se registran en el mismo hotel o cuando cuatro activistas con antecedentes de protesta ingresan al mismo parque.
Por Paul Mozur, Muyi Xiao y John Liu
Traducción de Jaime Arrambide
The New York Times
Conforme a los criterios de
Conocé The Trust ProjectMás leídas de El Mundo
"Alta probabilidad". Macabro hallazgo en México: los tres cuerpos encontrados en un pozo serían de los surfistas extranjeros desaparecidos
"Tenemos que tenerlo". El inédito simulacro de combate de un caza de EE.UU. conducido por Inteligencia Artificial
Convulsión en EE.UU. Con más rechazo que apoyo, las protestas en los campus exponen las posturas irreconciliables en Medio Oriente
Estados Unidos. Un niño de 6 años murió tras ser obligado por su padre a correr en la cinta porque estaba “demasiado gordo”
Otras noticias de China
Según un estudio. Por qué casi la mitad de las grandes ciudades de China están empezando a hundirse
