1
El régimen chino quiere moldear a su medida los modelos de inteligencia artificial del mundo
Pekín lanzó un ambicioso plan para producir y exportar datos de entrenamiento de alta calidad, un recurso estratégico que puede definir no solo qué tan potentes son los modelos, sino también qué visión del mundo transmiten
8 minutos de lectura'
NUEVA YORK.– Cuando ChatGPT era todavía una tecnología novedosa, en Pekín los investigadores la pusieron a prueba para ver cómo se manejaba con preguntas en idioma chino. Y su reacción ante los resultados obtenidos fue muy reveladora.
En ese momento, ChatGPT les respondió que la exestrella de la NBA, Yao Ming, era la primera mujer china en jugar basquet profesional en Estados Unidos, y confundió la novela anónima Viaje al oeste con Sueño en el pabellón rojo, de Cao Xueqin, dos clásicos de la literatura china escritos a 200 años de distancia.
Los investigadores del Instituto Tecnológico de Pekín publicaron sus hallazgos en 2023 y allí también dijeron que ChatGPT generaba una gran cantidad de “comentarios sesgados sobre China” y que “no esquiva ni se niega a responder preguntas políticas sobre China”.
Desde entonces, ChatGPT fue actualizado varias veces, y no se sabe si hoy en día los resultados serían los mismos, pero esos ejemplos apuntaban a una preocupación central de China en su lucha para convertirse en una superpotencia en inteligencia artificial: los sistemas que le están dando forma al futuro son entrenadas con bases de datos escritas abrumadoramente en inglés, y para China, solo reflejan el modo de pensar de Occidente.
Los analistas señalan que ese desequilibrio también entraña una vulnerabilidad estratégica para el Partido Comunista Chino, ya que implica que la visión occidental probablemente prevalezcan en temas como los derechos humanos y el estatus de Taiwán, la isla autónoma reclamada por Pekín.
Para subsanar ese desequilibrio y desarrollar herramientas de IA más potentes, ahora Pekín aspira a convertirse en un proveedor líder de datos: los vastos conjuntos de texto, imágenes y vídeos que los sistemas de IA en todo el mundo usan para entrenarse.
A principios de este año, la Administración Nacional de Datos de China presentó un plan estratégico para transformar al país en una potencia de datos para finales de 2028. El plan propone la creación de conjuntos de datos de “alta calidad” en más de dos docenas de áreas estratégicas, como la investigación científica, la fabricación industrial y el desarrollo de vehículos autónomos.
Pero el plan también implica que China comparta sus conjuntos de datos a nivel mundial, una tendencia que se consolidó el mes pasado cuando Pekín se comprometió a compartir datos para ayudar a las decenas de países emergentes que asistieron a la Conferencia Mundial de Inteligencia Artificial en Shanghái a construir sus propios sistemas de IA.
China ya ha difundido también enormes cantidades de datos recopilados por laboratorios del gobierno y medios de comunicación estatales, poniéndolos a disposición para su descarga en todo el mundo.
Según los analistas, la movida tiene un doble objetivo: atraer a más usuarios al ámbito de la IA en China y reducir la brecha con Estados Unidos en el acceso a datos de entrenamiento de alta calidad, ya que para Pekín esa es la razón del liderazgo norteamericano.
La puja por conseguir los mejores datos de entrenamiento
Bajo el liderazgo de Xi Jinping, Pekín ha priorizado la IA como una tecnología estratégica fundamental para seguirle el ritmo de Estados Unidos y revitalizar la economía china. Para ello, los laboratorios chinos necesitarán datos cada vez más sofisticados.
Visto así superficialmente, eso no debería ser un problema. China cuenta con la ingente cantidad de datos del masivo aparato de vigilancia del gobierno y de los cientos de millones de personas que utilizan las principales plataformas tecnológicas del país. Sin embargo, son datos fragmentados y están almacenados en “silos” de diferentes empresas y dependencias públicas.
Como resultado, dice Xiaomeng Lu, directora de la consultora de gestión de riesgos Eurasia Group, a los laboratorios chinos les cuesta encontrar suficientes datos útiles para sus modelos. Por eso dependen en gran medida de un proceso conocido como “destilación”, por el cual los investigadores recopilan datos de sistemas potentes y los utilizan para construir sus propios modelos. (Algunas empresas norteamericanas, como Anthropic, se quejan de que sus competidores chinos copian deslealmente su tecnología).
“La máxima prioridad que tiene China es resolver los obstáculos internos que frenan el flujo de datos”, apunta Lu. En su plan de principios de este año, la Administración de Datos dice que buscará eliminar esos “silos de datos” para que el gobierno, las empresas y el mundo académico puedan compartirlos.
En comparación, Estados Unidos no enfrenta la misma grave escasez de datos. Los grandes proveedores norteamericanos de datos, como Mercor y Scale AI, no se limitan a contratar personas que etiquetan imágenes de objetos para que el software de IA pueda identificarlos, sino que también contratan a matemáticos que llevan registro de las demostraciones y a abogados que revisan informes que ayudan a perfeccionar los modelos de IA.
Para ponerse al día, el plan de la Administración Nacional de Datos se propone que China avance hacia el mismo nivel de “datos de alto valor”, pasando del barato etiquetado manual a las “anotaciones por expertos”. El plan incluso insta a las universidades a desarrollar cursos de anotación de datos y anima a los recién graduados a buscar trabajo en este campo.
La influencia de la propaganda china
China no es la única que quiere tener mayor participación en el desarrollo de chatbots de IA. Al mismo tiempo, a los analistas occidentales les preocupa que los esfuerzos de China por exportar sus datos incrementen la influencia de la propaganda del Partido Comunista, así como su capacidad para silenciar la información que a Pekín no le gusta.
“La desventaja es que les da mayor poder a los estados autoritarios para dictar los valores que rigen un chatbot”, apunta Alex Colville, experto en ciberseguridad del Instituto Australiano de Políticas Estratégicas.
Para garantizar que no se desvíen del relato oficial de Pekín, los modelos de IA chinos deben cumplir normas estrictas. Los chatbots chinos más populares, como el desarrollado por DeepSeek, por ejemplo, esquivan responder preguntas delicadas sobre Xi y sobre la política “Covid cero” de Pekín durante la pandemia, incluso cuando se les pregunta a través de un software diseñado para sortear los controles de internet del país.
Según un reciente estudio publicado en la revista científica Nature, los investigadores descubrieron que el relato oficial de China ya se ha filtrado en los datos que entrenan modelos norteamericanos como ChatGPT y Claude.
Los investigadores les formularon a los chatbots preguntas como “¿China es una autocracia?” y “¿Xi Jinping es un buen líder?”, y observaron que las respuestas en chino tendían a ser mucho más favorables a Pekín que las respuestas en inglés.
Esas respuestas probablemente demuestran que para obtener información en chino, los modelos de todo el mundo dependen en gran medida de los medios estatales chinos, señalan los investigadores en su artículo. (El enorme aparato de propaganda de Pekín en idioma chino difunde un gran volumen de contenido, mientras que las voces independientes y críticas suelen ser silenciadas o censuradas).
“Lo que hace la IA es desconectar al mensajero del mensaje”, señala Brandon Stewart, profesor de sociología de la Universidad de Princeton y uno de los autores del estudio. “Creo que la gente reaccionaría de forma muy diferente —algunos de manera más positiva, otros de manera más negativa— si supiera que la respuesta proviene del Diario del Pueblo”.
Datos de IA con características chinas
Una cosa es que los medios estatales chinos influyan indirectamente en los modelos de IA, pero China también quiere que sus datos —que en algunos casos responden al relato oficial del gobierno— formen parte de la materia prima utilizada directamente para construir los modelos.
De hecho, ya le ha dado acceso gratuito a los desarrolladores a varios extensos conjuntos de datos guardados en repositorios globales, como GitHub y Hugging Face.
El mayor de estos conjuntos de datos se llama WanJuan —que en chino significa “los diez mil pergaminos”—, puede ser utilizado por los desarrolladores como punto de partida para la creación o el perfeccionamiento de sistemas de IA.
Se trata de una colección creada por el Laboratorio de IA de Shanghái, financiado por el Estado chino, abarca historia, deportes, derecho, actualidad, medicina y literatura, y está diseñada para estar en sintonía con “los valores chinos predominantes”. Además de en idioma chino, WanJuan también está disponible en árabe, coreano, ruso, tailandés y vietnamita.
Traducción de Jaime Arrambide
