Especialistas advierten sobre los efectos de la inteligencia artificial en la democracia y la necesidad de innovar con responsabilidad

Más de 20 especialistas, reunidos en el Foro DemocracIA, advirtieron que la ventana de gobernanza para la inteligencia artificial (AI) se está cerrando y América Latina necesita actuar ahora para garantizar que la tecnología esté al servicio de los derechos humanos y no profundice aún más las desigualdades en la región.

El encuentro, organizado por Luminate, Civic Compass y el International Fund for Public Interest Media (IFPIM), convocó a más de 200 personas en el Museo de Arte Moderno de Buenos Aires.

“Como la región más desigual del mundo, América Latina tiene la oportunidad de liderar la revolución tecnológica centrada en los derechos humanos y la justicia social, pero debe actuar pronto. Es crucial adaptar marcos regulatorios a su contexto local, evitando copiar reglas externas sin considerar las realidades regionales”, afirmó Stephen King, CEO de Luminate.

El primer panel discutió perspectivas de regulación de la IA para tender puentes entre el Norte y el Sur Global. Maroussia Lévesque, candidata a doctora y profesora en la Facultad de Derecho de Harvard, destacó que, a la hora de adoptar parámetros regulatorios, predomina la visión de la industria y no la del interés público: “Las grandes compañías están priorizando la velocidad y no la seguridad, porque los ganadores de esta carrera por la innovación se llevan la mayor porción de mercado”.

Moderado por Gabriela Hadid, directora de Luminate para América Latina, este primer panel también destacó la importancia de la participación de países y voces diversas del Sur Global en las discusiones internacionales sobre regulación: “Las iniciativas que vemos son muy valiosas, pero dejan afuera a la mayor parte del mundo. No hay una participación realmente global. Así, corremos el riesgo de poner intereses de países y actores particulares que tienen el liderazgo político económico de la tecnología por encima de la humanidad”, advirtió Vanina Martínez, científica titular en el Instituto de Investigación en Inteligencia Artificial de Barcelona. La experta destacó que este año se logró un primer acuerdo que compromete a los países a iniciar un diálogo global sobre la gobernanza en el marco de las Naciones Unidas.

Por su parte, Horrara Moreira, oficial de gestión de proyectos del Centro de Cambios Exponenciales del Instituto Beja, de Brasil, afirmó que es fundamental que las regulaciones contemplen los efectos de la IA en los grupos más vulnerables de la sociedad: “La concentración de poder de las empresas impacta de forma diferente en distintas poblaciones. Una preocupación con la propuesta de regulación de IA que está más avanzada en el Congreso en Brasil es el impacto en las comunidades pobres y negras”. Además, se refirió al reciente cierre de X: “Las plataformas han creado una narrativa en torno a la libertad de expresión pero lo que está siendo desafiado es la forma democrática en la que los países se organizan para regular la tecnología”.

El segundo panel, moderado por Javier Pallero, de Civic Compass, puso el foco en cómo innovar con responsabilidad. Claudia López, investigadora principal en el Centro Nacional de Inteligencia Artificial en Chile, señaló que es clave reconocer los límites y las fallas de la IA, transparentarlos y comunicarlos a la sociedad. “Es muy importante que los países del Sur Global nos apropiemos de la IA y que dejemos de ser solo usuarios y proveedores de datos. Esto requiere infraestructura, habilidad y dominio de nuestros datos. Debemos repensar cómo distribuimos los beneficios y los costos de la IA”, señaló.

Por su parte, Luciana Benotti, profesora asociada de la Universidad Nacional de Córdoba, observó que, aunque mucho se habla de sesgos sociales -derivados de los prejuicios que tienen las personas- muy poco se habla de los sesgos emergentes de la IA. Benotti explicó que los sesgos emergentes ocurren cuando los modelos de la IA se entrenan en un contexto, pero se utilizan en otros. “Hay sesgos emergentes en los sistemas de moderación de contenidos que derivan en discursos de odio. Para mitigarlos, es clave el diseño participativo y comunitario, hacer análisis de error discriminado por distintos grupos sociales, documentar los datos de entrenamiento y educar a quienes menos poder tienen”, afirmó. La profesora asociada del Centro Berkman Klein para Internet y Sociedad de la Universidad de Harvard, Paola Ricaurte, advirtió que América Latina provee recursos naturales, datos y mano de obra barata para el desarrollo de la IA, y que las personas usuarias y los gobiernos de la región pagan costos muy altos por estas tecnologías. “Si no cambiamos radicalmente las condiciones del juego, veremos un crecimiento de la desigualdad en América Latina y a nivel global”, sentenció Ricaurte.

El último panel analizó el impacto de la IA en las elecciones bajo la moderación de Julia Pomares, cofundadora del Capítulo Latinoamericano de la Iniciativa Global para la Gobernanza Digital. Menno Cox, jefe de sector para aspectos globales de Servicios Digitales y Plataformas en Comisión Europea, destacó el funcionamiento de la Ley de Servicios Digitales (DSA, por su sigla en inglés) de la UE durante las elecciones de este año. El DSA es la legislación europea para las plataformas de redes sociales, y por eso es central al lidiar con los temas de diseminación de desinformación y discursos de odio en línea, incluso con IA. Cox destacó que la ley permitió a las instituciones prepararse para las elecciones, y afirmó que no se registraron incidentes graves de desinformación. Asimismo, explicó que es fundamental tener instituciones electorales independientes y sostuvo que, gracias a la nueva regulación, las compañías están obligadas dentro de la Unión Europea a responder pedidos de acceso a la información y rendir cuentas a instancias de la Comisión.

Fernanda Martins, directora de Investigación y Desarrollo de InternetLab, en Brasil, que tiene elecciones municipales en octubre, advirtió sobre la “desinformación generificada” y señaló que la desinformación electoral afecta más a las candidatas mujeres, que son blanco de deep fakes con contenidos sexuales que deben considerarse una forma de violencia.

Finalmente, el panel destacó la importancia del periodismo y los medios de comunicación para garantizar la integridad de la información. Al mismo tiempo, frente al riesgo de la desinformación y la difusión de contenidos ilegales, los especialistas indicaron que la IA puede fortalecer la tarea del periodismo para contrarrestar los efectos negativos de esta tecnología en el debate público.