1
IA y derechos humanos: América Latina necesita actuar ahora
Recientemente, Yuval Noah Harari señaló el potencial totalitario de la inteligencia artificial (IA). En América Latina, es preciso tomar algunas medidas para evitar que los riesgos que menciona Harari impacten negativamente en nuestras democracias.
La ventana de gobernanza global de la IA se está cerrando y los países del Sur Global están quedando al margen de esta discusión. Si bien la IA ofrece oportunidades de crecimiento económico como destacan algunos gobiernos, su implementación sin las debidas salvaguardas podría reforzar desigualdades existentes, afectando desproporcionadamente a grupos vulnerables. Por ejemplo, una investigación que está siendo desarrollada sobre las elecciones municipales en Brasil evidencia cómo la desinformación electoral es amplificada por la generación automática de contenido y perjudica más a candidatas mujeres, mediante la difusión de videos falsos de contenido sexual.
Otro riesgo radica en la posibilidad de que las tecnologías sean utilizadas con fines de vigilancia, amparadas en el argumento de fortalecer la seguridad nacional. En contextos con antecedentes de gobiernos autoritarios y democracias institucionalmente frágiles, la IA podría convertirse en una herramienta de persecución política dirigida a grupos opositores.
América Latina, como la región más desigual del mundo, tiene la oportunidad de asumir un liderazgo en el debate sobre el desarrollo de la IA, poniendo en primer plano el interés colectivo. La regulación de estas tecnologías ha sido un tema central en el “Pacto para el Futuro” de la ONU, y se espera que tenga un lugar destacado en la próxima cumbre del G20 en Brasil. En la región ya existen decenas de iniciativas legislativas, y la Argentina tiene 18 proyectos de ley sobre IA. Sin embargo, no se trata de una carrera por quién regula primero.
La experiencia europea, aunque útil como referencia, no puede ser simplemente replicada sin ajustarse a las particularidades locales. Expertos señalan que esta regulación está enfocada en la mitigación de riesgos, mientras que en el contexto latinoamericano sería más pertinente centrar los esfuerzos en la promoción y protección de derechos. En este sentido, la inclusión y las implicancias sociales de la IA deben ser el eje central del debate, asegurando que una amplia diversidad de actores sociales -y no solo gobiernos y grandes corporaciones tecnológicas- participen en la toma de decisiones.
Otro desafío que presenta la IA es la innovación responsable. La IA generativa puede amplificar prejuicios y sesgos emergentes, aquellos que surgen cuando se aplican modelos de IA entrenados en un contexto a otro. Este es un riesgo del que se habla poco fuera de círculos académicos y sociedad civil. La mayoría de estas herramientas son desarrolladas por grandes empresas del Norte Global, reflejando sus contextos y culturas. En la Argentina, no existen mecanismos para exigir transparencia, acceso para investigación o explicabilidad sobre los modelos.
Si se utiliza de manera responsable, la IA tiene el potencial de convertirse en una aliada de la democracia y los derechos humanos. Puede, por ejemplo, fortalecer el trabajo de los medios de comunicación y de la sociedad civil, facilitando la rendición de cuentas de quienes ejercen el poder, así como apoyar investigaciones periodísticas y esfuerzos de movilización política y social. Para maximizar estos beneficios y mitigar los riesgos, resulta fundamental promover un debate democrático inclusivo y participativo en torno a su aplicación, desarrollo y regulación.
Esta semana, en Buenos Aires, se celebró el Foro DemocracIA, organizado por Luminate, Civic Compass y el International Fund for Public Interest Media. En él, más de 200 representantes de gobierno, empresas tecnológicas, academia, comunidad técnica y sociedad civil discutieron estos temas. El diálogo multiactor es esencial para la acción.
Estamos a tiempo de configurar una inteligencia artificial que promueva el bien común. Pero el reloj corre: el momento de combinar optimismo y realismo tecnológico es ahora.
Directora de Luminate para América Latina
