1
Cómo evitar caer en la profecía autocumplida de una IA destructiva
La nueva tecnología no nos suplantará, siempre y cuando tengamos en claro que somos nosotros los que tenemos el control de su diseño
3 minutos de lectura'
PARA LA NACIONMartina Rua
“Si le tengo que pedir ayuda a la inteligencia artificial me siento un fracasado”, “Me sentiría una tonta si no usara IA con todo lo que me ayuda”, “Es una amenaza para mi puesto de trabajo”, “Es una herramienta más que aprender”. Todas estas afirmaciones, diversas y contrapuestas, las escuché de un mismo equipo de trabajo que reflexionaba sobre las implicancias del avance de a IA en su industria. En este momento de proliferación de estas herramientas y de exploración de su alcance ¿Qué tenemos que tener en cuenta a la hora de acercarnos a esta tecnología? Me interesó la mirada de Helga Nowotny, doctora en sociología y experta en IA, profesora emérita en Estudios Sociales de la Ciencia en la Universidad de Zurich. Nowotny, que se confiesa tecno optimista, cree que hemos desconfiado de cada avance tecnológico desde la edad de piedra aunque “nos han ido muy bien con ellos”. Y asegura que la IA no nos suplantará, siempre y cuando tengamos en claro que somos nosotros los que tenemos el control de su diseño.
Sobre la gran capacidad de la IA de hacer predicciones a través del análisis de datos, la autora distingue entre la predicción científica y la social. “Las predicciones son muy útiles en ciencia. Las hacés, las comprobás y generás conocimiento. Pero las sociales no podemos comprobarlas. El problema es que tendemos a creerlas, sobre todo cuando las hace una máquina. Hay estudios que aseguran que creemos más a la IA que a un humano, porque la asociamos a la objetividad. Además, nos “encanta” dar nuestros datos para obtener servicios personalizados. Esto hace que las predicciones sean muy fáciles de hacer. Pero es peligroso cuando empezamos a creer que la predicción se tiene que hacer realidad, que lo que te ofrecen te tiene que gustar sí o sí, y no somos críticos con esas propuestas.
La experta advierte que nos cuesta ver que las predicciones están basadas en datos del pasado, mientras que la vida cambia y podemos torcer el rumbo de las cosas si así lo deseamos. Lo peor de una predicción, dice, es caer en la profecía autocumplida. Un ejemplo clásico se dio en los años ‘30 en Estados Unidos. Cuando empezó la crisis, se asustó a la gente diciendo que los bancos se quedarían sin dinero. Entonces las personas fueron al banco a sacar todos sus ahorros y, efectivamente, los bancos se quedaron sin dinero. ¿Cómo tendríamos que actuar hoy para evitar el avance de una IA cada vez más sesgada, excluyente y que implique pérdida de puestos de trabajo?
Estamos en la era de la “datificación” del ser humano. Cada vez habrá más y más datos sobre uno y ya casi no podemos vivir sin dejar un rastro de datos por el camino. Para Nowotny no tiene sentido volverse tecnófobo ahora, pero debemos aprender a usar la IA para nuestro beneficio, reclamar ética en su desarrollo y no olvidar la responsabilidad de que somos nosotros quienes la diseñamos y operamos.
