1
El lado B: inteligencia artificial “tonta” y algoritmos “maquiavélicos”
1 minuto de lectura'
LA NACION
"Tonta" y "maquiavélica". Para Juan Pablo Rodríguez Varela, líder de Applied Intelligence de Accenture para Sudamérica Hispana, la inteligencia artificial y los algoritmos están muy lejos todavía de alcanzar un funcionamiento ideal y, por eso mismo, es posible discutir y ajustar el modelo de lo que es deseable para esos desarrollos. De alguna manera, visualizar y poner en cuestión lo que puede definirse como "el lado B" de las herramientas tecnológicas más sofisticadas.
Así lo expresó en una conversación con el secretario general de Redacción de LA NACION, José Del Rio, en el marco de un nuevo capítulo del encuentro Negocios del futuro. Según Rodríguez Varela, hay efectos de la tecnología que son intencionales y otros que no.
"Los no intencionales tienen que ver con que la inteligencia artificial hoy todavía es tonta, porque está limitada a hacer lo que se programó para hacer, no puede hacer otra cosa", señaló. "Que sea limitada tiene una parte buena, que es que no vamos a llegar a lo que dicen las películas, pero por ser tonta puede discriminar e incluso generar efectos adversos", añadió.
El experto mencionó un caso reciente en el que se pudo advertir esta discriminación generada por los algoritmos, que son los "instructivos" que ordenan la inteligencia artificial. Es el caso de un algoritmo que se utilizó en colegios para predecir el puntaje que hubieran obtenido los alumnos si no se hubiera alterado el ciclo escolar por la pandemia y hubieran tenido exámenes, que determinaba las chances de ingresar a determinadas universidades de elite.
"El algoritmo miraba tus resultados históricos como alumno y cuántas plazas ubicaba históricamente esa escuela en las universidades, entonces castigaba al alumno, que podría haber hecho todo el mérito necesario, porque la escuela no llevaba tantos alumnos a la universidad", explicó. "Los algoritmos son maquiavélicos; tienen un objetivo, un resultado al que tienen que llegar, y si no lo programás bien, lo hacen a toda costa, dejando otras cosas en el medio", añadió Rodríguez Varela.
Según aclaró, "los algoritmos no entienden de ética" y para eso es necesario moldearlos con cuidado. Mencionó como ejemplo a una empresa que creó una cuenta de Twitter automatizada para que genere contenido y tuvo que darla de baja a las 24 horas porque comenzó a hacer comentarios xenófobos y discriminatorios.
Respecto de la posibilidad que la inteligencia artificial reemplace masivamente los empleos, el especialista mencionó que hay diferentes visiones. Por un lado, están quienes aseguran que también se crearán nuevos trabajos y se vivirá una nueva "revolución industrial". Por otro, los que sí creen que habrá un reemplazo del trabajo pero no como algo negativo. "El trabajo y las jornadas disminuirían y estaríamos todos soportados por un ingreso universal", apuntó.
Otro debate crucial es "la caja negra" de los algoritmos, que alude al secretismo en torno de su funcionamiento. "Hay aplicaciones donde no saber cómo se llega al resultado no te molesta, pero hay discusiones en las que es más difícil. Por ejemplo, con los diagnósticos médicos. Hay algoritmos que ven estudios y detectan cáncer, con muy buenos resultados, pero si yo soy médico y me dicen que le tengo que transmitir una decisión al paciente y no sé por qué, es complicado", sostuvo.
"No hay que asustarse ni cerrar la persiana, porque es lo que viene y no se puede tapar, pero sí es un llamado de atención a nivel global sobre que hoy tenemos tiempo para pensar cómo vamos a usar y manejar esa tecnología que se viene -concluyó Rodríguez Varela-. Hoy estamos apenas raspando la punta del iceberg".
