1
Los algoritmos no son infalibles, pero ¿por qué fallan?
Tendemos a considerar que las computadoras son infalibles; los expertos reconocen que todavía falta mucho camino por recorrer
1 minuto de lectura'
Personas negras etiquetadas como gorilas; robots bursátiles que provocan que determinadas acciones vuelen por las nubes o se desplomen en minutos; promoción de noticias falsas y sistemas que predicen victorias presidenciales que luego no coinciden con la realidad son solo algunos ejemplos que demuestran que los algoritmos de inteligencia artificial no son inmunes a cometer errores, aunque un sector de la sociedad amante de la tecnología los proponga como una panacea: dejá que la computadora se ocupe que sabe más que vos.
Dado el avance de este tipo de software en distintos ámbitos de la vida de las personas y el devenir de los negocios, es que todos nos apoyamos cada vez más en el ellos para realizar muchas acciones, creyendo que éstos son infalibles.
El problema es de los humanos
Stephen Hammer, que trabaja como Sports Chief Technology Officer (CTO) en IBM, considera que las fallan aparecen cuando los sistemas de inteligencia artificial no son debidamente entrenados: “La clave radica en la cantidad y calidad de data con la cual estos algoritmos aprenden. Por eso, si no les entrega la información precisa, representativa y en el volumen adecuado, no podrán arrojar los resultados esperados”, le explica a LA NACION. En resumen, no es que el algoritmo se desempeñe mal, sino que el error es de cómo los humanos plantean el patrón de búsqueda.
“Los algoritmos de inteligencia artificial (IA) que se equivocan son aquellos que han sido creados para nuevas aplicaciones de uso, porque todavía estamos en una etapa de desarrollo incipiente. Sin embargo, esto no sucede en aquellos que llevan más tiempo en el mercado, y en especial están destinados para misiones críticas, como la banca y los data centers, porque trabajan en ambientes sumamente controlados, hay más experiencia en este campo y, en líneas generales, no interactúan con humanos sino que son máquinas “hablando” con otras máquinas”, explica a LA NACION André Andriolli, Ingeniero en Sistemas y Chief Technology Officer (CTO) de VMWare Latin America, una empresa que brinda soluciones de infraestructura de nube y movilidad empresarial.
Para evitar problemas en su funcionamiento, Mariano Baca Storni, que es Chief Executive Officer (CEO) de Inclusion, una compañía global de innovación tecnológica para empresas, explica que éstos deberían ser creados por un grupo de profesionales interdisciplinario que contemple todas las variables posibles, y que luego trabaje de forma constante para garantizar la calidad. “Sin embargo esto es un problema porque no es costo-efectivo. Justamente, los algoritmos sirven para la automatización y conformar semejante equipo es costoso y complejo”, indica
De cara al futuro
A la importancia que tiene el factor humano se suma otra cuestión clave, que es la temporalidad: “No hay ningún software que sea perfecto desde el principio, pero como los algoritmos de IA aprenden solos, en el largo plazo y bajo la supervisión de profesionales que trabajen para optimizar su calidad, se evitará que éstos cometan errores”, concluye Baca Storni. Y agrega que, “a medida que van aprendiendo como consecuencia de contar con un mayor bagaje de datos, pueden llegar a ser cuasi perfectos, aunque siempre estarán supeditados por el error humano ”.
En este sentido, todos los entrevistados indican que es normal que los algoritmos nuevos fallen y que mejoren su performance con el paso tiempo. ¿Podemos, entonces, confiar en ellos? Los ejecutivos creen que no debemos dejar de usarlos simplemente porque cometen errores. De hecho, muchos servicios que usamos a diario se basan en ellos, por caso, gran parte de los vuelos que realizan los aviones ya están a cargo de algoritmos, y lo mismo sucederá en unos años, cuando nos traslademos en coches auto-comandados.
