Ruido, mitos y algoritmos en la era de las decisiones ultracomplejas

La muestra se cerró en marzo de este año y tuvo un resultado que sorprendió a muchos: consultados acerca de si preferirían que sus diputados sean reemplazados por algoritmos, la mitad de los ciudadanos europeos entrevistados contestó que sí, que estaban “ok” con que esa actividad sea realizada por inteligencia artificial. Y el porcentaje crece al 60% en la franja de personas contactadas de entre 25 y 34 años.

El dato, que figura en un informe reciente de IE, un centro de estudios europeo “para la gobernanza del cambio” que codirige la ex canciller Susana Malcorra, muestra una arista de un debate que está al rojo vivo: el de si los seres humanos somos, con todas nuestras emociones, mejores o peores que la inteligencia artificial para tomar decisiones en entornos complejos.

“Claramente la IA va a ganar. Cómo las personas nos ajustaremos a eso es un problema fascinante”, sostuvo semanas atrás el psicólogo y Nobel de Economía Daniel Kahneman, en uno de los varios reportajes que dio por el lanzamiento de su nuevo libro Ruido, que coescribió junto a Cass Sunstein y Oliver Sibony. Para Kahneman, la actual aceleración del proceso de cambio es difícil de procesar para cerebros acostumbrados a dinámicas lineales, y no a la exponencialidad. “Habrá consecuencias masivas, y esto ya está sucediendo”, afirma el padre de la economia del comportamiento.

Kahneman cree que la adopción de IA para toma de decisiones es más lenta que su propio avance tecnológico porque la sociedad es menos tolerante con los errores de un algoritmo que con los de los humanos. Por ejemplo, no va a ser suficiente que los accidentes de tránsito se reduzcan a la mitad con vehículos automanejados, sino que será necesario que tengan una tasa de siniestros de casi cero para que la población finalmente los valide.

En Ruido, Kahneman se mete con un tema que comenzó a estudiar hace menos de una década: los errores que no aparecen sesgados hacia un lado determinado, sino que se presentan como grandes divergencias que pueden partir de aspectos triviales en las condiciones de base (si la persona que toma la decisión está de buen o mal humor, si durmió o comió lo suficiente, el clima, la subjetividad del modelo mental, etc). La chispa que encendió la curiosidad del académico fue advertir que pólizas de seguro para riesgo de fraude bancario diferían en un 50% dependiendo del especialista que las cotizara, cuando la percepción de la varianza dentro de este grupo no superaba el 10%.

En los últimos 50 años, la economía del comportamiento, que se nutre de enseñanzas de la psicología, se dedicó a analizar más de 200 sesgos que nos apartan de la racionalidad y nos llevan a cometer errores, la mayoría de las veces de manera inconsciente. Por “ruido”, los autores se refieren a errores sistémicos, en un fenómeno estadístico. No se analiza un comportamiento individual, sino la varianza que surge de un conjunto, en campos donde supuestamente hay expertos que saben lo que hacen.

Hay sectores donde el ruido es particularmente alto, como el judicial,

Hay sectores donde el ruido es particularmente alto, como el judicial (ante la misma evidencia la sentencia varia un montón, dependiendo de cada juez), el de la medicina, en las políticas públicas, etc. En todos hay “expertos” de sueldos elevados que se supone que deciden bien, pero eso no ocurre cuando se analizan expost estos procesos. “Creo que hay menos diferencia entre las religiones y otros sistemas de creencias de lo que suponemos. A todos nos gusta creer que estamos en contacto directo con la verdad. Yo digo que en muchos aspectos mi fe en la ciencia no es muy distinta del de otra gente en la religión. La arrogancia de los científicos es algo en lo que pienso mucho”, sostuvo el Nobel en una charla con el diario inglés The Guardian.

Parte de este ruido o varianza en los resultados tiene que ver con las emociones humanas. “Está claro que las emociones impactan en la toma de decisiones. Decidimos diferente si estamos enojados que si estamos contentos”, dice a la nacion el especialista en Teoría de la Decisión Ernesto Weissmann (de hecho, las últimas investigaciones concluyen que decidimos mejor cuando estamos de mal humor).

“Si tu estado de ánimo cambia, tus decisiones también lo harán y esto puede ser un problema para un sistema que debería decidir de manera consistente. No es razonable que un médico prescriba diferente según cómo se sienta en un día particular, o que la suerte de un acusado en un juicio, la nota de un alumno en un examen o la aprobación de un proyecto corporativo dependa de si el decisor tuvo un buen día”, explica el director de Tandem.

Los estudios sobre inteligencia emocional tuvieron su auge desde los 90, cuando muchos en el campo de los Recursos Humanos pensaban que era un atributo más importante que el tradicional coeficiente intelectual. Sin embargo, investigaciones posteriores pusieron en seria duda esta afirmación. En particular, un meta-estudio de Dana Joseph y Dan Newman relevó docenas de papers (que a su vez hicieron foco en 191 tareas laborales distintas) y hallaron que las habilidades cognitivas tradicionales explican hasta 14 veces más los rendimientos en el trabajo que la inteligencia emocional.

Las habilidades cognitivas tradicionales explican hasta 14 veces más los rendimientos en el trabajo que la inteligencia emocional

Ambos campos de atributos, por supuesto, no son excluyentes, y en general hay correlación positiva entre el IQ y la inteligencia emocional. Para la economista especializada en comportamiento Daniela Olstein, “sabemos que las emociones y la razón no están separadas e interactúan permanentemente en nuestro cerebro. Pero tomamos la mayor parte de las decisiones guiados por el sistema límbico, donde residen las emociones, y luego las justificamos mediante la razón”.

El neurólogo Claudio Wainsburg remarcó en un artículo titulado La emoción en la toma de decisiones. ¿perjuicio o beneficio? que la razón y emoción van juntas en los principales procesos cerebrales, y que las decisiones tomadas sin ningún tipo de emoción también presentan una alta tasa de errores. Todo depende del contexto y del tipo de decisión. Como en la frase de Silvio Soldán en el “Yo sé” de Feliz Domingo, “las dos a la final” (la razón y la emoción).

En Ruido, Kahneman acepta que en determinadas profesiones es muy importante la intuición del experto. Por ejemplo, para los bomberos, médicos de emergencias o deportistas de alto rendimiento, que tienen que decidir rápido. Pero en la mayor parte de los casos de determinaciones empresariales o de políticas públicas conviene respirar, contar hasta diez y decidir de manera más racional y reflexiva.

El Nobel de Economía es el primero en reconocer que tal vez se habló demasiado de sesgos en los últimos años. “Los sesgos tienen un carisma explicativo que el ruido no tiene”, sostuvo. Tal vez haya habido una burbuja con este tema que explotó en libros, charlas y medios. El propio Kahneman lo acepta en cada entrevista que da. Como decía Groucho Marx, “estos son mis principios, si no les gustan… tengo otros”.