El riesgo de los algoritmos: ignorar a los que hacen las cosas bien, aunque no ganen
Si los modelos de IA aprenden solo de los ganadores, y entre los ganadores hay quienes ganaron haciendo atajos, entonces los algoritmos van a terminar decidiendo sin alma
7 minutos de lectura'
Hace unos días, dos atletas bajaron las dos horas en una maratón. El mismo día, en Londres. Once segundos los separaron. Posiblemente uno va a ser recordado para siempre. El otro, Yomif Kejelcha, etíope, 28 años, completó los 42 kilómetros en 1:59:41. Era su primer maratón en la vida, hizo un récord histórico.
Ese día corrió más rápido que cualquier ser humano lo había hecho antes en un maratón oficial. Y sin embargo, para el mundo, los titulares fueron otros.
¿Por qué? Porque llegó segundo.
Hay un nombre técnico para el error que cometemos cuando leemos eso como algo natural. Se llama resulting: juzgar la calidad de algo por su resultado en lugar de por lo que realmente ocurrió. Lo hacemos con atletas cuando sólo importa ganar. Lo hacemos con empresas cuando vale solo la plata. Es el efecto Kejelcha.
En las noticias y en los libros de management, el CEO cuya empresa creció: es visionario, audaz, adelantado a su tiempo. El CEO cuya empresa no tuvo éxito económico es imprudente, desconectado, soberbio. Aunque hayan tomado las mismas decisiones con la misma información. Lo que queda en segundo plano es cómo se hizo. Lo que se resalta es cómo terminó la historia.
Cuando hay complejidad, construimos el relato hacia atrás desde el resultado. Y el resultado ilumina todo lo anterior con su propia luz y el problema no es solo que sea injusto. Es que nos impide aprender mejor. Pero el resulting no es solo un error individual. Las organizaciones hacen exactamente lo mismo, y con consecuencias más amplias.
Phil Rosenzweig lo llamó efecto halo: cuando una empresa tiene éxito, todo lo que hizo es reinterpretado como brillante. Sus prácticas se estudian, se copian, se exportan. Las consultoras las documentan. Las escuelas de negocios las enseñamos. Y nadie pregunta si el éxito vino de esas prácticas o si fue la oportunidad, la escasez, la ventana de mercado, error de la competencia, corrupción. El resultado convierte cualquier decisión en evidencia de acierto. Así, el sesgo deja de ser un error personal y se vuelve doctrina.
Los datos dicen algo distinto, el éxito siempre es temporario y depende del entorno que tiene tantas variables que es imposible distinguir una causa. En los deportes hay reglas que determinan quien gana, en management es mucho más difícil.
La mayoría de las empresas desaparece en el tiempo o muta, con lo que habría pocas empresa exitosas. Revisen cualquier lista de S&P o Fortune 550 en el tiempo. Esto hace que es muy difícil medir éxito por resultados en la empresas en un marco de tiempo dado. Nos faltan más variables para mirar para poder aprender, ver mejor el proceso y no depender solo del resultado económico.
La mejor empresa en la que trabajé fue adquirida. Fui director por más de 10 años en una empresa industrial familiar argentina. Una empresa que incorporó voces externas a su directorio porque sus dueños no querían encerrarse en sus propias ideas. Las decisiones se tomaban pensando en los clientes, en los empleados, en los proveedores, y mucho —mucho— en el pueblo donde estaban. El fundador y su familia construyeron algo que los índices no saben medir: una organización que hacía las cosas bien aunque eso le costara margen.
Para el mercado, fue una adquisición más. Para mí, fue la pérdida de algo que la sociedad muchas veces no recompensa, un buen proceso, un buen viaje.
Conozco otras empresas así. Que pagaron salarios dignos cuando el sector los bajaba. Que no externalizaron costos hacia proveedores más débiles. Que invirtieron en formación cuando la presión trimestral pedía recortes. Que se negaron a ciertos atajos que sus competidores tomaron sin consecuencias visibles. Algunas siguen. Muchas no. También conocí a muchas empresas exitosas, cuyas prácticas no recomendaría. Y el sistema no distingue entre las que no existen por hacer las cosas mal y las que no están por hacer las cosas bien en un entorno muy cambiante y agresivo.
Y para esta columna que trata de tecnología y futuro, esto es importante porque eso es exactamente lo que le estamos enseñando a las máquinas a ignorar.
Estamos construyendo sistemas que aprenden. Y les estamos enseñando esta mirada binaria del éxito en los negocios. Los dos: el individual y el organizacional, juntos, a escala.
Los modelos de inteligencia artificial se entrenan con datos históricos. Aprenden de los casos exitosos, de los que llegaron, de los que el mundo registró como ganadores. Ignoran sistemáticamente a los que no llegaron, aunque hayan hecho las cosas bien. Replican el resulting, el sesgo del superviviente, el efecto halo, pero en escala industrial, a una velocidad que ningún humano puede supervisar, con una consistencia que ningún humano podría sostener.
La IA no solo hereda nuestros sesgos. Los amplifica. Los acelera. Los vuelve sistémicos. Un humano puede cambiar de criterio. Puede leer algo, escuchar algo, vivir algo, y ver las cosas diferente. Tiene fricción interna. Tiene dudas. Puede ser convencido.
Un modelo entrenado en resultados históricos en problemas complejos no tiene ese margen. Lo que aprendió queda grabado. Y cuando decide a quién financiar, a quién contratar, qué iniciativas recomendar, qué historias amplificar, va a responder con ese sesgo, multiplicado, sin fatiga, sin dudas, a escala global.
Y hay algo más grave todavía. Entre los ganadores, seguro que hay una proporción que ganó haciendo atajos. Recortando costos que alguien más pagó. Externalizando consecuencias que la sociedad absorbió. El modelo no distingue entre el ganador que navegó bien y el que llegó a cualquier costo. Ve resultados. Aprende de resultados. Y va a reproducir todo eso junto: el talento genuino y el atajo, mezclados, sin etiqueta, con la apariencia de objetividad que solo los números pueden dar.
Eso no es un riesgo futuro. Es lo que ya está pasando. La pregunta que me parece cada vez más urgente no es técnica.
¿Qué estamos decidiendo que es el éxito?
Porque una vez que el sesgo está en los criterios de optimización, no lo corrige una reflexión un martes a la noche. No lo corrige la buena voluntad. Lo corrige, si es que lo corrige, un esfuerzo deliberado, costoso y tardío de gente que en su momento no prestó atención.
Si los algoritmos aprenden solo de los ganadores, y entre los ganadores hay quienes ganaron haciendo atajos, entonces los algoritmos van a terminar decidiendo sin alma. No por mala intención. Por arquitectura. Por lo que les enseñamos cuando nadie estaba prestando atención: en una definición mucho más amplia de éxito. Resultados no siempre es talento.
Hay mucho más que tenemos que destacar: las empresas que hacen las cosas bien, las personas formadas que se dispersan y llevan esos estándares a otros lados, la confianza construida en comunidades que la necesitaban, una demostración silenciosa de que se puede operar de otra manera. Ese valor existe aunque no aparezca en ningún balance. Y si no encontramos la manera de que los algoritmos lo vean, vamos a construir un mundo donde eso no valga nada.
Kejelcha corrió su primer maratón en la historia en menos de dos horas, la empresa en la que trabajé no existe más. ¿Quién va a recordarlos?
Más leídas de Economía
1El Gobierno confirmó el bono previsional de junio y fijó un aumento para jubilados y pensionados
2BMW apuesta por robots humanoides para ensamblar autos en Europa por primera vez
3Un jubilado dice que los bancos le prestaron mal y ahora pide su propia quiebra
4Dólar hoy y dólar blue, en vivo: a cuánto cotiza el oficial y cuál es el precio del paralelo este viernes 29 de mayo, minuto a minuto
