¿El fin del conocimiento?

Si sos un lector habitual de mi columna, quizás hayas notado que me fascina la ciencia. La obsesión humana por descifrar cómo funciona el mundo me parece una de las características más hermosas y nobles que tenemos. En mi opinión, lo que hace verdaderamente única a nuestra especie es nuestra curiosidad y nuestro método para interrogar a la realidad, construir modelos explicativos y arribar a verdades provisionales.

Sin embargo, como cuento en mi nuevo libro, Guía para sobrevivir al presente, la búsqueda intelectual por entender podría estar cerca de llegar a su fin. La ciencia puede morir en manos de… de… –¿de quién más?– de las inteligencias artificiales. Las armas del crimen son los mentados big data y deep learning.

Los enormes volúmenes de datos y el extraordinario poder de las máquinas están generando un atajo. En vez de plantear modelos, formular hipótesis a tientas, generar experimentos, medir resultados e intentar construir un sentido para entender lo que pasa, cada vez resulta más fácil y tentador alimentar una IA con la información disponible y simplemente dejar que la computadora aprenda. Lo interesante es que pueden empezar sin ningún preconcepto. El modelo mismo emerge como parte de ese aprendizaje, y en muchos casos resultan en un pensamiento alienígena: escapan a nuestro entendimiento y no están anclados en nuestra manera de ver el mundo.

La belleza de nuestros modelos científicos, basada en la simplicidad y la universalidad de las leyes que emanan de ellos, es reemplazada por el enorme poder del análisis de datos en un número cuasi infinito de dimensiones que renuncia a la parsimonia para acomodar sin leyes explícitas toda particularidad. El problema no es que no seamos capaces de entender esos modelos, sino que algunos de ellos son directamente incomprensibles: no pueden ser descriptos en forma de reglas o leyes, y no hay principios generales verbalizables que puedan derivarse de ellos.

Estos sistemas predicen extraordinariamente bien, permiten manipular el mundo con una eficacia hasta ahora imposible, pero no pueden explicar el por qué de sus predicciones y suprimen el requisito y el resultado de entender.

Citando a David Weinberg: "Esta infusión de inteligencia alienígena está poniendo en duda los supuestos básicos que subyacen nuestra tradición occidental. Creíamos que el conocimiento se trataba de encontrar el orden escondido en el caos. Creíamos que se trataba de simplificar el mundo. Parece que estábamos equivocados. Conocer cómo funciona el mundo puede requerir renunciar a entenderlo."

Desde la época de Platón, para calificar una idea como conocimiento no basta con que sea verdadera. Debe ser justificadamente verdadera. Perdida la explicación, nos queda el poder predictivo pero el conocimiento se pierde con ella. Si renunciamos a entender, si abdicamos de la ciencia y su método, si abandonamos la búsqueda del conocimiento y obedecemos los designios de las máquinas, podremos hacer las cosas mejor que nunca, solo que no tendremos la menor idea de por qué tenemos que hacerlas así.

Incapaces de acceder a los modelos conceptuales detrás de las redes, la justificación de nuestros atinados actos no será desafiante o difícil, será imposible. Quizás nos convirtamos en los idiotas más eficaces y poderosos del planeta.

La tecnología y sus efectos inesperados.