¿Sonámbulos frente a la IA? El libro de un insider sobre el gran “meta-problema” del siglo XXl

Hay un problema con los libros que tratan sobre tecnologías exponenciales: al igual que sucede con las decisiones de negocios en este terreno, suelen llegar “o demasiado temprano o demasiado tarde”. Entre que un volumen de 200 o 300 páginas se escribe, se edita y atraviesa todos los procesos editoriales no pasan menos de seis meses. Para el tema de la inteligencia artificial generativa es demasiado: hoy hasta los artículos periodísticos pierden actualidad en un par de semanas.

Tal vez porque fue escrito por un verdadero insider de este negocio, y porque pone mucho la lupa en temas éticos y comparaciones históricas, el libro La ola que viene (The Coming Wave, aún no publicado en castellano y coescrito con Michael Bhaskar), de Mustafa Suleyman, sortea con éxito (al menos hasta ahora) este riesgo de desactualización. Y se convirtió en un best seller inmediato ni bien salió a la venta, en septiembre de 2023. Con la inteligencia artificial generativa (IAG: ChatGPT y otras aplicaciones) como estrella tecnológica del momento, La Ola… se convirtió en una referencia bibliográfica obligada para entender este fenómeno y sus consecuencias.

Suleyman fue años atrás uno de los fundadores de DeepMind, la empresa icónica del campo de la IA, que fue vendida a Google y que se anotó varios batacazos, como derrotar al mejor jugador de Go del mundo (Lee Sedol) o predecir la estructura de todo el universo de proteínas (AlphaFold). Después trabajó en Google Health y el año pasado creó la compañía Inflection.IA junto a Reyd Hoffman y Karen Simonyan, que ya levantó más de US$1300 millones en capital de riesgo.

Para Suleyman, hay dos motores tecnológicos que cambiarán las reglas de juego y nuestra vida como no ocurrió antes con ninguna otra tecnología moderna: la IA y el despliegue de la biología sintética. Hay otras tecnologías potencialmente muy disruptivas, como la computación cuántica o la fusión nuclear, pero están algo más lejos en la línea temporal. Suleyman dice que jamás hubo tantos avances tan poderosos interactuando al mismo tiempo, y, por eso, cuando hace comparaciones históricas se va hasta la creación del lenguaje, la irrupción de la agricultura o la imprenta (como si cualquier otro progreso no estuviera a la par del que estamos experimentando ahora).

“Para Suleyman, hay dos motores tecnológicos que cambiarán las reglas de juego y nuestra vida como no ocurrió con ninguna otra tecnología moderna: la IA y el despliegue de la biología sintética”

Uno de los elogios generalizados que recibió el libro es el de haber podido navegar estas dos aguas temáticas (IA y biotecnología) con éxito, dialogando entre sí, cuando en general son campos que, por su nivel de dificultad técnica, suelen ser abordados por los especialistas por separado. El divulgador y médico Eric Topol, especialista en la frontera entre innovación y salud, resaltó este aspecto en una reseña.

Del otro lado, la crítica más extendida es que las ventajas de ser un insider en términos de conocimiento del tema específico también provocan un “sesgo”, al pensar que el saber de uno es el más importante de la historia. Economistas del comportamiento bautizaron este error sistemático como “sesgo de bisagra”: todas las disciplinas tiendes a convencerse de que hay un antes y un después de los avances en su propio campo.

¿Podremos vivir pronto en un mundo rodeado de sistemas de IA que organicen nuestra vida, operen nuestro negocio y dirijan la organización estatal? ¿En un contexto de impresoras de ADN y computadoras cuánticas, virus de diseño y armas auto-organizadas, robots asistentes y energía infinita?

“¿Podremos vivir pronto en un mundo rodeado de sistemas de IA que organicen nuestra vida, operen nuestro negocio y dirijan la organización estatal?”

Suleyman cree que es una posibilidad y que, si bien las hipótesis más distópicas son hoy un “riesgo de cola” (están en la punta de distribución de probabilidades), sus consecuencias pueden ser potencialmente tan catastróficas que hay que prepararse, y que los gobiernos no deben caminar “como un sonámbulo” frente a esta ola que se despliega.

Como en la Guerra Fría

El 22 de febrero de 1946, George Kennan, un diplomático estadounidense basado en Moscú, dictó un cable de 5000 palabras a Washington. Allí afirmó que el comunismo era inherentemente expansionista y recomendaba el gobierno de los Estados Unidos resistir los intentos soviéticos de expandirse. La estrategia pronto recibió el nombre de “contención” y definió la política diplomática estadounidense de los siguientes 40 años.

Suleyman sostiene que hay una ventana delgada para “contener” la expansión estas tecnologías dominantes, en un contexto donde hay incentivos financieros a la toma de altos riesgos. Los LLM que están detrás de ChatGPT son solo el principio: pronto la IA descubrirá remedios milagrosos, diagnosticará enfermedades raras, manejará negocios completos, optimizará el tránsito en las ciudades y diseñará ciudades sustentables. Pero las mismas tecnologías que permitirán curar enfermedades hoy mortales servirán para crear otras nuevas, de manera cada vez más baratas, en un laboratorio de edición genética, y la tentación de algunos grupos para hacerlo será muy grande.

“Las mismas tecnologías que permitirán curar enfermedades hoy mortales servirán para crear otras nuevas, de manera cada vez más baratas, en un laboratorio de edición genética, y la tentación de algunos grupos para hacerlo será muy grande”

¿Qué medidas deberían incluirse en esta estrategia de “contención? Varias de las que sugiere Suleyman comenzaron a ser parte de la agenda de regulación de la IA activa luego de que escribiera el libro, como las incluidas en el acta que promulgó la Unión Europea sobre este tema en la tercera semana de diciembre pasado. De hecho, Suleyman fue uno de los siete líderes de la IA convocados por el presidente Biden en noviembre para diseñar una política nacional frente a estos desafíos.

Entre las medidas concretas que se podrían aplicar, el autor sugiere que se obligue a las grandes tecnológicas a invertir un 20% de su presupuesto de investigación y desarrollo en temas de seguridad y prevención. Propone también que los avisos y mensajes generados con IA se prohíban para las campañas políticas, y recomienda un tratado internacional, con coordinación entre la mayor cantidad de países posible, para reforzar esta “contención”. Está claro que el fundador de DeepMind está en contra de las ideas más libertarias en Estados Unidos sobre esta agenda, como las de Peter Thiel.

La Ola… trata de mantener un equilibrio entre el optimismo por las soluciones que llegarán y el pesimismo por los escenarios más distópicos. Un par de textuales para mostrar este balance constante: “Una opción entre un futuro de posibilidades sin paralelos en la historia humana y un futuro de peligro inimaginable” y “creo que este es el gran “meta-problema” del siglo XXl”.

Todo ocurre demasiado rápido. En una entrevista posterior a la publicación de La Ola…, Suleyman dijo que quedarse quieto no es una opción: Inflection.IA, una compañía de moda en este terreno, hoy solo está seis meses por delante de otros competidores. Menos tiempo del que se tarda en pensar, escribir y publicar un libro.