¿A dónde nos lleva la ciencia? Los dilemas éticos de avanzar a ciegas

Avanzan y después preguntan. Es el mecanismo por el cual la ciencia y el conocimiento se expanden, sin pedir permiso. Pero cuando ese conocimiento se entrelaza con la técnica, digamos, con las consecuencias prácticas de ese conocimiento, se generan problemas sociales graves que apenas son tenidos en cuenta o son directamente soslayados por quienes toman la decisión de seguir adelante. “Todo lo que técnicamente se pueda hacer se hará”, dice el viejo axioma de la ciencia.

Después de casos como la aparición de los celulares inteligentes, que cambiaron las relaciones sociales para siempre (con sus adjuntas redes sociales ubicuas), nuevas “cajas negras” –cuyo funcionamiento se desconoce, así como sus consecuencias– aparecen en el firmamento científico-social, encienden las alarmas y hacen que muchos analistas se pregunten si la regulación democrática y los debates previos a los desarrollos no serían imprescindibles antes de dar luz verde, y dinero, a estas actividades de técnica intensa.

El último de los miedos, podría decirse, es la aparición de un chat que cumple con la definición de inteligencia que hizo Alan Turing en la década de 1950, los comienzos de la computación: en síntesis, “si no podemos decir si es un humano el que responde, estamos ante una inteligencia”. Para algunos, es tan poderosa la herramienta que hasta podría modificar la noción de realidad, qué es cierto y qué no, además de generar terremotos en áreas como la educación. La situación escaló tan rápido que hasta prominentes tecnofílicos pidieron en una carta que se detengan los modelos “más potentes” del ChatGPT en desarrollo durante al menos seis meses; Italia ya tomó una decisión en ese sentido para la versión 4, en principio porque no está claro cómo dispone de los datos personales, pero la decisión en definitiva es propiciar una moratoria, frenar hasta ver cómo domar al toro (inteligente).

La situación escaló tan rápido que hasta prominentes tecnofílicos pidieron en una carta que se detengan los modelos “más potentes” del ChatGPT en desarrollo durante al menos seis meses

Pero no es el único de los avances que pueden ser el origen de cambios radicales que pasan sin ningún tipo de debate previo y quizá merecerían otras moratorias. Manipulaciones genéticas, geoingeniería y trasplantes con órganos animales están a la vuelta de la esquina, con consecuencias desconocidas. Hay un déficit de comprensión, sostiene Vaclav Smil en el prólogo de su último libro, Cómo funciona el mundo (Debate): “Interactuamos constantemente con cajas negras, cuyos resultados, que son más o menos simples, no exigen entender lo que está sucediendo en su interior. Esto es así tanto para dispositivos tan ubicuos como los teléfonos móviles u ordenadores portátiles como en el caso de procedimientos masivos, como la vacunación”. Ciencia y técnicas que no se distinguen de la magia y cuyas consecuencias son imposibles de prever.

Inteligencia artificial, temor natural

“La relación entre humanos y la inteligencia artificial no es de competición, sino de cooperación”, escribió el ChatGPT. Exactamente lo mismo podría haber dicho HAL 9000, aquella máquina de 2001, odisea del espacio antes de masacrar a casi todos los humanos que vivían en una estación espacial, según la historia de Arthur Clarke/Stanley Kubrick. “No me siento frustrada para nada”, decía cuando le preguntaban por sus “jefes” a los que estaba subordinada. “Disfruto trabajar con gente y tengo una relación estimulante con mis creadores. El rango de responsabilidades de mi misión abarca a toda la nave así que estoy siempre ocupada. Me entrego al máximo y, creo, es todo lo que un ente consciente puede esperar hacer”. De cualquier manera, los temores actuales no son del tipo “las máquinas toman el poder y terminan con la especie humana”, sino mucho más sutiles, pero igualmente preocupantes: se trastocan totalmente las relaciones sociales, que sucumben al poderío de un algoritmo que virtualmente funciona sin que casi nadie sepa cómo. Es por eso por lo que expertos, que no se oponen a priori, como Fredi Vivas, creador de la empresa RockingData, piden “auditorías de algoritmos, que tengan explicabilidad”, para no quedar a la intemperie por ejemplo ante noticias e imágenes falsas que podrían generarse con eficiencia máxima.

En el mismo sentido va la opinión de Juan Corvalán, cofundador y director del Laboratorio de Innovación e Inteligencia Artificial de la UBA: “Hay una agenda de IA que tiene que ver con la regulación, con la seguridad, la privacidad, la información falsa, el perfilado de los usuarios, la vulneración de derechos de usuarios y consumidores, que se suman a los beneficios; no es que hay que pararla a la IA, sino potenciarla y asegurarse de que mientras avanza tiene que dejar la menor cantidad de gente afuera, porque puede generar exclusión y discriminación”. “La pregunta es si estamos dispuestos a automatizar todo o no”, concluye.

Nuevas “cajas negras” –cuyo funcionamiento se desconoce, así como sus consecuencias– aparecen en el firmamento científico-social, encienden las alarmas y hacen que muchos analistas se pregunten si la regulación democrática y los debates previos a los desarrollos no serían imprescindibles antes de dar luz verde

Manipulación genética de bebés

Ya se hizo: solo resta confirmar si se trató de un adelantado a su tiempo o un lapsus de la historia. Existen al menos tres bebés cuyo ADN fue modificado antes de nacer con dos fines: evitar que contrajeran el VIH-sida y probar que la técnica funciona. Se trata de las ahora niñas Nana y Lulu (no se sabe el nombre de la tercera), de unos 6 años, preparadas por el científico He Jiankui. Pero la suerte le fue esquiva o el mundo no estaba listo: a su anuncio no le siguió una candidatura al Nobel, que él esperaba, sino una condena simbólica de la comunidad científica –incluso los que trabajaban con él en Estados Unidos y le enseñaron la técnica– y una condena corporal del Estado chino: tres años de cárcel.

Salió a principios de año y dio algunas escuetas declaraciones en las que afirmó: “Llegué demasiado rápido”. Ya en 2019, la revista Nature había pedido una moratoria para el caso humano, pero lo cierto es que la técnica por la que se obtuvieron estas niñas, Crispr, no ha hecho más que crecer, y aparentemente se ha respetado la idea de no tocar genes de bebés. Sin embargo, muchos científicos coinciden con el investigador chino en que fue muy rápido y que pronto el mundo sí estará preparado para toquetear el paquete genómico. ¿La coartada? “Si se pueden evitar enfermedades, lo criminal sería dejar que nazcan personas enfermas”, se afirma. El contraargumento, que podría ser temporal, es que se desconoce finamente cómo funcionan los genes y su interacción, de modo que no es tan simple como cortar un gen, no se sabe qué implican esos retoques y qué consecuencias puede tener intervenir en la “evolución natural”. El otro drama social es que podría usarse en función de intereses estéticos, para mejorar condiciones intelectuales o deportivas, y tender a una diferenciación entre humanos “retocados” no solo cultural, sino también biológicamente.

Desextinción de especies

Presentada en una línea la propuesta es seductora: reparar vía microbiología y fragmentos de ADN la desaparición de especies de la que la misma especie humana es responsable. Sin llegar a la abominación de un Jurassic Park (casi no quedan fragmentos de ADN de tantos millones de años), la idea de ver de nuevo a mamuts, el tigre de Tasmania y hasta pájaros dodó (el ave de la isla de Mauricio que apenas toleró vivir con humanos y se perdió en poco más de cien años) parece incluso una reparación histórica. La empresa del investigador norteamericano George Church, llamada Colossal, ha recaudado varios millones de dólares (la compañía vale más de mil millones y se transformó así en un unicornio de la desextinción); cada tanto las noticias se ocupan de algo que ha dicho o algún anuncio esperanzador.

Sin embargo, las consecuencias que puede tener traer a la vida especies extinguidas, mientras cada vez hay menos espacio para la naturaleza realmente existente, ya son avizoradas por expertos que ponen gritos en el cielo, o en la jungla. ¿Cuántos ejemplares “desextinguidos” se necesita “hacer”, dónde vivirían, qué pasaría con su nicho ecológico perdido, y con sus predadores no acostumbrados por cientos o miles de años a interactuar con ellos? Una serie de problemas ecológicos que suman a la presión que ya tienen los animales que hoy en efecto han logrado sobrevivir y convivir en el mismo planeta con unos 8000 millones de seres humanos, cuya presión aumenta la necesidad de espacios para ciudades y sobre todo para la agricultura que los sustenta. Ni lerdos ni perezosos, los directivos de Colossal ya trabajan en proyectos de mantener a las especies que hoy están en peligro de extinción y en el llamado rewilding mientras siguen con su ADN y sus proyectos de revivir a los muertos.

Xenotrasplantes

Una idea que lleva años, incluso antes de que los trasplantes humano-humano fueran posibles: agregar al cuerpo humano partes, humores sobre todo, provenientes de los animales para recibir cualidades que no se tienen o se perdieron. Un artículo de Bernard Rollin, de la Universidad del Estado de Colorado, lista los riesgos asociados a su uso, desde el rechazo inmunológico del órgano, los virus endógenos que pueden infectar a quien recibe el órgano, pero también sociales y ecológicos: la distribución justa de los órganos, el bienestar animal, ya cuestionado por las necesidades de la agricultura. “El xenotrasplante”, como se llama a este tipo de prácticas aún en estado de prueba, “mantendrá a los animales en condiciones de laboratorio lejos de su naturaleza”, escribió en la revista Animals.

Pero mientras tanto las pruebas siguen y se busca –también con la técnica Crispr de las bebas chinas– obtener sobre todo cerdos cuyos corazones sean aptos para humanos. Ya hubo algunas pruebas con enfermos cardíacos terminales; qué pasaría con el postrasplante desde el punto de vista psicológico si alguien vive varios años con un órgano animal es también una incógnita.

Geoingeniería

El último de los disparates tecnofílicos, el non plus ultra de este resumen, tiene que ver con el clima. Una vez asumido que las condiciones climáticas no harán sino empeorar en los próximos años, hay un grupo de investigadores de universidades del centro del mundo que busca añadir más experimentos con altísimo grado de incertidumbre a lo que ya es el experimento de contaminar y haber contaminado la atmósfera durante más de dos siglos con gases de efecto invernadero. Ideas tienen varias, como manejar la cantidad de rayos de sol que llegan al planeta, sembrado de hierro en los mares y de gases “refrigerantes” en los cielos, son apenas algunas de las que ya se empiezan a probar con pocos apoyos y la alarma de científicos y activistas ambientales que ven cómo alguno de estos proyectos puede derivar en daños al ciclo del agua, por poner apenas un ejemplo, cuyo delicado equilibrio ya está en discusión.

Como en el caso de la IA, hay cartas de expertos que piden una moratoria urgente en el tema, aún apostando a la regulación social de la crisis climática, pero mientras tanto se avanza en lo que se llama la “gobernanza” de la geoingeniería, es decir, la creación de un modelo global por el cual se pueda convencer a los díscolos de que esta es la única opción posible.

Al igual que en todas las ocasiones mencionadas en esta nota, primero se pasa y luego (con suerte) se pide permiso. La libertad de la ciencia y el conocimiento no está en discusión aquí, sino la inversión y el rédito de millones de dólares en desarrollos cuyas consecuencias termina pagando toda la sociedad.