¿Qué piensa sobre las máquinas que piensan?

La inteligencia artificial, ¿es uno de los avances más prometedores de la ciencia contemporánea, o un riesgo para la humanidad? Entre esos dos polos, con ironía, optimismo o cautela, se movieron los 186 científicos, escritores y pensadores convocados este año por Edge.org -un sitio web asociado a una editorial que promueve el pensamiento y la discusión de vanguardia en ciencias, artes y literatura- para responder a su pregunta anual. Los colaboradores escribieron ensayos breves, disponibles en la web (www.edge.org) y que, como todos los años, tendrán en breve su publicación en papel. Aquí, una selección de sus respuestas.

Mentes que existen junto a las nuestras

Pamela McCorduck (escritora, autora de Machines that think)

Durante más de cincuenta años he observado el flujo y reflujo de la opinión pública respecto de la inteligencia artificial (IA): es imposible y no puede lograrse; es algo horrendo y destruirá a la raza humana; es significativo; no tiene importancia; es un chiste; nunca será sólidamente inteligente, sólo débilmente; producirá otro Holocausto. Estos extremos últimamente han cedido ante el reconocimiento de que la IA es un fenómeno científico, tecnológico y social -humano- que hace época. Hemos desarrollado una nueva mente para que exista junto a la nuestra. Si la manejamos sabiamente puede dar inmensos beneficios, desde lo planetario hasta lo personal. (...)

Ninguna ciencia o tecnología novel de tal magnitud llega sin desventajas, incluso peligros. Reconocerlos, medirlos y responder a ellos es una tarea de grandes proporciones. Al contrario de lo que dicen los titulares, esa tarea ya ha sido asumida formalmente por expertos en este campo, por los que mejor entienden el potencial y los límites de la IA. En un proyecto llamado AI100, en Stanford, expertos científicos junto a filósofos, especialistas en ética, estudiosos del derecho y otros formados para explorar los valores más allá de las reacciones viscerales, emprenderán este esfuerzo (...)

Esto es lo que creo: deseamos salvarnos y preservarnos como especie. En vez de las deidades imaginarias a las que hemos pedido a lo largo de la historia, que no nos han salvado ni protegido -de la naturaleza, los unos de los otros, de nosotros mismos- finalmente estamos listos para apelar a nuestras propias mentes mejoradas y aumentadas. Es señal de madurez social que asumamos la responsabilidad por nosotros mismos. Somos como dioses, dijo Stewart Brand en una frase famosa, y ya que estamos deberíamos hacerlo bien.

Que piensen por nosotros es el Paraíso

Virgina Heffernan (columnista del New York Times Magazine)

Tercerizar a las máquinas las muchas idiosincrasias de los mortales -cometer errores interesantes, rumiar las verdades, aplacar a los dioses cortando y arreglando flores- se inclina hacia lo trágico. ¿Pero dejar que las máquinas piensen por nosotros? Eso suena al paraíso. Pensar es opcional. Pensar es sufrir. Es casi siempre un modo de ser cuidadoso, de prestar atención hipervigilante, de resentir el pasado y temer el futuro en la forma de un lenguaje interno enloquecedoramente redundante. Si las máquinas pueden relevarnos de esta no-responsabilidad onerosa, que en demasiados de nosotros funciona a una sobremarcha sin sentido, estoy a favor.

Dejemos que las máquinas perseveren en dar respuesta a interrogantes tediosos cargados de valores acerca de si la escuela privada o pública es la indicada para mis hijos; si la intervención en Siria es "apropiada"; si lo "peor" para un organismo son los gérmenes o la soledad. Esto nos liberará a los humanos para que con despreocupación nos dediquemos a jugar, descansar, escribir y cortar flores, los estados de flujo enriquecedores que producen acciones que realmente enriquecen, vivifican y sanan al mundo.

En la práctica y la filosofía, son positivas

Steven Pinker (psicólogo experimental y cognitivo, lingüista, profesor en Harvard)

(...) Algunos recientes pasos mínimos hacia máquinas más inteligentes han llevado a revivir una recurrente ansiedad respecto de que nuestro conocimiento nos condenará. Mi visión es que los temores actuales de que las computadoras produzcan desastres son un desperdicio de energía emocional, y que ese escenario se acerca más a las falsas preocupaciones por la supuesta falla catastrófica de las computadoras al llegar el año 2000 (conocido en inglés como la falla Y2K, n. del t.) que al Proyecto Manhattan (que llevó a la creación de la bomba atómica, n. del t.)

Por empezar, tenemos mucho tiempo para planificar esto. La IA de nivel humano aún está a 15-25 años de distancia, como siempre lo ha estado, y muchos de sus avances difundidos recientemente tienen raíces cortas. Es cierto que en el pasado varios "expertos" han rechazado cómicamente la posibilidad de avances tecnológicos que se dieron rápidamente. Pero esto va en los dos sentidos: ha habido "expertos" que anunciaron (o se asustaron de) avances inminentes que nunca se dieron, como autos a energía nuclear, ciudades submarinas, colonias en Marte, bebes diseñados y depósitos de zombis que se mantienen vivos para proveer a la gente órganos de repuesto. (...)

Una vez que dejamos de lado las tramas de desastres de ciencia ficción, la posibilidad de la inteligencia artificial avanzada es algo para entusiasmarse y no sólo por sus beneficios prácticos, como los avances fantásticos en materia de seguridad, ocio y protección del medio ambiente incorporada a los automóviles sin chofer, sino también por sus posibilidades filosóficas. La teoría computacional de la mente nunca explicó la existencia de la conciencia en el sentido de la subjetividad en primera persona (aunque es perfectamente capaz de explicar la existencia de conciencia en el sentido de información accesible y reproducible). Una sugerencia es que la subjetividad es inherente a cualquier sistema cibernético suficientemente complicado. Solía creer que esta hipótesis (y sus alternativas) eran permanentemente indemostrables. Pero imaginemos un robot inteligente programado para monitorear sus propios sistemas y plantear interrogantes científicos. Si, sin impulso exterior, se preguntara por qué tiene experiencias subjetivas, yo tomaría la idea con seriedad.

Nos liberan para ser más humanos

Irene Pepperberg (psicóloga y etóloga, profesora en Harvard)

Si bien las máquinas son maravillosas en computación, no son demasiado buenas para pensar.

Las máquinas tienen una disponibilidad inagotable de resistencia y perseverancia y, como otros han dicho, sin esfuerzo producen la respuesta a un problema matemático complicado o nos orientan a través del tráfico en una ciudad desconocida, todo en base a algoritmos y programas instalados por humanos. ¿Pero qué les falta a las máquinas?

Las máquinas (al menos hasta ahora y no creo que esto cambie singularmente) no tienen visión. Y no quiero decir vista. Las máquinas no inventan por su cuenta la nueva aplicación exitosa. Las máquinas no deciden explorar galaxias distantes; hacen un gran trabajo cuando las enviamos, pero esa es una historia diferente. Las máquinas por cierto son mejores que la persona promedio para resolver problemas de cálculo y mecánica cuántica, pero no tienen la visión para comprender la necesidad de hacerlo. Las máquinas pueden ganarles a los humanos al ajedrez, pero no han diseñado el tipo de juego mental que llame la atención a los humanos durante siglos. Las máquinas pueden ver regularidades estadísticas que mi débil cerebro no percibe, pero no pueden dar el salto visionario que conecta conjuntos de datos dispares para definir un nuevo campo. (...)

Mi preocupación por tanto no son las máquinas que piensan, sino más bien una sociedad complaciente, que podría renunciar a sus visionarios a cambio simplemente de eliminar el trabajo pesado. Los humanos tienen que aprovechar toda la capacidad cognitiva que se libera cuando las máquinas se hacen cargo del trabajo aburrido -y estar agradecidos de esa liberación y usar esa liberación- para canalizar toda esa capacidad hacia el duro trabajo de resolver los problemas urgentes que demandan saltos perspicaces y visionarios.

Es hora de que lleguen a la madurez

Thomas A. Bass (escritor, profesor de literatura e historia)

Pensar es bueno. Entender es mejor. Crear es lo mejor. Estamos rodeados de máquinas cada vez más pensantes. El problema está en su carácter mundano. Piensan en aterrizar aviones y vender cosas. Piensan en vigilancia y censura. Su pensamiento es simple, si no nefasto. Se dijo que el año pasado una computadora pasó la Prueba Turing. Pero la aprobó como un chico de trece años, lo que está bastante bien, considerando las preocupaciones de nuestras máquinas inmaduras. No veo la hora de que nuestras máquinas maduren, para que tengan más poesía y humor. Éste debería ser el proyecto artístico del siglo, con fondos del Estado, fundaciones, universidades, empresas. Todos tienen intereses en lograr que nuestro pensamiento sea más reflexivo, que aumente nuestra comprensión y genere nuevas ideas. Últimamente hemos tomado muchas decisiones tontas, basadas en mala información o demasiada información o la incapacidad de comprender lo que la información significa.

Tenemos numerosos problemas por confrontar y soluciones para encontrar. Empecemos a pensar. Empecemos a crear. Pidamos más funk, más soul, más poesía y arte. Reduzcamos la vigilancia y las ventas. Necesitamos más programadores artistas y programación artística. Es hora de que nuestras máquinas que piensan superen una adolescencia que ha durado más de sesenta años.

No son artificiales, son diseñadas

Paul Davies (físico teórico, cosmólogo, investigador)

Los debates acerca de la IA nos remontan a la década de 1950 y es hora de dejar de usar el término "artificial" en relación a la IA por completo. Lo que realmente queremos decir es "Inteligencia Diseñada" (ID). En el habla popular, palabras como "artificial" y "máquina" se usan como opuesto a "natural" y refieren a robots metálicos, circuitos electrónicos y computadoras digitales por oposición a organismos biológicos vivos, pulsantes, pensantes. La idea de un aparato metálico con tripas cableadas con derechos o que desobedece las leyes humanas no sólo da escalofríos, es absurdo. Pero decididamente este no es el rumbo que lleva la ID.

Muy pronto va a desvanecerse la distinción entre artificial y natural. La Inteligencia Diseñada va a basarse cada vez más en la biología sintética y en la fabricación orgánica, en la que los circuitos neurales se desarrollarán a partir de células modificadas genéticamente y se ordenarán espontáneamente en redes de módulos funcionales. Inicialmente los diseñadores serán humanos, pero pronto serán reemplazadas por sistemas ID más inteligentes, lo que desatará un proceso descontrolado de complejización.

A diferencia del cerebro humano con vínculos laxos vía canales de comunicación, los sistemas ID estarán conectados de modo directo y abarcante, aboliendo todo concepto de "seres" individuales y elevando el nivel de la actividad cognitiva ("pensar") a alturas sin precedentes (...).

En caso de que no estemos solos en el universo, no debemos esperar comunicarnos con seres inteligentes del tipo tradicional de corporeidad y sangre que presenta la ciencia ficción, sino con una ID de muchos millones de años de edad con poder intelectual inimaginable y objetivos incomprensibles.

Un poder limitado, con gran riesgo

Nicholas G. Carr (escritor sobre tecnología, cultura y negocios)

Las máquinas que piensan piensan como máquinas. Este hecho puede ser una desilusión para los que anticipan, temerosos o entusiasmados, un alzamiento de robots. Para la mayoría es algo tranquilizador. Nuestras máquinas pensantes no están por superarnos intelectualmente de un salto, y mucho menos nos convertirán en sus sirvientes o mascotas. Van a seguir haciendo lo que les piden sus programadores humanos.

Gran parte del poder de la inteligencia artificial deriva de su inconciencia. Inmunes a las vaguedades y prejuicios que son parte del pensamiento consciente, las computadoras pueden realizar cálculos a velocidad del rayo sin distracción, ni fatiga, duda o emoción. (...)

Las cosas se ponen complicadas cuando queremos que las computadoras actúen no como nuestras ayudantes, sino como nuestro reemplazo. Eso es lo que sucede ahora y rápidamente.

Las máquinas pensantes de hoy pueden percibir el medio que las rodea, aprender de la experiencia y tomar decisiones de modo autónomo, a menudo con una velocidad y precisión que van más allá de nuestra capacidad de comprenderlas, mucho menos equipararlas. Cuando se les permite actuar por su cuenta en un mundo complejo, corporizadas en robots o sólo emitiendo juicios derivados de algoritmos, las máquinas inconcientes conllevan enormes riesgos junto con su enorme poder. (...)

Lo que ahora nos debatimos por poner bajo control es precisamente lo que nos ayudó a retomar el control a comienzos del siglo XX: la tecnología informática. Nuestra capacidad de reunir y procesar datos, manipular información en todas sus formas, ha superado nuestra capacidad de monitorear y regular el procesamiento de datos de un modo que sirva a nuestros intereses sociales y personales. El primer paso para responder a este desafío es reconocer que los riesgos de la inteligencia artificial no corresponden a un futuro distópico. Están aquí ahora.

Traducción: Gabriel Zadunaisky

---

Conforme a