Dejá, se lo pido al robot

Como espectáculo es definitivamente impactante. Una máquina que llama por teléfono y hace una reserva en un restaurant. Para un oído desinformado suena como una conversación entre dos personas —con inflexiones en el tono, dudas e incluso una pizca de informalidad— pero quien atiende el teléfono no sabe que está hablando con una máquina.

La escena, presentada por Google la semana pasada, vino acompañada de otra en la que se reservaba un turno en una peluquería, completa con sus "uhm" y sus "ajá". Es difícil no dejarse llevar por la magia del show, que no hace más que alimentar la fantasía de lo que podríamos hacer con una tecnología así. ¿Cuánto falta para que podamos poner a Google Duplex a resolver nuestras tediosas llamadas telefónicas?

La pregunta, naturalmente, no tardó en ser abordada en internet. Las parodias que afloraron van desde un posible uso del asistente para terminar una relación hasta un llamado rutinario a unos padres para pedir dinero. El límite —nos gusta creer— es nuestra imaginación.

Google justifica su desarrollo en el objetivo final de la interacción humano-máquina: lograr que las personas puedan tener conversaciones con máquinas con la misma naturalidad que con otras personas. Pero, se apresuraron a aclarar, cuando a Duplex lo dejen salir a jugar, avisará que se trata de una máquina, aunque nadie tiene del todo claro cuál será la mejor forma de hacerlo.

¿Debe sonar como si hablara una persona?

El sistema, por lo pronto, siempre intentará "hablar" con una máquina antes que con un humano. Por ejemplo, si el lugar en cuestión tiene sistema de reservas, el llamado puede saltearse por completo. Hasta acá bien. Pero algunas contradicciones surgen e inevitablemente nos preguntamos, ¿para qué implementar detalles innecesarios como los cambios en el tono de voz o el carácter dubitativo del asistente?

Si Google quiere ser explícito respecto del carácter automático de su asistente, ¿para qué fingir que es humano? ¿Acaso no es incómodo hablar con una máquina que pretende no serlo? Este esfuerzo por "humanizar" a Duplex parecería estar buscando hacer más difícil, si no imposible, descubrir que del otro lado hay una máquina y no una persona.

Lejos de superar el tan mentado test de Turing, que a esta altura parecería ser apenas un manoseado resto de lo que pudo significar originalmente, nuestra fascinación con Duplex más bien parecería indicar que pusimos la vara demasiado baja.

Duplex, dicen sus creadores, sólo puede tener un índice de éxito aceptable si es acotado a contextos muy particulares que permitan un entrenamiento exhaustivo y un número particularmente reducido de posibles escenarios. Podemos suponer que aún falta para poder pedirle que llame a nuestro proveedor de internet.

Eso sí, sobre todas las cosas Duplex sirve como disparador de una miríada de discusiones en torno al uso de simulaciones realistas de interlocutores humanos.

¿Cómo debería Duplex anunciar que es una máquina? No puedo evitar pensar en que quien esté del otro lado podría bien no entender qué significa hablar con un asistente digital. Si se escucha igual que un humano y se comporta igual que un humano, ¿cómo podrían reaccionar ciertas personas ante el anuncio de que no lo son?

¿Deberían poder las empresas rehusarse a hablar con Duplex? Después de todo, se trata de empresas que están optando por no usar un sistema automatizado de reservas. Más allá de sus motivos para elegirlo, ¿está bien que Google pase por arriba de esa decisión?

¿Debería preocuparnos el potencial uso de esta tecnología para fines nefastos? Ya Homero Simpson cuando se hacía de una AT-5000 —una ficticia máquina diseñada para hacer llamados automáticamente anunciando tormentas de nieve— abusa de ella hasta que es atrapado. No cuesta imaginar el festín que se hubiera hecho con chatbots indistinguibles de humanos.

La conversación para poder ser humanos

¿Qué nos puede decir acerca de lo que nos hace humanos el desarrollo de una tecnología como esta? Quizá, como algunos sugieren, deberíamos poner el foco en aquellos aspectos de la conversación que no son fácilmente automatizables. O, incluso, en la importancia de la conversación para establecer la confianza entre las personas.

"Tiendo a evitar los asistentes digitales", escribía hace algunas semanas Emily Lever. "Quizá sea porque he sido la asistente analógica de un viejo arrogante". La perspicacia detrás de sus palabras apuntaba a marcar el atractivo que puede tener la posibilidad de tener sirvientes —digitales o no— que nos hagan sentir importantes. La preocupación, podríamos arriesgar, está en la forma en que ciertas apps —como Uber— normalizan y amplifican las relaciones de servidumbre, pero sin la fricción.

También está el asunto de la "sutil usurpación de la humanidad": cuando llamamos por teléfono no siempre estamos intercambiando información o realizando una transacción. Parte del asunto de conversar es hablar con otro ser humano: nos sentimos más vivos como resultado de la interacción significativa con otros humanos.

¿El desarrollo de un sistema que permite hacer llamados automáticos haciéndose pasar por una persona es malo para la humanidad? Esta no es una buena pregunta. En cambio, quizá sea mejor preguntarnos por las conversaciones que sí vale la pena preservar y para aquellas que sea mejor dejar atrás, buscar la forma más humana de abandonarlas sin pasarles por encima a fuerza de algoritmos y sintetizadores de voz.

En cualquier caso, no olvidemos que lo de Google en el escenario fue, como corresponde, parte de un espectáculo y la conversación acerca de robots que hablan como nosotros recién comienza.