¿Quién anda ahí? Cómo saber si hablamos con un bot o un humano

La semana pasada una amiga me preguntó si un posteo largo que publiqué en Linkedin lo había escrito yo o ChatGPT. Era una mezcla. Al día siguiente, un colega me contó cómo intentó desenmascarar a quien atendía su reclamo en una empresa de internet: ¿Era bot o humano? No pudo confirmarlo.

Más usamos herramientas de lenguaje generativo, más difícil saber dónde empiezan ellas y dónde terminamos nosotros. ¿Cómo recordar qué pensábamos antes de pelotear una idea en el chat de Open.ia? Somos el hombre centauro, mejorado por computadoras, que tantas veces pronosticaron las charlas TED. Ahora es real.

¿Por qué nos importa saber si al otro lado de una conversación hay una persona o no? Desde siempre, para constatar la utilidad de una pieza de información recurrimos a nuestro sistema de “vigilancia abierta”. Vigilancia porque nos permite excluir a quienes no nos parecen confiables –porque su discurso no es coherente o verosímil de acuerdo a nuestro conocimiento previo–, pero abierta porque dejamos entrar la información que sí creemos útil, para aprender de ella. Vigilantes pero no tontos.

Esa pericia intrínsecamente humana, que se complementa con una sorprendente destreza para reconocer caras y leer sus gestos (siempre y cuando estén al derecho y no haciendo la vertical, como se probó en experimentos), guió la historia de la colaboración humana. Nacemos con eso porque desde bebés dependemos de los demás. Para la humanidad, es colaborar o morir. Ejercer esta habilidad de lectura interpersonal nos permitió vivir en sociedad, crear instituciones, religiones, formas de gobierno, y llegar hasta el mundo global de hoy.

Pero ¿qué pasa si colaboramos con entes sin cara? Humanos y bots somos muy distintos. A nosotros nos forjaron milenios de evolución lenta en interacción con el mundo físico. A ellos, pocos pero intensos años tragando contenido digital. Un ensayo de la semana pasada del especialista en machine learning Jacob Steinhardt proyecta que para 2030 las máquinas podrán aprender el equivalente a 2500 años humanos en un día, y ampliar sus fuentes de información a dominios fuera de internet que tienen mucha data digital, como la astronomía, la genética, el tránsito y las tomografías cerebrales.

Sobre todo eso van a saber, o ya saben, más que nosotros. Sobre cómo hacer masajes o llevar a un hijo a babucha probablemente menos, porque esas tareas requieren una fina interacción con el mundo tangible. Colaborar con estas tecnologías va a requerir nuevas convenciones.

En una conferencia el mes pasado, en Chatham House, el director de un centro de investigación me preguntó si los académicos que escriben con asistencia de ChatGPT deben declararlo. “¿Por qué? –retrucó alguien del público– ¿Acaso hoy se nombra a todos los pasantes de un equipo de investigación?” No sé si defendía a los bots o a los pasantes, pero me dejó pensando.

Son tantas las dudas, que está emergiendo una industria de la distinción. Ya se lanzaron cientos de aplicaciones para detectar contenido generado por IA. Algunas luchan contra el spam, otras contra la desinformación, otras contra la manipulación política. Lo cierto es que vamos a necesitar nuevos filtros.

O bien podemos abandonar la lucha detectivesca e ir a lo seguro: privilegiar la interacción con humanos o asignarle puntos extra a lo artesanal, como hoy pasa en la industria de la moda o los alimentos. ¿Puede que un políglota humano siga siendo admirable, aunque la IA traduzca tan bien? ¿Serán más valiosos la literatura o el arte hechos por personas? ¿Se creará la etiqueta “made by humans”? Así como después de la pandemia notamos que es mucho mejor juntarse con amigos en un bar que por Zoom, la IA puede tener su contracara. Hay que ver si sabremos leer sus gestos.

• La autora es directora de Sociopúblico