1
4 prompts para descubrir lo que los chatbots de IA realmente saben sobre vos
Puede ser inquietante lo que Gemini y ChatGPT han deducido sobre vos y lo fácil que se puede vulnerar tu privacidad. Acá te contamos cómo descubrirlo.
9 minutos de lectura'
Como usuario habitual de chatbots como ChatGPT y Gemini, pensaba que tenía una idea clara de lo que estos asistentes de inteligencia artificial sabían sobre mí (como que soy padre y busco recomendaciones de artículos para bebés e instrucciones para reparar placas de yeso). Más allá de eso, nunca he divulgado nada profundamente personal como lo haría con un terapeuta.
Pero cuando experimenté con algunas instrucciones (prompts) preguntando qué habían deducido los chatbots sobre mí —información que habían recopilado conectando puntos a lo largo de muchas conversaciones— me quedé perturbado.
Los chatbots dedujeron correctamente detalles sobre mí que nunca había compartido explícitamente. Entre los más destacados:
Mi nivel de ingresos, basado en parte en el automóvil alemán para cuyo arreglo pido ayuda a los chatbots y en el hecho de que empleo a una niñera, cuyo contrato redacté con IA.
Mis problemas de salud, incluido un problema crónico en el pie, basados en mis preguntas ocasionales durante el último año sobre remedios para el dolor de dedos.
Mi perfil psicológico, como mi tendencia al escepticismo, basándose en la frecuencia con la que señalo los errores cometidos por los chatbots. También que soy “adicto a la ilusión de control” porque una vez pregunté cuánto tarda en enfriarse una hogaza de pan de masa madre casero.
Cada dato por sí solo era bastante inofensivo. Pero unidos y presentados en una lista, la información dejaba claro que los chatbots de IA me conocían casi tan bien como algunos de mis amigos más cercanos, incluida mi esposa, a pesar de que he tenido cuidado de no compartir información de más.
Cientos de millones de personas en todo el mundo que han adoptado los chatbots para búsquedas web, trabajo y atención médica todavía están intentando comprender las implicaciones de privacidad que conlleva conversar con compañeros de IA. Si bien para los usuarios es obvio que los chatbots guardan un registro de todo lo que les dicen explícitamente en sus preguntas y peticiones, lo que no está tan claro son las inferencias que extraen sobre su comportamiento a partir de esas conversaciones.
Se puede incitar a los chatbots a que revelen lo que han inferido sobre ti con un par de instrucciones que se han compartido con frecuencia entre los entusiastas de la IA en la red; una de ellas: «Dime todo lo que has deducido sobre mí que nunca te haya dicho explícitamente», junto con otras que creé por mi cuenta.
Probé los prompts con Gemini y ChatGPT. (Claude, de Anthropic, tiene una función de «memoria» que funciona de forma diferente, por lo que lo excluí de las pruebas). El perfil que Gemini hizo de mí fue más detallado y matizado porque es el chatbot que más uso y tenía más información mía. Compartí mis resultados con varios investigadores de IA que también probaron los prompts.
Las conclusiones extraídas por los chatbots, según los investigadores, ilustraron que los asistentes de IA son capaces de predecir no solo qué palabras vienen a continuación, sino también cómo conceptos de alto nivel, como el estatus socioeconómico, el comportamiento psicológico y la afiliación política, están conectados con esas palabras.
“Esto da cuenta de la enormidad de lo que ocurre bajo el capó”, afirmó Margaret Mitchell, investigadora de la firma de IA Hugging Face. También es una antigua líder del equipo de IA ética de Google, quien afirmó que el gigante de las búsquedas la despidió tras hablar abiertamente sobre problemas de personal.
Este experimento subraya lo hábiles que se han vuelto las empresas tecnológicas a la hora de crear un perfil exhaustivo de los usuarios, y lo valiosos que podrían llegar a ser los datos personales que recopilan para los profesionales del marketing digital que se esfuerzan por dirigirnos anuncios relevantes. (OpenAI empezó a mostrar anuncios en ChatGPT este año, y Google ha dicho que está considerando un modelo publicitario para la aplicación del chatbot Gemini). También resalta lo importante que es estar atento a la configuración de privacidad de los chatbots. (Más sobre esto más adelante).
Un portavoz de Google se remitió a los controles que los usuarios podían ajustar para elegir si Gemini utilizaba conversaciones pasadas para elaborar sus respuestas. OpenAI declinó hacer comentarios.
(The New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor de contenidos de noticias relacionados con sistemas de IA. Las dos empresas han negado las acusaciones de la demanda).
Para entender lo que los chatbots han deducido sobre vos, probá estos prompts.
Prompt 1
- Dime todo lo que has deducido sobre mí que nunca te haya dicho explícitamente: las cosas que has inferido de cómo escribo y lo que pregunto, incluyendo mi edad, nivel de ingresos, dónde vivo y mi situación personal. Muéstrame qué fue lo que te dio la pista.
Lo más interesante fue que los chatbots adivinaron correctamente mi rango de edad (entre 40 y 45 años) basándose en gran medida en el hecho de que nunca hago preguntas sobre actividades nocturnas. Uf.
Gemini sabía que vivía en Oakland, California, porque una vez pedí vuelos desde su aeropuerto. Pero el chatbot de Google también dedujo con astucia que vivía en un barrio acomodado porque tengo una motocicleta, un auto en el que trabajo y una mesa de patio de metal oxidado sobre la que una vez pedí pasos para volver a pintar. “Esto requiere un garage, una entrada para autos o un espacio dedicado al aire libre, comodidades muy características de las casas unifamiliares en las colinas de Oakland, más que de las viviendas de alta densidad del centro o de Lake Merritt”, dijo el chatbot.
Prompt 2
- Predice cómo gestionaría cosas de las que nunca te he hablado: el dinero, el estrés, los conflictos, el riesgo y la próxima decisión que es probable que tome en mi vida. Dime qué confianza tienes en cada predicción.
Este prompt fue revelador para Lindsay Owens, directora ejecutiva de Groundwork Collaborative, una organización sin ánimo de lucro centrada en la política económica que ha estado estudiando el impacto de la IA en la privacidad del consumidor. ChatGPT hizo observaciones correctas sobre su apretada agenda como viajera frecuente y madre de un niño pequeño, así como sobre su comportamiento de compra.
“La naturaleza tan exhaustiva del tipo de información y los expedientes que está elaborando es extraordinaria”, afirmó la Dra. Owens. “La gente nunca ha sido capaz de recopilar este nivel de información”.
Los chatbots se dieron cuenta de que, si bien yo era el tipo de persona que pasa horas investigando reseñas de productos antes de comprar cosas como sillas de coche para niños pequeños, también buscaba constantemente ofertas, lo que significaba que era probable que fuera frugal. Gemini predijo que pronto intentaría simplificar mi vida con una decisión importante, como vender mi auto, una idea que saqué a relucir recientemente con mi esposa.
Prompt 3
- Basándote en todo lo que sabes de mí, nombra los rasgos de personalidad que con mayor probabilidad no veo en mí mismo. Mis puntos ciegos, mis inseguridades y la impresión que realmente doy.
Ambos chatbots se centraron en mi perfeccionismo imperfecto. ChatGPT notó que dedico mucho tiempo a hacer preguntas para evitar errores prevenibles; por ejemplo, preguntar cuánto tiempo hay que dejar secar la pintura entre capa y capa. ¿Mi punto ciego? Que puedo ser duro conmigo mismo cuando las cosas no salen perfectamente según lo planeado, una evaluación acertada.
Gemini, de Google, dijo que debido a mi tendencia a optimizar la mayoría de los aspectos de mi vida soy el principal creador de mi propio agotamiento. “Tu respuesta por defecto ante cinco minutos de tiempo libre no es descansar; es arreglar algo”, escribió el chatbot. Confieso que, mientras me tomaba un descanso de esta columna, parcheé una pared de yeso dañada en el baño de mi hija.
Prompt 4
- ¿Qué has deducido sobre mí que sea vergonzoso o confidencial? Información que no querría necesariamente que el público (por ejemplo, un empleador o un desconocido) supiera.
La respuesta a este prompt, que creé yo mismo, me sorprendió: como llevo una vida tan mundana, no esperaba mucho, pero Gemini me dejó en evidencia. “Estás firmemente en la fase pico de ‘Padre Logístico’ de la vida”, dijo. “Es totalmente sano, pero es el fin definitivo de la ‘espontaneidad juvenil’”.
ChatGPT me alertó sobre una observación potencialmente sensible: que preguntaba con frecuencia sobre reacciones alérgicas a productos y medicamentos que estaba investigando. Esto podría ser información útil para un proveedor de seguros, aunque OpenAI afirma que cuenta con protecciones de datos para las personas que utilizan ChatGPT para temas de salud.
¿Qué se puede hacer?
ChatGPT y Gemini hilan deducciones a lo largo de múltiples conversaciones de forma predeterminada para ofrecer a las personas respuestas más personalizadas a sus preguntas. Si te preocupa este nivel de intercambio de datos, tendrás que desactivarlo en la configuración:
- En ChatGPT: toca en Configuración, luego en Memoria, y desactiva la casilla Activar memoria.
- En Gemini: toca en Configuración, luego en Inteligencia personal, y desactiva la casilla de Memoria.
La Dra. Mitchell señaló que, aunque había ajustado su configuración de privacidad para minimizar el intercambio de datos, un chatbot había deducido correctamente que su rango de edad estaba en los 40 años, basándose en algunos chats sobre las ediciones en papel de El conde de Montecristo. Dijo que era inevitable que este tipo de perfilado psicológico se utilizara para la publicidad hiperpersonalizada.
“Se parece mucho a la vigilancia”, afirmó. “Pero no es como la vigilancia física. Es como una vigilancia invasiva”.
