1
Tu jefe, las empresas tecnológicas y la policía pueden leer tus charlas con la IA
Qué tenés que tener en cuenta respecto de tu privacidad cuando usás la versión corporativa de una plataforma de IA
6 minutos de lectura'
Los estadounidenses le preguntan a los chatbots de IA sobre casi todo, desde salud hasta relaciones y grandes preguntas existenciales. Aunque esas conversaciones pueden parecer esclarecedoras o íntimas, no siempre son una cosa: privadas.
Un análisis de The Washington Post sobre registros públicos y noticias locales encontró una docena de casos en los que se citaron transcripciones de chatbots en el registro público de procesos judiciales durante los últimos dos años. En muchos casos, las transcripciones fueron desenterradas de los dispositivos de los usuarios cuando fueron registrados por un oficial de policía o por una parte contraria durante la etapa de recolección de pruebas de un juicio civil. En un puñado de situaciones, las empresas de IA han denunciado contenidos perturbadores de sus plataformas ante las autoridades.
“A menos que estés chateando con un servicio que tenga chats temporales o, básicamente, una versión de incógnito... [y] también lo hagas desde un navegador que no te esté rastreando, la respuesta es no. No puedes estar seguro de que vaya a ser totalmente privado”, afirmó Jen King, investigadora de privacidad en el Instituto de IA Centrada en el Humano de la Universidad de Stanford.
Esto es lo que debes saber sobre la privacidad de tus conversaciones con chatbots.
¿A dónde van mis conversaciones con el chatbot?
Cuando usás un chatbot de IA, como Claude o ChatGPT, tu mensaje se envía a un centro de datos u otro servidor de la empresa que procesa tu consulta y devuelve una respuesta. Si iniciaste sesión en una cuenta, podés volver a tu teléfono o computadora más tarde para ver tu historial de chat.
En los casos judiciales revisados por The Post, las transcripciones de los chatbots se obtuvieron a menudo mediante registros de los dispositivos de los usuarios. En un caso, un hombre de Missouri aceptó permitir que un oficial registrara su teléfono sin una orden judicial, según los registros policiales. En otro caso en Michigan, el abogado de un acusado ofreció voluntariamente un registro de los dispositivos de su cliente como una demostración de transparencia, según los registros judiciales.
Si eliminás una conversación de tu cuenta, tanto OpenAI como Anthropic —los creadores de ChatGPT y Claude, respectivamente— afirman que la borrarán de sus servidores internos en un plazo de 30 días en la mayoría de los casos. (The Post tiene un acuerdo de contenidos con OpenAI).
El tiempo exacto que las empresas de chatbots conservan tus consultas en sus servidores depende del tipo de cuenta que utilices. En las cuentas personales regulares, OpenAI conservará tus chats hasta que los elimines. La empresa también ofrece chats temporales que se borran automáticamente en un plazo de 30 días. (Anthropic, del mismo modo, los llama «chats de incógnito»). Pero hay excepciones; OpenAI afirma que puede conservar datos eliminados, incluidos los chats temporales, si tu cuenta ha sido suspendida por violar sus políticas o si la empresa está legalmente obligada a hacerlo.
¿Puede mi empleador ver mis conversaciones con el chatbot?
Muchos lugares de trabajo han optado por acuerdos corporativos (enterprise agreements) con OpenAI y Anthropic que impiden a las empresas de IA entrenar sus modelos con los aportes de sus empleados, las cuales podrían incluir información confidencial. En general, los términos de uso y las políticas de privacidad de las empresas para cuentas de consumo no se aplican necesariamente a los acuerdos corporativos.
Pero no asumas que tu actividad en tu cuenta de empresa es privada. Al igual que el correo electrónico o Slack, una cuenta corporativa de Claude o ChatGPT es administrada por tu empleador. Anthropic, por ejemplo, ofrece herramientas para que algunos administradores puedan ver información como chats y archivos.
Ambas empresas ofrecen la opción de cero retención de datos para clientes corporativos seleccionados. Pero esa opción no está disponible para las cuentas de consumidores individuales.
¿Pueden las empresas de IA contactar a las autoridades sobre mis conversaciones?
OpenAI ha enfrentado críticas tras tiroteos mortales presuntamente cometidos por personas que eran usuarias frecuentes del bot. OpenAI había suspendido la cuenta del sospechoso de un tiroteo masivo en febrero en Tumbler Ridge, Columbia Británica, por violar sus políticas, pero se negó a reportar las conversaciones a las autoridades canadienses. El director ejecutivo, Sam Altman, se disculpó más tarde por no haber alertado a las fuerzas del orden. OpenAI ha declarado que tiene una «política de cero tolerancia» respecto al uso de sus herramientas para la violencia.
OpenAI señala que utiliza sistemas de detección automatizados para identificar actividades potencialmente preocupantes, como la violencia o la autolesión. La empresa afirma que notifica a las fuerzas del orden cuando «las conversaciones indican un riesgo inminente y creíble de daño a terceros». Anthropic, por su parte, señala que revelará información limitada si tiene la «creencia de buena fe» de que la divulgación es necesaria para evitar un daño grave a personas o propiedades.
Ambas empresas afirman que cumplen con las citaciones judiciales válidas.
¿Cuál es la mejor manera de mantener privados mis chats?
Depende de qué aspectos de la privacidad sean más importantes para ti. Tanto OpenAI como Anthropic afirman que no comparten conversaciones ni venden datos a anunciantes de terceros. Si querés preguntar algo que no deseás que vea tu empleador, lo mejor es mantenerlo fuera de tu cuenta de trabajo.
Eliminar un chat o utilizar chats temporales puede significar que tu uso no será almacenado por una empresa de IA indefinidamente. Hay ciertos tipos de información personal que quizás quieras evitar decirle a la IA por completo, como tu número de Seguro Social o tus contraseñas.
La privacidad es difícil de conseguir en Internet. En mensajería, el estándar de oro de la seguridad es la aplicación Signal, que cuenta con una función de autoeliminación y cifra el tráfico de extremo a extremo a medida que viaja por los servidores de la empresa, lo que significa que ni siquiera Signal puede ver el contenido de tus mensajes.
No existe un equivalente para la IA, y la mayoría de las aplicaciones, motores de búsqueda y otros programas no son ni de lejos tan estrictos en materia de privacidad como Signal. Del mismo modo que incluso las búsquedas en el navegador en modo incógnito se dirigen a través de Google, OpenAI y Anthropic todavía necesitan ver tu pregunta para poder responderla.
Más leídas de Tecnología
