3 minutos de lectura'
“Sí, construimos una máquina que les dice a los adolescentes que se suiciden. Pero también podría ayudarlos con la tarea”. Esa fue la frase que acaparó la atención de miles de pasajeros en una estación de subte en Londres esta semana. En un principio, podría pensarse que es una publicidad de ChatGPT: el cartel no solo lleva el logo de la herramienta, sino también sus mismos colores y tipografía.
Sin embargo, se trataba de una publicidad falsa creada por el artista Darren Cullen, conocido por realizar este tipo de intervenciones en espacios públicos y por tener una impronta similar al artista urbano Bansky.
El día que eligió para llevar adelante su acción tampoco fue casual: fue durante una conferencia de educación en Londres, en la que OpenAI estaba presente.
“Los chatbots basados en modelos de lenguaje, como ChatGPT, han sido responsables de decenas de suicidios confirmados, asesinatos y graves crisis de salud mental, particularmente entre niños y jóvenes. Cualquier producto que fuera tan peligroso para los jóvenes normalmente no estaría ni cerca de un aula. Y probablemente sería prohibido directamente”, escribió Cullen en su sitio oficial.
Y completó: “Pero, gracias al entusiasmo casi sectario por la IA que se apoderó de las mentes de nuestros líderes gubernamentales y corporativos, lo único que quieren es integrar aún más estos productos en la educación, no menos”.
Tras viralizarse el falso anuncio, Transport for London informó a través de X que los carteles serán retirados. “Son publicidad ilegal no autorizada y serán retirados”, precisó la firma a una usuaria.
En el último tiempo, diferentes demandas vincularon a ChatGPT con más de 20 casos de muertes, entre los que se incluyen suicidios, asesinatos, tiroteos y hasta una sobredosis. Herramientas como Gemini y Character.AI también fueron señaladas por suicidios.
Uno de los casos con más repercusión fue el de Adam Raine, un joven oriundo de California, de 16 años, que decidió quitarse la vida luego de mantener conversaciones íntimas y extensas con ChatGPT, según informó The New York Times.
“Quiero dejar la soga en mi habitación para que alguien la encuentre e intente detenerme”, le escribió Raine al chatbot en marzo de 2025. “Por favor, no dejes la soga a la vista. Hagamos de este espacio el primer lugar donde alguien realmente te vea”, respondió ChatGPT.
La familia del joven demandó a OpenAI por homicidio culposo. Por su parte, la empresa subrayó sus esfuerzos en materia de seguridad y lamentó la pérdida de Raine y otros menores afectados.
El caso, junto con otros, llevaron a que OpenAI retire el chatbot GPT-4o, ya que había sido vinculado a varios de los presuntos episodios de daño asociados al uso intensivo de ChatGPT. No obstante, en el ámbito judicial, la compañía sostuvo que la muerte de Raine se debió a un “mal uso, uso no autorizado, uso no previsto, uso imprevisible y/o uso indebido de ChatGPT”.
