10 minutos de lectura'
Diciembre llega con altas temperaturas, la expectativa propia de las fiestas y de fin de año, pero también con un cambio relevante en una de las plataformas de inteligencia artificial más populares: OpenAI permitirá acceder a contenido erótico en ChatGPT a adultos verificados, una decisión que abre un debate que ya empieza a preocupar a varios especialistas.
Así lo confirmó el CEO de Open AI, Sam Altman, quien compartió en su cuenta de X en octubre pasado que han tenido que implementar restricciones fuertes sobre la inteligencia artificial, para abordar preocupaciones de salud mental. Explica que esto ha llevado a que ChatGPT sea “menos útil o disfrutable para muchos usuarios que no tienen problemas de salud mental”.
Este año hicieron eco algunos casos preocupantes de uso de inteligencia artificial, como el adolescente californiano Adam Raine, que se suicidó a principios de este año y cuyos padres aseguraron que ChatGPT le dio consejos específicos sobre cómo hacerlo, hasta el caso del exejecutivo de Yahoo, Stein-Erik Soelberg, que ante la sospecha de que su madre mantenía un complot con una amiga en contra de él, acudió a la IA. Esta tecnología reforzó su idea de la supuesta conspiración contra él y derivó en un final trágico: se quitó la vida, pero antes asesinó a su madre, Suzanne Eberson Adams, de 83 años.
En ese contexto, OpenAI fue implementando restricciones en su IA y ha detallado que, a partir de diciembre, a medida que los controles de edad se implementen de manera “más completa”, permitirán un comportamiento menos restrictivo de ChatGPT, con acceso a contenido erótico para adultos verificados. Pero, la pregunta que emerge naturalmente es: ¿realmente se pueden implementar barreras que eviten que los menores de edad se expongan a estos contenidos, sin saltearlas o esquivarlas fácilmente?
El doctor e ingeniero Carlos Arana, profesor de UCEMA y consultor en soluciones basadas en IA, explica que existen dos posibles situaciones o problemas que se pueden dar en este contexto: por un lado, señala que la plataforma hoy cuenta con modelos de predicción de datos que justamente buscan predecir con machine learning el rango etario del usuario como medida de seguridad.
Sin embargo, “las compañías pueden equivocarse en estas categorías y definir falsos positivos –el sistema detecta que el usuario es menor de edad, pero en realidad es un adulto- o falsos negativos – el sistema determina que es mayor de edad, pero el usuario es un menor-“. El primer caso se resolvería, según explicó Altman en su blog, subiendo una foto del documento de identidad, algo que lógicamente condicionaría los datos confidenciales del usuario, “sabemos que esto compromete la privacidad de los adultos, pero consideramos que compensa los riesgos”, agregó Altman en ese mismo artículo.
Por otro lado, OpenAI lanzó recientemente configuraciones que permiten que los padres decidan a qué contenido pueden acceder sus hijos. En ese sentido, Arana explica que los menores “tienen a disposición muchas herramientas para saltear ese control parental y pueden anonimizar sus datos personales”. El psiquiatra Ángel Gargiulo (MN 136783), director de CISMA (Centro Integral de Salud Mental), señala que estudios transversales indican que entre el 60 y el 70% de adolescentes han visto pornografía antes de los 18 años, aunque hay autores que reportan números más altos. ¿La inteligencia artificial ampliará ese porcentaje?
Por el momento, OpenAI no ha explicado exactamente qué permitirá con la posibilidad de “contenido erótico” ni cómo logrará blindar el acceso a los menores. “No hay sistema 100% infalible”, explica Ingrid Toppelberg, instructora de Innovación en el Instituto de Tecnología de Massachusetts (MIT) y referente en cultura de seguridad digital, al consultarle por cuán seguro son las verificaciones, y agrega que “siempre habrá una forma de esquivar todo tipo de controles; quien quiere acceso, lo logrará”. Señala que se podrían usar identificaciones falsas, recurrir a la cuenta de un adulto e incluso advierte que existe un mercado donde se pueden comprar cuentas verificadas. “Tanto los sitios web porno tradicionales, como Grok (la IA de Elon Musk) y otras IA especializadas, que tienen el objetivo específico de desarrollar estas relaciones íntimas con los avatares ya existen. En todos ellos, la verificación de edad es mucho más laxa: solamente hace falta tildar un «Soy mayor de 18»”, agrega Toppelberg.
Otros expertos de esta tecnología coinciden con la especialista del MIT. “Es importante decirlo con claridad: ningún sistema de verificación de edad es infalible. No existe hoy una tecnología totalmente resistente al bypass cuando del otro lado hay un usuario motivado en evadirla. Incluso los modelos que combinan declaración del usuario, patrones de comportamiento, señales biométricas indirectas o documentación tienen márgenes de error y requieren auditoría constante”, explica Belén Ortega, especialista en inteligencia artificial y automatización. Opina que una medida de este estilo obliga a elevar los estándares de seguridad, garantizando mayor trazabilidad y rigurosidad en la verificación, un uso adecuado de controles parentales, reportes periódicos sobre eficacia y, sobre todo, transparencia pública. “Las empresas de IA ya no pueden ampararse en filtros automáticos opacos cuando el contenido tiene implicancias éticas, psicológicas y legales”, agrega.
Joan Cwaik, autor y divulgador tecnológico, profesor de la Universidad de San Andrés, coincide y señala que OpenAI no puede garantizar realmente que los menores no accedan a contenido para adultos, aunque exista un control de edad. “Hay toda una industria de trucos para saltar la verificación de edad; OpenAI puede hacerlo más difícil, pero no puede prometer que nunca va a pasar. Para blindarlo, es necesario contar con buena tecnología, un complemento regulatorio y adultos presentes”, explica.
Ahora bien, expertos vinculados a la salud mental explican que esta implementación de OpenAI despierta cuestiones de fondo que no son solo técnicas –en el sentido de saltar o no barreras de seguridad- sino también culturales y familiares y que, por ende, afectan a toda la sociedad.
“En lugar de una cuestión de edad, el debate debería centrarse en el impacto que estos contenidos tienen sobre el bienestar psicológico, la calidad de los vínculos y la forma en que aprendemos a mirar y cuidar al otro. El efecto que tiene el consumo de contenido erótico no se limita solamente a quien consume: repercute en toda la sociedad y en ese clima social que generamos -o no- en torno al cuidado y al respeto”, analiza la dra. en Psicología Carolina Sánchez Agostini, profesora del IAE Business School y de Psicología de los Vínculos de la Universidad Austral.
La especialista explica que con frecuencia se encuentra con que los argumentos que se ofrecen frente a ciertas prácticas (como el consumo de pornografía), tienen que ver con la edad: “No podés consumir porque sos menor de edad”. Pero señala que la reflexión es todavía más honda: “Cuando hablamos de pornografía, no estamos hablando de un simple entretenimiento, sino de un negocio, que se sostiene sobre una tendencia cultural más amplia: el individualismo que pretende acomodar al otro —y al mundo— a la medida del propio placer. Es un negocio que moldea el deseo, acercándolo cada vez más, a fuerza de sistema de recompensa, a la ficción, al sometimiento y a la lógica machista”.
Al respecto, Gargiulo suma que los metaanálisis y revisiones sistemáticas coinciden en que el uso problemático de pornografía (el consumo frecuente) en adultos se relaciona con más depresión, ansiedad, soledad, disfunción sexual, peor satisfacción de pareja y conductas adictivas. De hecho, los primeros estudios cualitativos relativos a la pornografía o erotismo generado por IA, “muestran patrones similares y potencialmente amplificados, dado que la hiperpersonalización puede actuar como estímulo supernormal, lo que aumenta la probabilidad de dependencia, aislamiento y deterioro del bienestar emocional”.
Sánchez Agostini coincide y agrega que “se empobrece la calidad de los vínculos a los que aspiramos, porque nos acostumbra a una ciencia ficción del sexo y a ver al otro como un objeto; la sexualidad se vuelve menos relacional y más narcisista: deja de reconocer al otro como una persona con rostro, historia y emociones, y lo reduce a un medio para la gratificación inmediata”.
Bárbara Ayub, psicóloga clínica especializada en adultos y coordinadora de Equipo Psico Integral, coincide con Sánchez Agostini en que la exposición a este tipo de contenido puede afectar la calidad de los vínculos: “Teniendo en cuenta las consecuencias que estamos pudiendo observar frente al uso de esta tecnología en nuestra vida cotidiana, como dificultades en la memoria, aislamiento, pensamiento crítico, resolver problemas de manera independiente, entre otros, si a ellos sumamos la generación de contenido erótico, podría abrirse un tema aún más profundo que tiene que ver con la normalización de un uso inapropiado de la tecnología, como así también una visión distorsionada de las relaciones, los vínculos sexoafectivos, con la posibilidad de generar adicción a estos contenidos y afectar la autoestima de los usuarios”.
Además, explica que la inteligencia artificial sumaría algunos factores inquietantes a la pornografía tal como la conocemos hoy en día, como la falta de consentimiento entre dos personas, que son las participantes del vínculo sexual. También la inmediatez en la generación de imágenes o videos y la violación de la privacidad por el uso de imágenes de personas reales sin su consentimiento. Especialmente preocupante es el caso de la posibilidad de generar contenido con características de pedofilia. Gargiulo agrega que el erotismo generado por IA es interactivo, hiperpersonalizable y disponible sin límites, lo que lo convierte en un estímulo supernormal con mayor potencial adictivo y mayor impacto en el aprendizaje sexual. “La IA responde, adapta el contenido al usuario, recuerda preferencias y nunca impone límites ni consentimiento real, favoreciendo expectativas irreales sobre el sexo y los vínculos. Esto aumenta el riesgo de uso compulsivo, dependencia emocional, aislamiento social y distorsiones afectivo-sexuales”, detalla.
En ese contexto, en que una IA puede personalizar cuerpos, edades o escenarios a demanda, “se plantean nuevas preguntas éticas y psicológicas: ¿qué ocurre cuando el deseo se acostumbra a no tener límites ni consecuencias? ¿Qué tipo de vínculo se construye con un “otro” que no existe, pero que parece más disponible que una persona real? ¿Qué distancia puede generarnos con las personas reales y los vínculos reales? ¿Qué consecuencias puede tener para el aislamiento, la soledad, la depresión?”, plantea Sánchez Agostini.
En un momento en que todavía se sigue profundizando en los efectos negativos de la pornografía y las consecuencias que su consumo compulsivo está generando en millones de personas, la especialista plantea que la implementación de este tipo de medidas por parte de las empresas de inteligencia artificial “abre una nueva zona de vulnerabilidad —desconocida e inexplorada— donde, una vez más, el ser humano se convierte en objeto de experimento. ¿Necesitamos esperar a las consecuencias para reconocer la magnitud de esa exposición?”.
