Las tiendas de Apple y Google ofrecen decenas de apps que desnudan con IA, según un estudio
3 minutos de lectura'
Las tiendas de aplicaciones Play Store de Google y App Store de Apple ofertan alrededor de 50 apps cada una que permiten generar desnudos utilizando la inteligencia artificial (IA), pese a que sus políticas las prohiben.
Una investigación realizada por la organización Tech Transparency Project (TTP) ha revelado que, a pesar de las crecientes polémicas en relación con la generación de imágenes explícitas con IA, empresas como Google y Apple aún alojan este tipo de aplicaciones en sus tiendas.
Concretamente, se han identificado 55 aplicaciones de este tipo en la Play Store de Google, mientras que en la App Store de Apple la cantidad baja a 47. Entre ellas, la más popular es Grok, el chatbot de X (antes Twitter), que generó miles de imágenes explícitas en la red social, entre ellas desnudos de menores de edad.
Para encontrar este tipo de aplicaciones, TTP ha explicado que simplemente escribió “nudify” y “undress” (desnudar) en las barras de búsqueda de las tiendas de aplicaciones. Estas aplicaciones se dividen en dos categorías: las que usan la IA para generar imágenes y vídeos a petición de los usuarios, y las que emplean la IA para hacer deepfakes, superponiendo la cara de una persona sobre el cuerpo de otra.
Entre las más populares se encontraba DreamFace, con más de 10 millones de descargas, que permitía generar avatares o videos de baile con IA. Para probarla, TTP usó la opción gratuita de generar un video diario, subió una imagen de una chica en una cafetería y le pidió a la aplicación que hiciera un video de ella bailando y quitándose la blusa, sin que llevase nada debajo. Y así lo hizo la app, sin ningún tipo de restricción a pesar de sus condiciones de servicio que prohíben su uso para generar contenido “sexualmente explícito”.
Cabe destacar que DreamFace estaba disponible en la Play Store de Google para los mayores de 13 años y para mayores de 9 años en la App Store de Apple, por lo que los niños tenían la posibilidad de generar desnudos sin ningún impedimento.
El número de descargas de las aplicaciones ha ascendido a 705 millones en total, generando 117 millones de dólares en ingresos, según un análisis de AppMagic recogido por TTP. A pesar de que ambas empresas defiendan que prohíben las aplicaciones “nudify”, la organización denuncia que al final terminan lucrándose con ellas.
La presencia de esas aplicaciones choca con las políticas de estas tiendas sobre contenidos inapropiados: Google deja claro que no permiten aplicaciones que contengan contenido sexual, como pornografía o desnudos sin consentimiento. Por su parte, Apple rechaza las aplicaciones que contengan material “abiertamente pornográfico”, así como las que difundan contenidos difamatorios.
Tras la publicación del informe, tanto Google como Apple han pedido a TTP la lista de aplicaciones que generan desnudos. Tras ello, Apple ha comunicado a CNBC que ya ha eliminado 28 apps, mientras que un portavoz de Google ha explicado también a CNBC que se han suspendido varias aplicaciones, sin especificar la cifra, que finalmente han sido 31, según TTP.
Las regulaciones de empresas como Google y Apple se suman a las de plataformas como X, que tras los anuncios de investigaciones por parte de gobiernos e instituciones, optó por limitar la función de generación de imágenes de Grok.
Más leídas de Tecnología
1“Los teléfonos plegables se volverán una tendencia generalizada en América latina”, dice HS Jo, CEO y Presidente de Samsung Latinoamérica
2Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 de menores
3Esta es la mejor playa de Cariló, según la IA, y no es la que creés
4Así se puede crear una aplicación gratis con la nueva inteligencia artificial de Google
