A pesar de sus políticas de prohibición, las tiendas de aplicaciones Play Store de Google y App Store de Apple ofrecen alrededor de 50 aplicaciones cada una que permiten generar desnudos utilizando inteligencia artificial (IA).

Una investigación de Tech Transparency Project (TTP) reveló que, pese a la creciente polémica sobre la generación de imágenes explícitas con IA, Google y Apple aún alojan estas aplicaciones. Se identificaron 55 aplicaciones de este tipo en la Play Store de Google y 47 en la App Store de Apple. Entre ellas destaca Grok, el chatbot de X (antes Twitter), conocido por generar miles de imágenes explícitas, incluyendo desnudos de menores.

TTP encontró estas aplicaciones buscando "nudify" y "undress" en las tiendas. Estas apps se dividen en dos categorías: las que generan imágenes y vídeos a petición, y las que crean "deepfakes" superponiendo rostros en cuerpos ajenos.

Un ejemplo es DreamFace, con más de 10 millones de descargas, que permitía generar avatares o vídeos de baile con IA. TTP probó la aplicación subiendo una foto de una mujer y solicitando un vídeo de ella bailando y quitándose la blusa, lo cual la app realizó sin restricciones, pese a prohibir contenido "sexualmente explícito" en sus términos de servicio. DreamFace estaba disponible para mayores de 13 años en Play Store y mayores de 9 en App Store, permitiendo a niños generar desnudos fácilmente.

Según AppMagic y TTP, estas aplicaciones han generado 705 millones de descargas y 117 millones de dólares en ingresos. TTP denuncia que Google y Apple se lucran con estas aplicaciones, a pesar de prohibirlas en sus políticas. Las políticas de Google prohíben contenido sexual, como pornografía o desnudos sin consentimiento, mientras que Apple rechaza material "abiertamente pornográfico" y contenido difamatorio.

Tras el informe, Google y Apple solicitaron a TTP la lista de aplicaciones. Apple eliminó 28 aplicaciones y Google suspendió varias, aunque TTP precisa que fueron 31.

Estas regulaciones se suman a las de plataformas como X, que limitó la función de generación de imágenes de Grok tras investigaciones gubernamentales.