Un nuevo informe ha puesto en la mira a Apple y Google por el papel que desempeñan sus tiendas de aplicaciones en la distribución de herramientas de inteligencia artificial con usos cuestionables.
La investigación sugiere que no solo existen este tipo de apps dentro de sus plataformas, sino que sus propios sistemas de búsqueda y recomendación podrían estar facilitando activamente su descubrimiento por parte de los usuarios.
Índice
Las apps siguen apareciendo en la App Store y Google Play
El análisis, realizado por el Tech Transparency Project, da seguimiento a hallazgos previos sobre aplicaciones capaces de modificar imágenes de personas mediante IA. Estas herramientas utilizan tecnologías como los deepfakes para generar contenido a partir de fotos reales, muchas veces sin controles claros o suficientes.
Según el informe, búsquedas con términos como “nudify”, “deepfake” o “face swap” continúan mostrando múltiples aplicaciones con estas funciones. En varios casos, estas apps aparecen entre los primeros resultados o incluso como contenido patrocinado dentro de las tiendas.
Además, las sugerencias automáticas de búsqueda pueden llevar a los usuarios hacia más aplicaciones similares, aumentando su visibilidad de forma indirecta y ampliando su alcance dentro del ecosistema digital.
Problemas en la moderación y clasificación
A pesar de que ambas compañías cuentan con políticas que prohíben contenido explícito o inapropiado, el informe señala inconsistencias en su aplicación. Algunas de estas aplicaciones han logrado mantenerse activas durante largos periodos, acumulando millones de descargas y generando ingresos significativos.
Uno de los aspectos más preocupantes es que varias de estas apps estaban clasificadas como aptas para menores, lo que incrementa el riesgo de exposición y abre nuevas preocupaciones sobre la protección de usuarios más jóvenes.
Tras la publicación del informe, ambas compañías eliminaron parte de las aplicaciones señaladas, aunque no ofrecieron detalles sobre posibles cambios en sus sistemas de revisión, control de anuncios o algoritmos de recomendación.
El reto de la inteligencia artificial
El crecimiento de herramientas basadas en IA ha complicado la moderación dentro de las plataformas digitales. Estas aplicaciones pueden generar contenido altamente realista, lo que dificulta distinguir entre usos legítimos y potencialmente problemáticos, especialmente cuando se combinan con funciones automatizadas.
Aunque la tecnología tiene aplicaciones válidas en ámbitos creativos y profesionales, también plantea retos importantes en términos de privacidad, consentimiento y seguridad digital, que aún no están completamente resueltos.
Un desafío para el futuro de las plataformas
Este caso deja claro que las tiendas de aplicaciones no son completamente neutrales. Sus algoritmos de búsqueda, recomendaciones y publicidad influyen directamente en el contenido que los usuarios descubren y consumen.
A medida que la inteligencia artificial continúa evolucionando, tanto Apple como Google enfrentan una presión creciente para reforzar sus controles, mejorar sus sistemas de moderación y evitar que sus plataformas contribuyan, incluso de forma indirecta, a la difusión de herramientas que puedan ser utilizadas de forma indebida.
