• 2 min de lectura
San Francisco ordena a Apple y Google retirar aplicaciones 'nudify'
San Francisco ordenó a Apple y Google eliminar 13 aplicaciones 'nudify' impulsadas por IA, citando riesgos derivados de imágenes deepfake no consentidas y una moderación débil en las tiendas.
Imagen: Engadget
El fiscal de la ciudad de San Francisco, David Chiu, ha ordenado a Apple y Google retirar 13 aplicaciones 'nudify' impulsadas por IA de sus respectivas tiendas de aplicaciones. Las empresas recibieron cartas de cese y desistimiento acusándolas de 'ayudar y facilitar' la difusión de imágenes íntimas no consentidas y las instaron a dejar de colaborar con los desarrolladores detrás de las apps.
Según informó Wired, las apps pueden generar imágenes deepfake desnudas de personas reales. Chiu demandó anteriormente a 16 sitios web que permitían a los usuarios convertir fotos de mujeres y niñas reales en pornografía generada por IA. Dijo a Wired que Apple y Google podrían haber ganado millones de dólares con pagos dentro de las apps vinculados a las aplicaciones y afirmó que sus sistemas de moderación deben impedir que se aprueben.
Un informe del Tech Transparency Project (TTP) a principios de este año encontró que las aplicaciones 'nudify' aparecían con frecuencia en ambas plataformas. Afirmó que algunas se promocionaban activamente en la App Store y Google Play, mientras que otras estaban clasificadas como 'E' (para todos), lo que podría permitir que los niños las descargaran. El informe indicó que los usuarios podían encontrar las apps buscando términos como 'nudify' o 'undress', pese a las prohibiciones de ambas compañías sobre contenido sexual y pornográfico.
Google dijo a Wired que había eliminado 'cientos' de apps con funciones de nudificación, incluidas cinco identificadas por Chiu. La compañía afirmó que sus políticas prohíben el contenido sexual y que toma 'medidas rápidas' cuando las apps denunciadas violan sus normas. Apple no hizo comentarios antes de la publicación.
Recomendado
Las cámaras de Flock enfrentan una creciente reacción en contra
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía Engadget
