La herramienta de deepfakes de IA de Google Earth duró un día

Google retiró una función de Google Earth apenas un día después de lanzarla, tras pruebas que mostraron que los usuarios podían generar alteraciones convincentes en imágenes satelitales a partir de indicaciones de texto.

La función usaba Nano Banana 2 para modificar escenas en Google Earth. El investigador de Digital Digging Henk van Ess generó deliberadamente imágenes que mostraban refugiados cerca de la frontera mexicana y un cráter de bomba junto a un hospital en Gaza. Dijo que sus pruebas no encontraron una resistencia significativa por parte del sistema:

“No se rechazó nada, no se suavizó nada y nada me sugirió probar con otra indicación.”

Recomendado

Empresas de IA compran miles de libros

Google le dijo inicialmente a van Ess el jueves que las imágenes generadas llevaban una marca de agua digital y que la compañía bloqueaba “la creación de imágenes sobre temas dañinos”. Pero la empresa dio marcha atrás al día siguiente, después de que capturas de pantalla de las imágenes generadas parecieran violar sus políticas.

“Sabemos que la gente confía de forma única en Google Earth para obtener una visión fiable del mundo. Hemos visto a profesionales geoespaciales usar esta función para una variedad de propósitos útiles; sin embargo, también hemos visto a personas compartir capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Por eso estamos retirando esta función en Google Earth mientras trabajamos en implementar salvaguardas más fuertes.”

Van Ess también informó que un vídeo generado en Google Earth engañó a la herramienta de detección de IA de Hive, demostrando cómo el material podría circular potencialmente a pesar de su marca de agua. Google dijo que las imágenes generadas no aparecían en la experiencia principal de Google Earth para otros usuarios y estaban etiquetadas como generadas por IA. La empresa no dijo cuándo, ni si, la función volvería después de implementar salvaguardas más estrictas.