• 4 min de lectura
Google retira Nano Banana de Google Earth después de un día
Google retiró su herramienta de imágenes Nano Banana 2 de Google Earth después de que usuarios crearan y compartieran escenas engañosas del mundo real.
Imagen: TechRadar
Google ha retirado una función de generación de imágenes con IA de Google Earth después de que se utilizara para crear y compartir imágenes engañosas de desastres naturales, ataques terroristas, sumideros gigantes, actividad alienígena y poblaciones de refugiados en lugares donde esos sucesos nunca ocurrieron.
La función estuvo disponible solo durante un día, según el informe de TechRadar. Su rápida retirada muestra lo rápido que una herramienta puede desviarse de demostraciones inocuas hacia la desinformación, sobre todo cuando el contenido generado se superpone a imágenes que los usuarios ya perciben como autoritativas.
Cómo funcionaba la función Nano Banana de Google Earth
La función integraba Nano Banana 2, el modelo de generación de imágenes de Google, en Google Earth para la web. Google ya había promocionado Nano Banana 2 en la aplicación Gemini, pero la integración en Earth añadió una nueva capa: los usuarios podían generar imágenes basadas en las imágenes satelitales, aéreas y en 3D existentes de Google Earth.
Los usuarios solo necesitaban introducir un texto. Google Earth combinaba sus datos geográficos del mundo real con el contenido generado por el modelo para producir una imagen personalizada. Google sugería usos como:
- Crear una infografía sobre la Estatua de la Libertad
- Visualizar una casa de ensueño junto a un lago
- Mostrar cómo podría verse un vecindario dentro de 100 años
- Reimaginar Pompeya antes de que la erupción del Monte Vesubio la cubriera de ceniza y roca
Google describió la función como una forma de “generar imágenes personalizadas para ayudarte a visualizar la historia, crear planes inmobiliarios y más.”
Recomendado
Las gafas inteligentes afrontan una prueba de privacidad
“Por primera vez, puedes generar imágenes personalizadas usando las imágenes satelitales, aéreas y en 3D de Google Earth junto con Nano Banana, que crea conceptos fundamentados en el mundo real.”
El modelo en sí no era nuevo. El cambio significativo fue situar su salida junto a imágenes precisas y reconocibles de Google Earth, lo que otorgó a las escenas fabricadas una apariencia de mayor autenticidad.
Por qué Google eliminó la función
La herramienta se utilizó rápidamente para crear imágenes engañosas que luego se compartieron ampliamente en las redes sociales. Algunas eran bromas, pero otras se hicieron deliberadamente para difundir confusión y desinformación. El uso de las imágenes reales de Google Earth hizo que esos montajes parecieran más creíbles de lo que lo habrían sido imágenes totalmente sintéticas.
Google dijo que vio una avalancha de imágenes “que parecen violar nuestras políticas” y que, por ello, estaba eliminando la función mientras desarrollaba protecciones más estrictas.
“Estamos retirando esta función de Google Earth mientras trabajamos en implementar protecciones más fuertes.”
La compañía también afirmó que las imágenes generadas no aparecían en la experiencia principal de Google Earth para otros usuarios y estaban marcadas con una filigrana como generadas por IA. Sin embargo, esa salvaguardia no impidió que los usuarios exportaran o compartieran las imágenes en otros lugares, y la función fue retirada antes de que Google anunciara cuándo podría volver.
El problema de añadir IA en todas partes
El episodio también ha alimentado las críticas de usuarios que dicen que algunos productos no necesitan un cuadro de entrada para IA. TechRadar informa que usuarios de Reddit describieron una función así como de “uso cero” y se quejaron de que la IA se les estaba “imponiendo a la fuerza”.
El artículo señala la reciente retirada de algunas funciones de IA en el Bloc de notas de Microsoft tras las quejas de los usuarios. En ambos casos, la cuestión no es simplemente si la tecnología funciona, sino si tiene cabida en un producto cuyo valor está ligado a la simplicidad o a la confianza en la información.
La retirada de Google también ilustra la brecha entre una demostración controlada del producto y su uso público. Antes de lanzar una función de IA, las empresas deben prever que la gente comprobará de inmediato sus límites de maneras engañosas y dañinas, en lugar de confiar solo en los casos de uso previstos.
Para los usuarios, la consecuencia práctica es un mayor escepticismo hacia imágenes y vídeos de fuentes no fiables. La función de Google incluía marcas de agua, pero la propia declaración de la compañía confirma que aún se necesitaban salvaguardias más fuertes después del primer día de disponibilidad pública.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
vía TechRadar
