Google lanzó el 30 de julio una función en Google Earth que permitía superponer imágenes generadas con Nano Banana 2, su generador de imágenes, sobre fotografía satelital real. Un día después la retiró. Investigadores de código abierto habían mostrado que servía para fabricar escenas falsas: un cráter de explosión en Los Ángeles, el Capitolio de Estados Unidos inundado, un incendio en una isla de Irán que nunca ocurrió.
Henk van Ess, investigador independiente, y Jake Godin, de Bellingcat, avisaron en público de que la herramienta podía inundar la web de imágenes geoespaciales falsas y convincentes. Google respondió retirando la función el mismo 31 de julio, apenas veinticuatro horas después del lanzamiento.
El fallo no fue generar las imágenes. Fue la marca de agua. SynthID, el sistema de Google para etiquetar contenido generado con IA, resultó evitable en varias pruebas de BBC Verify: la marca de agua de IA falla precisamente en el escenario para el que se diseñó. Google prometió reactivar la función solo con protecciones más sólidas, sin fecha.
Esto no es un incidente aislado: cuando la competencia entre generadores de imágenes empuja a lanzar rápido, el control de calidad revisa que la función funcione, no que resista el uso adversarial. La marca de agua se trata como una casilla de cumplimiento, no como una defensa que alguien va a intentar romper activamente.
Para Marta, el caso desmonta un supuesto cómodo: que la marca de agua de un proveedor basta para cumplir con transparencia de IA. La obligación de etiquetar contenido generado con IA en la Unión Europea entró en vigor el 2 de agosto, con sanciones de hasta 15 millones de euros o el 3% de la facturación global. Delegar esa etiqueta por completo en el proveedor, sin verificarla, es un riesgo que ahora tiene precio real.
Si tu empresa usa o distribuye contenido generado con IA de cara a clientes en la Unión Europea, audita en los próximos 30 días qué marca de agua o etiqueta usa tu proveedor y si es verificable de forma independiente, no solo declarada por el fabricante. Google tardó un día en retirar su función tras la presión pública; una empresa mediana no tiene ese margen de reacción si el error lo comete un cliente suyo y no un buscador global.