Google desativou IA para editar mapas de satélite em menos de 24 horas

O Google Earth passou duas décadas a tornar-se a referência visual padrão para quem tenta verificar o aspeto real do mundo físico. Jornalistas usam-no para documentar zonas de conflito. Investigadores de direitos humanos usam-no para localizar centros de detenção. Inspetores da ONU consultam-no a partir da segurança de um escritório. A Google deu-lhe algo novo: um gerador de imagens com IA diretamente ligado ao mapa de satélite.

A ferramenta, construída com base no Nano Banana 2, o modelo de geração de imagens da Google, funcionou como anunciado. Os utilizadores escreviam um prompt de texto — «mostrar Pompeia antes da erupção» ou «transformar esta costa num infográfico» — e a IA sobrepunha imagens geradas nas coordenadas reais correspondentes. Os casos de uso legítimos eram fáceis de imaginar. Os perigosos revelaram-se igualmente fáceis de executar.

Henk van Ess, jornalista de investigação, foi um dos primeiros a documentar o problema. Poucas horas após o lançamento, gerou uma central nuclear fictícia sobre uma localização no Irão. O resultado era suficientemente convincente para ilustrar o risco. Mais preocupante foi o que aconteceu quando testou a salvaguarda incorporada: a Google tinha inserido marcas de água SynthID — a camada de autenticação de IA da empresa — em cada imagem gerada. Van Ess contornou-a ao fotografar o ecrã em vez de fazer uma captura de ecrã. Ferramentas de deteção de IA de terceiros classificaram a imagem resultante como tendo apenas 1% de probabilidade de ser gerada por IA.

A defesa da Google era tecnicamente precisa, mas praticamente inadequada. A empresa notou que as imagens geradas «não apareciam na experiência principal do Google Earth para outros verem» — eram específicas da sessão, visíveis apenas para o criador. Essa distinção colapsa quando se fotografa o ecrã e se partilha o resultado. Uma imagem de satélite fabricada de uma instalação sensível, a circular com apenas uma legenda, é indistinguível de uma criada para enganar.

Há aqui uma tensão estrutural que barreiras de proteção mais fortes podem não resolver totalmente. A mesma capacidade que torna a geração de imagens com IA útil também a torna perigosa quando a fonte subjacente são dados de satélite de confiança. Essa confiança depende do pressuposto de que o que o Google Earth mostra reflete a realidade física. No momento em que o conteúdo gerado pode ser sobreposto a coordenadas reais — e a camada de autenticação derrotada por uma câmara — esse pressuposto tem uma fissura que não se fecha quando a funcionalidade é desativada.

A funcionalidade foi retirada a 31 de julho, menos de 24 horas após o lançamento. A Google reconheceu ter visto «capturas de ecrã de imagens geradas que parecem violar as nossas políticas» e comprometeu-se a implementar «barreiras de proteção mais fortes» antes de qualquer relançamento. Não foi dado qualquer prazo. O momento acrescenta mais uma camada: a partir de 2 de agosto, as disposições de execução integral do EU AI Act estão em vigor em toda a Europa, tornando obrigatória a rotulagem de conteúdo gerado por IA que possa enganar os utilizadores — incluindo, precisamente, imagens sintéticas inseridas em fontes de informação de confiança.

Etiquetas: Google, ia, deepfakes, Google Earth, imagens de satélite, desinformação