A ferramenta de deepfake com IA do Google Earth durou um dia — e abalou a confiança que a sustenta

A forma mais rápida de compreender o que a Google acabou de fazer ao Google Earth é reparar na rapidez com que o desfez. Uma funcionalidade que permitia a qualquer pessoa pintar realidade inventada no mapa mais confiável do planeta chegou, gerou uma onda de alarme entre as pessoas que verificam imagens profissionalmente, e desapareceu antes que a maioria dos utilizadores sequer a visse. A Google chamou à reversão uma pausa. Parece mais uma empresa a descobrir, em público, que tinha lançado a coisa errada no produto errado.

O mecanismo importa mais do que o espetáculo. Todo o valor do Google Earth é probatório: é para onde jornalistas, tribunais, monitores humanitários e investigadores de fontes abertas vão precisamente porque uma vista de satélite é difícil de falsificar. Aparafusar um gerador de imagem a partir de texto a essa superfície não é adicionar um brinquedo criativo — é degradar a única propriedade que tornava o produto digno de confiança. A ferramenta fez aquilo para que foi construída. Esse foi o problema.

A defesa da Google, antes da retirada, era uma marca d’água. Cada imagem gerada, notou a empresa, trazia SynthID, a sua marca invisível para conteúdo de IA, e os utilizadores podiam sempre verificar uma imagem com o Gemini ou o Lens. Mas uma marca d’água é uma ferramenta forense para pessoas que já duvidam de uma imagem e têm meios para a inspecionar. Não faz nada no momento que realmente importa — o scroll, a partilha, a captura de ecrã arrancada do contexto e empurrada para um feed onde ninguém para para verificar. Oferecer o SynthID como salvaguarda era menos um controlo do que um álibi: a prova de que o risco tinha sido considerado e aprovado.

Leitura recomendadaUma IA escreveu uma exploração zero-day funcional — a Google travou-a a tempo

O que o mundo exterior produziu em horas é a parte com que a Google deveria refletir. Os investigadores que estudam estes sistemas profissionalmente não precisaram de semanas. Geraram uma central nuclear no Irão, refugiados a aglomerar-se numa fronteira, uma cratera de bomba num hospital, uma cratera de explosão numa cidade ocidental — o catálogo exato de imagens que movem mercados, inflamam conflitos e ultrapassam qualquer correção. Um investigador relatou que nada do que pediu foi recusado. Isso não é uma história sobre uso indevido inteligente. É uma história sobre um lançamento que parece não ter sobrevivido ao teste adversarial mais básico antes de ir ao ar — testes que estranhos depois realizaram gratuitamente, à custa da Google.

Os investigadores da Bellingcat há muito tratam a imagiologia de satélite como uma aposta segura numa economia de desinformação, precisamente porque a fonte estava muito acima e fora de alcance. O perigo de uma ferramenta como esta não é uma única falsificação. É o perigo ambiente: assim que imagens de satélite falsas e credíveis se tornam triviais de criar, todas as imagens reais se tornam discutíveis. O falsificador ganha mesmo quando a falsificação é detetada, porque a dúvida é o produto. Já existe um precedente — imagens de satélite fabricadas de uma base americana danificada circularam durante um conflito recente no Médio Oriente, montadas a partir de imagens da Terra e IA. A Google acabou de tentar transformar esse fluxo de trabalho num botão.

Portanto, a questão da responsabilidade não é se a Google agiu rapidamente. É porque é que a funcionalidade existiu de todo, neste produto, com uma marca d’água a servir de guarda-corpo. Uma vida útil de vinte e quatro horas não é um triunfo de capacidade de resposta; é o recibo de um processo de governação que deixou um dano previsível ser lançado e contou com a internet para o apanhar. A empresa diz que vai trazer a funcionalidade de volta com controlos mais fortes. A leitura mais honesta é que a Google gastou uma fração do ativo mais duramente conquistado do Google Earth — a sua credibilidade enquanto prova — para descobrir se podia safar-se com a troca.

Não conseguiu, desta vez. Mas o mapa já foi mostrado como pintável, e esse conhecimento não se desfaz com a funcionalidade.

Etiquetas: Google, deepfakes, Google Earth, imagens de satélite, Nano Banana

Conteúdo semelhante

A crise da autenticidade na era dos media sintéticos

Quando a nuvem toca o chão: a crise energética da IA e o fim da geografia virtual

A multa de mil milhões da UE à Google pode baixar o preço das apps e piorar as pesquisas

Quando o algoritmo audita a física: o colapso silencioso da autoridade da revisão por pares

O Gambito Suncatcher: Por Dentro do Plano da Google para Conquistar o Futuro da IA

As pessoas fazem scroll até encontrar uma imagem que prove que foi feita por um ser humano