Ciência

Meredith Whittaker, a presidente do Signal que quer a IA longe das suas mensagens

Penelope H. Fritz
Adicione-nos no Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Nascimento2000
OcupaçãoPresidente da Signal Foundation
PrémiosPrémio Helmut Schmidt Future

Na sexta-feira, o Signal ativou uma definição que a maioria dos seus utilizadores nunca chegará a notar. Nos novos iPhone, a aplicação impede agora que a IA Siri, da Apple, leia o que está no ecrã dentro de uma conversa e bloqueia por defeito as capturas de ecrã; no Android, fecha a janela sempre que o Gemini, da Google, tenta espreitar. Meredith Whittaker, presidente do Signal, anunciou ela própria a alteração e, na mesma publicação, admitiu que não era suficiente. Os agentes que a Apple, a Google e a Microsoft estão a integrar nos seus sistemas operativos continuam a conseguir aceder ao que está guardado no dispositivo e, num Mac, o Signal não consegue travá-los de todo. Whittaker classificou a situação como uma ameaça existencial para a aplicação que dirige.

A batalha assenta-lhe como uma luva e expõe, ao mesmo tempo, o dilema que atravessa a sua carreira. Whittaker passou mais de uma década na Google antes de se tornar uma das críticas mais incisivas do modelo de negócio que a sustentou. Hoje lidera um serviço de mensagens sem fins lucrativos que se recusa a recolher dados, não vende nada e depende de donativos, mas que tem de viver em telemóveis construídos precisamente pelas empresas cujos produtos de IA ela considera irresponsáveis. O Signal consegue cifrar uma mensagem de ponta a ponta. Não consegue cifrar o sistema operativo.

O seu caminho até à tecnologia foi improvável. Whittaker estudou Retórica e Literatura Inglesa na Universidade da Califórnia, em Berkeley, e entrou na Google em 2006, onde ficou treze anos. Fundou o grupo Open Research, que trabalhava com académicos e programadores de código aberto na medição da neutralidade da rede, na privacidade e na segurança, e foi cofundadora da M-Lab, a Measurement Lab, uma rede aberta que se tornou a maior fonte pública de dados sobre o desempenho da internet.

A medição ensinou-a a desconfiar de afirmações que chegam sem provas. Em 2017, cofundou o AI Now Institute, na Universidade de Nova Iorque, com a investigadora Kate Crawford, na sequência de um simpósio organizado pela Casa Branca. O instituto estudava o que a inteligência artificial faz às pessoas sobre quem é aplicada, e não o que consegue fazer numa demonstração, e os seus relatórios voltavam sempre a um mesmo argumento: o problema de fundo era menos uma questão de código enviesado do que de quem é dono destes sistemas e contra quem são apontados. Mais tarde ocupou a cátedra de investigação Minderoo na NYU e foi diretora do corpo docente do AI Now; hoje é a sua conselheira principal.

Esse argumento colocou-a em rota de colisão com a entidade patronal. Em 2018, redigiu uma petição contra o Project Maven, um contrato do Pentágono ao abrigo do qual a Google desenvolvia ferramentas de visão computacional para o programa de drones dos EUA. Mais de três mil funcionários assinaram-na e a Google não renovou o contrato. Meses depois, foi uma das principais organizadoras da Google Walkout, quando mais de vinte mil trabalhadores abandonaram os seus postos depois de se ter noticiado que a empresa pagara uma indemnização de saída de 90 milhões de dólares a Andy Rubin, um quadro acusado de má conduta sexual. Whittaker afirmou mais tarde que a Google retaliou, mandando-a abandonar o trabalho no AI Now. Saiu em julho de 2019.

No mesmo verão, disse à Comissão de Ciência da Câmara dos Representantes que os sistemas de IA podem cristalizar preconceitos e pediu proteção para os denunciantes do setor tecnológico. No início de 2020, foi mais longe perante a Comissão de Supervisão da Câmara dos Representantes, defendendo que o problema do reconhecimento facial não era apenas a precisão, mas o poder de quem o aplica a pessoas com menos poder, e pedindo que a sua utilização fosse suspensa. A partir de novembro de 2021, foi conselheira sénior para a inteligência artificial da presidente da Comissão Federal do Comércio, Lina Khan.

O Signal contratou-a em setembro de 2022 como a sua primeira presidente, um cargo criado em conjunto com a direção da aplicação. O Signal não tem publicidade nem dados de utilizadores para vender, e Whittaker tem dito abertamente que o seu funcionamento custa cerca de 50 milhões de dólares por ano. Grande parte do início do seu mandato foi dedicada a explicar por que razão um serviço de mensagens que guarda quase nada sobre os utilizadores precisa, ainda assim, de uma grande equipa de engenharia e de doadores constantes, e por que razão a alternativa é ser pago em vigilância.

Os críticos apontam os limites desse modelo. O protocolo de cifragem do Signal já protege as conversas do WhatsApp, mas a própria aplicação continua a ser uma fração da dimensão do produto da Meta construído sobre a sua criptografia, e a influência de Whittaker junto dos governos assenta em grande medida numa única ameaça: a de que o Signal abandonará um país em vez de enfraquecer a sua cifragem. Já a dirigiu à União Europeia e, de novo em junho, ao Reino Unido. A ameaça é credível porque uma aplicação financiada por donativos não tem acionistas a quem agradar, mas faz também com que a resposta do Signal aos reguladores se aproxime mais do exílio do que da negociação. O episódio que deu à aplicação o seu maior pico de atenção revelou um desfasamento semelhante. Quando se descobriu, em março de 2025, que altos responsáveis norte-americanos tinham discutido planos militares num grupo do Signal que incluía, por acidente, um jornalista, Whittaker defendeu a cifragem como o padrão de excelência na comunicação privada e salientou que nenhuma aplicação consegue impedir que as pessoas adicionem a pessoa errada a uma conversa. Uma exposição pública dessa dimensão é difícil de recusar e ainda mais difícil de controlar.

Desde então, o seu foco deslocou-se dos governos para as empresas que fabricam os dispositivos. Em Davos, em janeiro, classificou os agentes de IA dos sistemas operativos como perigosos para os serviços cifrados, avisando que um sistema com acesso root pode ser sequestrado. Numa entrevista à Bloomberg, em junho, disse que os chatbots não são nossos amigos e descreveu um assistente com acesso aos seus dados de pagamento e à sua conta do Signal como uma espécie de porta dos fundos. Esta semana, testes realizados pela Reuters com funcionários do Signal e do AI Now concluíram que o agente Muse, da Meta, lia conversas do Signal no Android através do acesso às notificações, e Whittaker qualificou de tecnologicamente imprudentes os agentes com esse alcance.

Em 2023, a TIME incluiu-a na sua primeira lista das pessoas mais influentes em inteligência artificial. Em maio de 2024, recebeu em Hamburgo o Prémio Helmut Schmidt do Futuro, atribuído pelo Die Zeit e pelos seus parceiros pelo trabalho em democracia e tecnologia, e em julho de 2025 integrou o conselho de administração do grupo de media alemão Hubert Burda Media.

O que acontecerá a seguir depende menos do Signal do que da Apple, da Google e da Microsoft. Whittaker pediu às três uma forma documentada de permitir que as aplicações mantenham os agentes de IA afastados dos seus ecrãs e dos seus dados, e o Signal diz-se cautelosamente otimista quanto ao envolvimento da Google e da Apple. Se a construírem, o bloqueio que ela ativou esta semana passa a ser um padrão da indústria. Se não o fizerem, o serviço de mensagens mais privado do mercado continuará a lançar soluções de contorno contra os telemóveis em que funciona, e a sua presidente continuará a dizê-lo em público.

Etiquetas: , , , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.