Twitch treina a IA da Amazon com as suas transmissões por defeito e esconde o opt-out

A definição chegou silenciosamente, escondida num menu de segurança que a maioria dos streamers nunca abre: um simples botão que decide se tudo o que transmitem se torna combustível para a inteligência artificial da Amazon. Na Twitch, esse botão já vem ligado de fábrica. Para impedir que o teu trabalho entre nos dados de treino, tens de saber que existe, encontrá-lo e desligá-lo tu próprio.

Esta é a parte que os guias de como desativar costumam omitir. A opção de desativar não é a história. A predefinição é a história, e também o é a razão que a empresa apresenta para a mesma.

Questionado numa live da empresa sobre porque é que a funcionalidade vem ativada em vez de desativada, o chief product officer da Twitch, Mike Minton, não recorreu à linguagem habitual sobre capacitação do utilizador. “Se fosse opt-in, ninguém optava”, disse. “Essa é honestamente a resposta. Portanto, vai estar ativada por defeito.” É algo raro: um executivo a descrever, em voz alta, um mecanismo de consentimento construído para suprimir o consentimento.

O que conta como dados de treino aqui é praticamente tudo. Pelas próprias contas da Twitch, as streams de um canal, transmissões passadas, clips, destaques, chat, e o texto e imagens na página podem todos ser usados para ensinar modelos da Amazon cuja função declarada é gerar ou sintetizar texto, áudio, imagens e vídeo. A empresa que possui a plataforma obtém um corpus continuamente atualizado de performance humana ao vivo. As pessoas que o geram recebem um interruptor sobre o qual nunca foram informadas.

Enquadra-se como o que está a acontecer à Amazon em vez de ao streamer, e a forma muda. A Amazon não está a raspar um site rival. É dona do tubo, da audiência e agora do feed de treino, e transformou uma década de trabalho de criadores num fosso de dados proprietário para modelos que um dia poderão gerar exatamente o conteúdo que esses criadores vendem. A opção de desativar é a pista. Apenas rege o treino futuro, não os anos já acumulados, e Minton admitiu não saber o que foi feito com esse material. “Na verdade, não sei a resposta a essa pergunta”, disse.

A Twitch está, de forma estranha, à frente dos seus pares no papel. O YouTube treina com uploads de criadores sem qualquer opção de desativação, e a Meta faz o mesmo no Facebook e Instagram sem oferecer nenhuma. Um botão, por mais escondido que esteja, é mais do que qualquer um deles dá. Mas isso é a indústria a avaliar-se a si própria numa curva. A pergunta que um proprietário de plataforma deve responder não é se oferece menos coerção do que a Google. É se as pessoas cujo trabalho treina os seus modelos concordaram. O próprio chefe de produto da Twitch já respondeu a essa: perguntados diretamente, teriam dito que não.

Desligar a definição não desliga a máquina. A Twitch continuará a usar AutoMod, legendas, recomendações e ferramentas de anúncios no conteúdo do canal, e afirma que estes não retêm dados para construir novos modelos. Desativar também não faz nada quanto às palavras e imagens de um streamer aparecerem nos chats de outros canais. Não há forma de ver quem optou por ativar e quem não, nenhuma contabilização pública de consentimento numa plataforma que acabou de tornar o consentimento a predefinição que ninguém escolheu.

O interruptor está no fundo de um menu, uma opção entre muitas, fácil de ignorar. Esse foi o design. Na maior plataforma de livestreaming da internet, o custo de não ler as letras miúdas é agora um papel permanente e não remunerado como dados de treino para a empresa que é dona do palco.

Etiquetas: amazon, IA generativa, Mike Minton, streamers, Twitch