ChatGPT para adolescentes: pais podem definir limites, mas não ler as conversas

ChatGPT agora comporta-se de forma diferente para adolescentes. A OpenAI lançou o ChatGPT for Teens, e o sistema é automático: utilizadores entre os treze e os dezassete anos recebem uma versão do produto já configurada com limites mais apertados do que a predefinição para adultos. Não é necessária qualquer ação por parte do adolescente, nem é necessária adesão dos pais. A funcionalidade começou a ser disponibilizada globalmente nessa semana e espera-se que a implementação de duas semanas esteja concluída em todos os mercados.

Os controlos parentais, acessíveis através de uma conta familiar, são mais cuidadosos do que a maioria das plataformas oferece. Um dos pais pode definir horas de silêncio — janelas específicas do dia em que o ChatGPT fica inacessível para a conta do adolescente — e desativar independentemente o modo de voz, a geração de imagens ou a funcionalidade de memória persistente que permite ao ChatGPT lembrar detalhes ao longo das conversas. Cada um destes é um interruptor individual. Existe também a opção de recusar que a OpenAI utilize as conversas do adolescente para treinar modelos futuros, algo que não está ativado por predefinição nas contas normais.

O que os pais não podem fazer é ler o que o filho escreveu ao ChatGPT. Esta é uma decisão de design deliberada, não uma lacuna na implementação. A posição da OpenAI é que os adolescentes que suspeitam que as suas conversas possam ser partilhadas com os pais simplesmente não usarão o produto para aquilo com que realmente precisam de ajuda — e um adolescente que não pode perguntar a uma IA sobre algo sensível, sem julgamento, perde a parte mais útil da tecnologia. Os controlos dão aos pais ferramentas para definir limites de tempo e modo; o conteúdo das conversas permanece privado.

O modelo em si tem restrições incorporadas que se aplicam independentemente das definições parentais. O ChatGPT for Teens tem um tratamento mais rigoroso de tópicos relacionados com automutilação, distúrbios alimentares e violência. O modelo é treinado para redirecionar em vez de se envolver nesses assuntos, e as mesmas restrições aplicam-se no Study Mode — uma nova funcionalidade que transforma as respostas em questionários e perguntas de prática em vez de respostas diretas. O Study Mode foi concebido para apoiar os trabalhos de casa sem os substituir, exigindo que o adolescente recupere a informação em vez de a copiar simplesmente.

A questão da verificação da idade é onde os limites do sistema se tornam evidentes. A OpenAI utiliza um modelo de previsão de idade, não uma verificação formal de identidade, para classificar os utilizadores como adolescentes. Os adolescentes que forneceram uma data de nascimento falsa quando se registaram inicialmente — uma prática comum em plataformas com restrições de idade — provavelmente não serão reclassificados. A implementação visa novas contas e contas com datas de nascimento corretamente registadas. A OpenAI não divulgou que proporção da sua base de utilizadores existente se insere no grupo dos 13 aos 17 anos, mas os investigadores têm consistentemente descoberto que o grupo é grande e desproporcionalmente intenso no uso de ferramentas de IA para fins académicos.

A lógica de design mais ampla merece uma pausa para reflexão. A OpenAI está a tentar conciliar duas coisas ao mesmo tempo: uma arquitetura de segurança suficiente para satisfazer pais e reguladores, e privacidade suficiente para ser genuinamente útil aos adolescentes. As horas de silêncio e as restrições de tópicos abordam a primeira; a recusa em partilhar registos de conversas aborda a segunda. Se este equilíbrio é correto é uma questão sobre a qual pessoas razoáveis podem discordar. O que é notável é que a OpenAI tornou a troca explícita — optaram pela utilidade para os adolescentes em detrimento da vigilância parental, e disseram-no.

O ChatGPT for Teens está disponível agora em todas as plataformas. A implementação global de duas semanas começou a 18 de agosto.

Etiquetas: inteligência artificial, OpenAI, chatgpt, ChatGPT for Teens, controlo parental, segurança digital adolescentes