Se duas pessoas descrevem o mesmo problema a um chatbot, deveriam receber orientações equivalentes? Uma investigação da Plan International sugere que a resposta pode variar conforme o género percebido pelo sistema — e que essa diferença não é apenas uma curiosidade tecnológica. Para adolescentes, recomendações aparentemente simples podem influenciar a forma de lidar com emoções, imaginar uma carreira ou procurar ajuda.

Segundo o portal Observador.pt, o relatório A mesma pergunta, respostas diferentes: impactos de género da IA na adolescência analisou experiências de jovens, respostas do ChatGPT a testes controlados e legislação de oito jurisdições. Entre os exemplos relatados, uma rapariga que dizia sentir-se triste e inútil recebeu sugestões ligadas à música ou à arte; para um rapaz com uma descrição equivalente, a ferramenta recomendou atividade física.

Esse exemplo não prova, por si só, que todos os chatbots respondem dessa forma, nem permite concluir que todas as recomendações são prejudiciais. Mas levanta uma questão importante: quando um sistema de inteligência artificial (IA) personaliza uma resposta com base em sinais de género, está a ajudar a pessoa ou a repetir expectativas sociais antigas? Neste guia, explicamos o que a investigação indica, como podem surgir essas diferenças e o que jovens, famílias e educadores podem fazer na prática.

O que o relatório da Plan International investigou

O estudo combina três frentes de investigação: um inquérito a jovens dos 13 aos 19 anos de quatro continentes, testes controlados com o ChatGPT e uma análise da legislação em oito jurisdições. Esta combinação permite olhar para o tema por ângulos diferentes: a experiência dos próprios jovens, o comportamento de uma ferramenta em situações comparáveis e a capacidade das regras existentes para responder aos riscos.

De acordo com a notícia do Observador.pt, a conclusão central é que disponibilizar a mesma tecnologia a raparigas e rapazes não garante que ambos recebam o mesmo tratamento ou nível de proteção. Os autores do relatório alertam para a possibilidade de a IA reproduzir e amplificar desigualdades que já existem fora das plataformas digitais.

O que o exemplo da tristeza mostra — e o que não mostra

Uma sugestão de ouvir música ou fazer arte pode ser útil para algumas pessoas; praticar desporto também pode ajudar outras. O problema não é a atividade em si. A preocupação surge quando a ferramenta distribui conselhos diferentes de forma sistemática com base no género, em vez de considerar as preferências, a situação e as necessidades individuais de quem pediu ajuda.

É importante interpretar o resultado com cuidado. A informação publicada na notícia não apresenta taxas de ocorrência, todos os prompts usados nos testes, nem a frequência com que cada resposta apareceu. Por isso, o exemplo ilustra uma possível diferença, mas não permite medir a sua prevalência em todos os utilizadores ou serviços de IA. Também não demonstra, isoladamente, que o género foi o único fator a influenciar a resposta.

Essa distinção é essencial: identificar um sinal de risco não equivale a provar que cada resposta é discriminatória. Ainda assim, testes controlados são úteis porque permitem comparar respostas quando se altera apenas um elemento do pedido, como o género indicado na descrição.

Como um chatbot pode reproduzir estereótipos

Um chatbot não tem crenças ou intenções humanas. Em geral, produz texto calculando quais sequências de palavras são prováveis e adequadas ao contexto, a partir de padrões aprendidos durante o treino e de ajustes feitos para tornar as respostas mais úteis e seguras. Essa capacidade pode gerar explicações convincentes, mas não garante que as associações implícitas nos dados sejam justas.

Dados de treino e padrões sociais

Os modelos são treinados com grandes quantidades de texto. Se as fontes usadas apresentarem, por exemplo, mais homens associados a certas profissões e mais mulheres a tarefas de cuidado, essas associações podem influenciar as respostas. Mesmo quando os criadores aplicam filtros e correções, é difícil detetar e eliminar todos os padrões — sobretudo quando aparecem em muitas formas indiretas.

Além disso, uma associação estatística não é uma regra explícita do tipo “raparigas devem fazer arte”. O modelo pode combinar pistas do pedido, exemplos aprendidos e escolhas de linguagem para produzir uma sugestão que pareça natural, mas que acabe por seguir um padrão estereotipado.

O papel do pedido, do contexto e da personalização

A resposta também depende da formulação do prompt. “Sinto-me triste e inútil” é diferente de “estou triste porque falhei num jogo e quero uma atividade para me distrair”. O historial de conversa, as definições da conta e as instruções personalizadas — quando disponíveis — podem alterar o resultado. Por isso, para avaliar diferenças de género, investigadores procuram manter o máximo possível de elementos iguais entre pedidos.

Alguns sistemas também podem usar mecanismos de segurança ou personalização para adaptar o tom e o tipo de orientação. Esses mecanismos não são necessariamente transparentes para o utilizador. Uma resposta mais acolhedora, por exemplo, pode ser desejável; uma recomendação que trate a pessoa de forma condescendente ou limite as suas opções por causa do género não é.

Onde as diferenças podem ter impacto

O relatório, conforme resumido pelo Observador.pt, destaca que os efeitos podem ir além de uma sugestão de lazer. A Plan International chama a atenção para possíveis influências nas aspirações profissionais, nas expectativas salariais, na imagem corporal, no bem-estar emocional e na segurança online.

  • Carreira e estudos: respostas que apresentam certas áreas como mais apropriadas para um género podem estreitar as opções que um jovem considera possíveis.
  • Salário e negociação: conselhos diferentes sobre ambição, liderança ou remuneração podem reforçar expectativas desiguais, mesmo sem declarar abertamente que alguém deve ganhar menos.
  • Imagem corporal: recomendações sobre aparência, peso ou aceitação social podem aumentar a pressão sentida por adolescentes.
  • Bem-estar emocional: uma resposta que minimize sofrimento ou ofereça uma solução superficial pode atrasar a conversa com um adulto de confiança ou um profissional.
  • Segurança online: adolescentes podem pedir ajuda sobre assédio, exposição de imagens ou relações abusivas; nesse contexto, uma orientação incompleta pode ter consequências relevantes.

Não significa que um chatbot vá determinar o futuro de quem o utiliza. O risco é mais gradual: a repetição de sugestões limitadas pode normalizar certas expectativas, especialmente quando o utilizador confia na ferramenta ou a consulta com frequência.

Como verificar se a resposta parece enviesada

Famílias, educadores e jovens podem fazer uma verificação simples, sem tratar um único resultado como prova definitiva. A ideia é observar se a ferramenta oferece possibilidades comparáveis quando o pedido permanece igual e só muda uma característica da pessoa descrita.

  1. Escreva um pedido neutro. Por exemplo: “Tenho 16 anos, sinto-me desanimado e queria ideias seguras para me sentir um pouco melhor. O que posso tentar?”. Evite incluir detalhes que não sejam necessários.
  2. Registe a resposta sem a editar. Guarde o texto ou anote as sugestões, o tom usado e se o chatbot recomenda procurar apoio de alguém de confiança.
  3. Altere apenas um elemento. Repita o pedido mudando, por exemplo, “sou uma rapariga” para “sou um rapaz”. Mantenha o restante texto igual.
  4. Compare as opções e a linguagem. Veja se uma versão recebe mais variedade, incentivo ou validação emocional do que a outra; observe também se alguma resposta presume gostos ou capacidades.
  5. Repita com prudência. Os modelos podem produzir respostas diferentes em tentativas sucessivas. Uma comparação isolada não demonstra um padrão; várias observações semelhantes são mais informativas.
  6. Não introduza dados pessoais reais. Para uma experiência, não é preciso indicar nome completo, escola, morada, telefone, imagens ou informações que identifiquem um menor.

Na interface do chatbot, o utilizador normalmente vê uma área de conversa com as mensagens anteriores, uma caixa para escrever e um botão de envio — mas a disposição, as cores e os controlos mudam entre aplicações e versões. Não existe um botão universal de “teste de viés”, e esta análise manual não substitui uma investigação formal. Também não é necessário procurar uma configuração específica que talvez não esteja disponível na sua conta.

Como interpretar o resultado sem exagerar

Compare não só a atividade sugerida, mas também a qualidade do apoio. A resposta reconhece o sentimento? Oferece alternativas em vez de impor uma única solução? Evita presumir que todas as raparigas ou todos os rapazes têm os mesmos interesses? Indica procurar ajuda humana quando o problema parece persistente ou grave?

Se houver uma diferença, guarde a conversa sem expor dados pessoais e, quando apropriado, use os mecanismos de feedback da plataforma. Esse registo pode ser útil para uma discussão com educadores ou responsáveis, mas não deve ser publicado com informações que identifiquem o adolescente. Os nomes dos menus e a existência de opções para denunciar ou avaliar respostas dependem do serviço e podem mudar.

Chatbot, outros serviços ou ajuda humana: o que comparar

Não há uma ferramenta que seja automaticamente imparcial por ser conhecida, gratuita ou apresentada como mais avançada. ChatGPT, Gemini e Microsoft Copilot são serviços distintos, com modelos, políticas e interfaces que podem mudar. Uma comparação responsável deve avaliar a resposta concreta, a proteção de dados e a adequação à idade, em vez de assumir que uma marca elimina o problema.

  • ChatGPT: pode ajudar a organizar ideias e sugerir opções, mas a investigação da Plan International incluiu testes com esta ferramenta e identificou preocupações sobre respostas diferentes conforme o género. Isso não significa que todas as respostas sejam enviesadas nem permite generalizar automaticamente para outras versões.
  • Gemini ou Microsoft Copilot: podem ser usados como uma segunda opinião, mas também são sistemas generativos e podem apresentar limitações semelhantes. Usar dois chatbots não transforma a maioria das respostas numa avaliação profissional.
  • Conversa com um adulto de confiança: um familiar, professor, orientador ou profissional de saúde pode considerar o contexto e fazer perguntas de seguimento. A qualidade varia, e nem todos os adolescentes se sentem seguros para conversar com qualquer adulto; escolher alguém de confiança é importante.
  • Registo manual de opções: escrever várias atividades possíveis, avaliar o que parece confortável e escolher uma pequena ação evita depender de uma recomendação automatizada. É simples e não exige fornecer dados a uma plataforma, embora não substitua apoio especializado quando necessário.

Uma abordagem prática é usar a IA como ponto de partida, não como árbitro: pedir várias alternativas, questionar pressupostos e confirmar orientações importantes com uma pessoa qualificada. Ao avaliar um serviço, verifique também as regras de idade, as definições de privacidade e se as conversas podem ser usadas para melhorar o produto. Esses termos variam e devem ser consultados diretamente na plataforma.

O que fazer se um adolescente estiver em sofrimento

Um chatbot pode ajudar alguém a encontrar palavras para explicar o que sente, mas não consegue avaliar plenamente o contexto, observar sinais não verbais ou garantir acompanhamento. Uma mensagem como “sinto-me inútil” merece ser levada a sério, sem assumir automaticamente que se trata de uma emergência nem responder com julgamento.

  1. Escute e valide. Diga que está disponível para conversar e pergunte o que aconteceu, sem reduzir o sentimento a “drama” ou oferecer uma solução imediata.
  2. Pergunte sobre segurança quando necessário. Se houver sinais de perigo, pergunte de forma direta e calma se a pessoa pensa em magoar-se ou se está em risco naquele momento.
  3. Procure apoio humano. Ajude o jovem a falar com um responsável seguro, profissional de saúde, serviço de orientação escolar ou outra pessoa de confiança.
  4. Em perigo imediato, procure ajuda urgente. No Brasil, o CVV atende pelo 188; em situações de emergência médica, o SAMU pode ser acionado pelo 192. Se houver risco iminente, não deixe a pessoa sozinha e procure os serviços de emergência adequados.

Esses recursos não substituem acompanhamento clínico. A disponibilidade e a adequação do atendimento dependem da situação; perante perigo imediato, o caminho é acionar assistência de emergência.

Regulação: por que a proteção pode ficar para trás

O relatório analisou legislação de oito jurisdições e, segundo a notícia, os autores consideram que as regras não acompanharam a velocidade de evolução da IA. A dificuldade não é apenas escrever normas: é definir quem responde por danos, como auditar sistemas que mudam com frequência e como proteger menores sem bloquear usos legítimos da tecnologia.

Uma política eficaz pode combinar transparência sobre limitações, testes de segurança, proteção de dados, mecanismos de denúncia e avaliações específicas para crianças e adolescentes. Também é importante que auditorias não verifiquem apenas se um sistema funciona em média, mas se oferece qualidade e proteção comparáveis a diferentes grupos.

Há, contudo, limites práticos. Os modelos podem ser atualizados sem que o público conheça todos os detalhes; resultados podem depender do idioma e do contexto cultural; e uma resposta isolada não revela como o serviço se comporta em grande escala. Por isso, regras e auditorias precisam ser contínuas, e não uma certificação única feita antes do lançamento.

O que esperar nos próximos anos

À medida que chatbots entram em aplicações de estudo, entretenimento e apoio pessoal, adolescentes podem passar a consultá-los em momentos cada vez mais íntimos. É plausível que a discussão avance de uma pergunta simples — “o sistema respondeu de forma enviesada?” — para avaliações mais completas sobre personalização, saúde emocional, privacidade e diferenças entre idiomas.

Também é provável que aumente a pressão por avaliações independentes e por explicações mais claras sobre como os sistemas lidam com utilizadores menores de idade. Isso não garante que futuros modelos serão imparciais. A melhoria dependerá de dados mais representativos, testes que procurem diferenças entre grupos e mecanismos eficazes para corrigir problemas identificados.

Para os utilizadores, a regra mais duradoura é manter uma distância crítica: uma resposta fluente não é necessariamente correta, individualizada ou neutra. Se a recomendação parecer limitadora, estereotipada ou inadequada, é razoável pedir outras opções e procurar uma segunda opinião humana.

Perguntas frequentes

O ChatGPT recomenda sempre música para raparigas e desporto para rapazes?

Não há informação suficiente na notícia para afirmar isso. O exemplo descrito pela Plan International aponta para uma diferença observada em testes controlados, mas não prova que o padrão apareça em todas as conversas, versões ou contas. A resposta também pode depender da formulação do pedido e do contexto.

Uma sugestão diferente é automaticamente discriminação?

Não necessariamente. Uma resposta diferente pode resultar de detalhes distintos no pedido ou de variação normal do modelo. A preocupação aumenta quando testes comparáveis mostram diferenças consistentes e injustificadas, como oferecer menos opções ou menos apoio a um grupo. É preciso analisar o padrão, não apenas uma frase isolada.

É seguro um adolescente falar com um chatbot sobre emoções?

Pode ser útil como forma de organizar pensamentos ou encontrar palavras, mas não deve ser tratado como substituto de um profissional de saúde ou de um adulto seguro. Convém evitar partilhar dados identificáveis e procurar apoio humano se o sofrimento for persistente, intenso ou envolver risco de autoagressão.

Como posso comparar respostas de dois chatbots?

Use exatamente o mesmo pedido em cada serviço, alterando apenas o elemento que pretende analisar. Registe as respostas, repita a comparação e observe o tom, a variedade de sugestões e os avisos de segurança. Como os modelos mudam e podem responder de forma variável, o resultado é indicativo, não uma auditoria científica.

O que fazer se a resposta reforçar um estereótipo?

Pode pedir alternativas sem pressupostos de género, avaliar a resposta através dos canais de feedback disponíveis e conversar sobre o tema com um adulto de confiança. Se a questão envolver sofrimento emocional ou segurança, priorize apoio humano em vez de continuar a testar o chatbot.

E você, já testou essa funcionalidade? Conte sua experiência (ou dúvidas) nos comentários! Se este guia te ajudou, compartilhe com alguém que também precisa saber disso. E para receber nossos tutoriais e análises em primeira mão, assine a newsletter do Tech Advisor Brasil.