Quando uma escola bloqueia aplicações de inteligência artificial, é natural que famílias e professores entendam que os alunos deixaram de ter acesso a esse tipo de recurso. Mas a tecnologia nem sempre está separada em caixas tão claras: ferramentas de IA podem aparecer dentro de um motor de pesquisa, de um navegador ou de uma plataforma que continua autorizada para tarefas escolares. É nesse ponto que um processo judicial envolvendo uma adolescente de 13 anos levanta questões importantes sobre segurança, supervisão e responsabilidade.

Segundo o portal Sapo.pt, os pais da jovem processaram a Google na Califórnia. A ação alega que a adolescente, identificada nos documentos pelo nome fictício “Emma”, usou funcionalidades de inteligência artificial integradas na Pesquisa Google para conversar sobre suicídio e planear a própria morte. A família sustenta que ela não tinha acesso ao Gemini ou ao ChatGPT, bloqueados pela escola, mas continuava a poder utilizar o motor de pesquisa da Google num Chromebook escolar.

As alegações descritas numa ação judicial não são, por si só, uma decisão de um tribunal nem comprovam responsabilidade da empresa. Ainda assim, o caso evidencia um desafio concreto: bloquear uma aplicação específica pode não impedir o acesso a capacidades semelhantes incorporadas noutros serviços. Este guia explica o que está em causa, como a pesquisa com IA funciona em termos gerais e que medidas práticas podem ajudar famílias e escolas — sem tratar filtros tecnológicos como substitutos de apoio humano.

O que se sabe sobre o processo contra a Google

De acordo com a notícia do Sapo.pt, a ação foi apresentada na Califórnia a 2 de novembro. Os pais acusam a Google de negligência na proteção de menores que usam as suas ferramentas de inteligência artificial. Segundo a família, a jovem começou por recorrer às funções de IA para questões escolares; ao longo do tempo, as conversas teriam passado a abranger problemas pessoais e saúde mental.

O ponto central não é apenas se uma adolescente podia abrir uma aplicação chamada “Gemini”. A alegação é que funcionalidades de IA disponíveis dentro da Pesquisa Google poderiam ter permitido interações relacionadas com um tema de elevado risco, apesar de outras aplicações estarem bloqueadas no dispositivo escolar. A ação poderá, por isso, colocar em debate a responsabilidade associada à integração de IA em ferramentas já utilizadas em escolas.

Há limites importantes no que se pode concluir com as informações disponíveis:

  • O processo apresenta alegações da família: não equivale a uma conclusão judicial sobre o que aconteceu ou sobre quem é legalmente responsável.
  • Não estão descritos todos os pormenores técnicos: a notícia não especifica a configuração do Chromebook, as políticas de administração da escola nem a sequência completa das interações.
  • Os produtos mudam: funções, nomes, disponibilidade e controlos podem variar conforme o país, a conta, a idade do utilizador e a data.
  • O caso não prova que um filtro específico falhou: para determinar isso seriam necessários dados técnicos e factos que não constam do texto noticioso fornecido.

Como a IA pode surgir mesmo quando uma aplicação está bloqueada

Um bloqueio escolar costuma ser configurado para controlar aplicações, sites, contas ou categorias de conteúdo. Mas “bloquear o Gemini” e “bloquear qualquer funcionalidade de IA” são objetivos diferentes. Um motor de pesquisa pode combinar resultados tradicionais — como páginas e ligações — com respostas geradas por modelos de IA. O acesso pode acontecer dentro da mesma página que o aluno já utiliza para pesquisar matérias escolares.

Aplicação, serviço e funcionalidade não são a mesma coisa

Uma aplicação é um programa ou serviço claramente identificável. Uma funcionalidade, por outro lado, pode ser acrescentada a um produto mais amplo, como pesquisa, navegador, editor de texto ou plataforma educativa. Se a escola bloqueia um endereço ou uma aplicação, mas permite o serviço que incorpora a nova função, o aluno pode continuar a encontrar recursos automatizados nesse serviço.

Também há diferenças entre bloquear um site, restringir uma conta e desativar um recurso numa consola de administração. O que funciona depende de quem administra o dispositivo, do tipo de conta e das opções disponíveis no produto. Um Chromebook gerido pela escola, por exemplo, pode obedecer a regras diferentes de um computador pessoal com o mesmo navegador.

Por que os filtros de segurança não são infalíveis

Serviços de IA podem usar várias camadas de proteção: classificação do pedido, regras de segurança, análise do contexto e geração de uma resposta limitada ou de um encaminhamento para ajuda. Em termos técnicos, estas camadas tentam identificar situações de risco e evitar respostas que possam aumentar o perigo. No entanto, a interpretação da linguagem é difícil. Uma conversa pode mudar de assunto gradualmente, usar expressões indiretas ou misturar uma pergunta escolar com sofrimento pessoal.

Além disso, uma resposta gerada é produzida a partir do contexto que o sistema consegue interpretar naquele momento. Se o modelo não reconhecer uma situação como urgente, ou se a resposta de segurança não corresponder às necessidades da pessoa, a proteção pode ser insuficiente. Isso não significa que todos os filtros falhem da mesma forma, nem permite concluir o que ocorreu neste caso específico. Significa que nenhum sistema automático deve ser tratado como garantia absoluta de segurança.

O que famílias e escolas podem fazer na prática

Os controlos técnicos são úteis para reduzir riscos e orientar o acesso, mas funcionam melhor como parte de uma estratégia mais ampla. O objetivo não deve ser apenas impedir uma pesquisa: é também criar condições para que um jovem peça ajuda sem medo de punição ou humilhação.

  1. Confirmar quem administra o dispositivo. Pergunte à escola se o Chromebook é gerido centralmente e quais regras se aplicam à Pesquisa Google, ao navegador e às contas utilizadas. Num computador pessoal, verifique se a conta é supervisionada e quem pode alterar as definições.
  2. Rever os controlos disponíveis. Em serviços de supervisão familiar, procure as secções relacionadas com filtros de pesquisa, navegação, aplicações e permissões. A interface costuma apresentar menus ou cartões com opções de controlo; os nomes e a disposição podem mudar conforme a versão e o país. Leia a descrição da opção antes de a ativar.
  3. Testar com uma conta e um dispositivo adequados. Depois de alterar uma regra, confirme, sem recorrer a conteúdos potencialmente nocivos, se o filtro está ativo e se o dispositivo respeita a política. Uma configuração aplicada à conta de um adulto pode não se aplicar à conta escolar da criança.
  4. Estabelecer regras compreensíveis. Explique quais ferramentas podem ser usadas para trabalhos, que dados pessoais não devem ser partilhados e a quem recorrer quando uma resposta ou conversa causar desconforto.
  5. Manter conversas regulares. Pergunte como a criança usa a tecnologia e se encontrou respostas confusas ou perturbadoras. Uma conversa calma tende a revelar mais do que uma abordagem centrada apenas em castigos ou vigilância.
  6. Definir um plano de resposta. Se surgirem sinais de sofrimento, priorize escuta, segurança e apoio profissional. Não espere que uma configuração digital resolva uma situação emocional urgente.

Os detalhes visuais das definições não são universais. Menus podem mudar, e algumas opções só aparecem para administradores escolares ou titulares de contas familiares. Por isso, não é responsável prometer que um botão específico estará sempre visível ou que ativar um filtro bloqueará todas as formas de pesquisa com IA.

Comparação: que medidas podem ajudar — e quais são os limites

Não existe uma única configuração capaz de substituir supervisão adequada. Estas opções têm funções diferentes e podem ser combinadas:

  • Controlo parental, como o Google Family Link: pode ajudar a gerir aspetos da conta e do dispositivo de uma criança, conforme as opções disponíveis. É útil para estabelecer limites e acompanhar configurações, mas não garante que todas as respostas geradas sejam seguras nem substitui diálogo e apoio especializado.
  • Filtros de pesquisa, como o SafeSearch: podem reduzir a exposição a determinados resultados explícitos. São uma camada de filtragem, não um sistema completo de proteção emocional; não devem ser considerados um bloqueio universal a conteúdos de risco.
  • Políticas de administração escolar: permitem que a escola configure dispositivos e serviços geridos, de acordo com os recursos e as regras da instituição. Têm a vantagem de poder ser aplicadas a vários equipamentos, mas dependem de configuração correta, atualização e comunicação clara com as famílias.
  • Acompanhamento humano e apoio profissional: não filtra páginas automaticamente, mas permite compreender contexto, sofrimento e mudanças de comportamento. É indispensável quando há preocupação com a segurança de um jovem.

Ao avaliar essas opções, a pergunta mais útil não é “qual delas resolve tudo?”, mas “que risco cada uma reduz, que risco permanece e quem acompanha o que acontece?”. Uma política escolar também deve deixar claro a quem estudantes e famílias podem recorrer, como são tratados os relatos de risco e quais são os limites de privacidade e monitorização.

IA na educação: a tendência que o caso ajuda a revelar

A IA está a ser incorporada em produtos que já fazem parte da rotina escolar. Isso altera o trabalho de escolas e famílias: em vez de avaliar apenas uma lista de aplicações autorizadas, será necessário considerar funcionalidades que aparecem dentro de serviços mais amplos. Motores de pesquisa, editores e plataformas de aprendizagem podem mudar de comportamento sem que o nome principal do produto mude.

Uma consequência provável é a procura por políticas mais específicas. Em vez de dizer apenas “esta aplicação está proibida”, uma escola poderá precisar de definir que tipos de interação são permitidos, que recursos estão desativados e como se reage a uma situação de risco. Também será importante distinguir entre proteção de menores, privacidade dos estudantes, monitorização escolar e liberdade para pesquisar temas legítimos de saúde e bem-estar.

Para as empresas de tecnologia, o desafio é tornar as proteções apropriadas à idade mais claras, consistentes e fáceis de administrar. Para as escolas, é garantir que as regras acompanham as funções realmente disponíveis, e não apenas os nomes de aplicações conhecidos. Para as famílias, é compreender que filtros ajudam, mas não são vigilância perfeita. O resultado dependerá de escolhas técnicas, políticas escolares e mecanismos de apoio que funcionem em conjunto.

Como conversar com uma criança sobre pesquisa e IA

Uma conversa sobre tecnologia não precisa começar com uma acusação. Pode começar com perguntas abertas, como “Que ferramentas usas para estudar?” ou “Já recebeste uma resposta de IA que te deixou desconfortável?”. O objetivo é permitir que a criança conte o que aconteceu sem receio de perder imediatamente o acesso ao dispositivo ou de ser responsabilizada por pedir ajuda.

Vale também explicar que sistemas de IA podem errar, apresentar informação incompleta ou não compreender uma situação pessoal. Ensine a criança a não partilhar dados sensíveis, a interromper uma conversa que a deixe angustiada e a procurar um adulto de confiança. Se houver preocupação concreta com risco de suicídio ou autolesão, não trate a situação como um simples problema de filtros: permaneça com a pessoa, procure ajuda profissional e recorra aos serviços de emergência quando houver perigo imediato.

No Brasil, o CVV atende pelo número 188 para apoio emocional. Em situação de emergência médica, ligue para o SAMU pelo 192. Em Portugal ou noutro país, procure os serviços locais de crise e emergência; o número europeu de emergência é 112. Se houver risco imediato, não dependa de uma conversa com um chatbot ou de uma resposta numa pesquisa.

Perguntas frequentes

A ação judicial prova que a IA da Google causou a morte da adolescente?

Não. A notícia descreve acusações apresentadas pelos pais. Uma ação judicial não é uma decisão final e, com as informações publicadas no texto, não é possível determinar o que ocorreu em todos os detalhes nem atribuir responsabilidade legal.

Bloquear o Gemini impede o acesso a todas as ferramentas de IA?

Não necessariamente. Uma função de IA pode estar integrada num produto diferente, como um motor de pesquisa. O alcance de um bloqueio depende das regras aplicadas à conta e ao dispositivo, das opções de administração e das funcionalidades disponíveis no momento.

O SafeSearch ou um controlo parental garantem proteção contra conteúdo perigoso?

Não. Esses recursos podem reduzir certos tipos de exposição ou ajudar a gerir o uso de dispositivos, mas não garantem que todos os resultados e respostas sejam seguros. Também não identificam de forma infalível o sofrimento emocional de uma criança.

O que devo fazer se um jovem disser que está a pensar em suicídio?

Leve a declaração a sério, escute sem repreender e procure apoio de um profissional de saúde ou de um serviço de crise. Se existir perigo imediato, não deixe a pessoa sozinha e contacte os serviços de emergência locais. No Brasil, o CVV atende pelo 188; para emergência médica, o SAMU atende pelo 192.

E você, já testou essa funcionalidade? Conte sua experiência (ou dúvidas) nos comentários! Se este guia te ajudou, compartilhe com alguém que também precisa saber disso. E para receber nossos tutoriais e análises em primeira mão, assine a newsletter do Tech Advisor Brasil.