A inteligência artificial tornou mais fácil criar imagens sintéticas convincentes — e essa capacidade também está sendo usada para produzir material de abuso sexual infantil. O problema não se limita à tecnologia: envolve a exploração de crianças, a circulação de conteúdo ilegal e a dificuldade de plataformas e autoridades para localizar e remover esse material com rapidez.

Segundo o portal Olhar Digital, a Internet Watch Foundation (IWF), organização britânica que monitora material de abuso sexual infantil, analisou 6.310 imagens ilegais geradas por IA no primeiro semestre de 2026. O número supera em cerca de 40% as mais de 4.500 imagens identificadas pela entidade durante todo o ano de 2025. O levantamento citado se refere a imagens estáticas; a organização também relata crescimento desse tipo de conteúdo em vídeos, mas esses arquivos não foram incluídos nessa contagem.

Os dados chamam a atenção, mas precisam ser interpretados com cuidado: eles descrevem o material encontrado e analisado pela IWF, não uma contagem completa de tudo o que existe na internet. A seguir, explicamos o que esse aumento pode indicar, por que imagens sintéticas causam danos mesmo quando não retratam uma vítima real identificável e o que fazer ao encontrar esse conteúdo.

O que os números da IWF mostram — e o que não mostram

A comparação divulgada é expressiva: em seis meses de 2026, a IWF avaliou 6.310 imagens ilegais, ante mais de 4.500 ao longo de 2025. Tomando 4.500 como referência aproximada, isso equivale a uma alta de cerca de 40%. Como o total de 2025 é descrito como “mais de 4.500”, a porcentagem deve ser entendida como aproximada, não como uma medida exata.

Também é importante distinguir “imagens analisadas” de “imagens existentes”. O número não revela quantas imagens estão em circulação no mundo, quantas foram publicadas pela primeira vez nem quantas representam vítimas diferentes. Um mesmo arquivo pode aparecer em mais de um local, e a quantidade encontrada depende de fatores como denúncias, capacidade de monitoramento, métodos de busca e critérios de classificação.

  • O que o dado indica: a IWF encontrou e avaliou um volume elevado de imagens sintéticas ilegais em um período curto.
  • O que não permite concluir sozinho: a dimensão total do conteúdo na internet ou a quantidade de crianças diretamente representadas.
  • O que merece atenção: a entidade relata uma tendência de crescimento ao longo de vários anos e destaca que vídeos não entraram nessa contagem específica.

De acordo com o relato do Olhar Digital sobre o levantamento, predominavam representações de meninas e de crianças entre sete e 13 anos. Essa informação ajuda a dimensionar o perfil do material avaliado, mas não deve ser confundida com uma descrição de todas as vítimas ou de todo o conteúdo produzido com IA.

Por que imagens sintéticas também podem causar danos reais

Uma imagem gerada ou manipulada por computador pode não retratar uma criança identificável em uma situação real. Isso, porém, não torna automaticamente o conteúdo inofensivo. A criação e a circulação de representações sexualizadas de crianças podem alimentar comunidades de abuso, normalizar a exploração e ser usadas para intimidar, assediar ou extorquir vítimas reais.

Além disso, imagens sintéticas podem incorporar o rosto ou a aparência de uma criança específica — por exemplo, por meio da manipulação de fotografias legítimas. Nesse caso, a vítima pode sofrer consequências concretas, como constrangimento, ameaças, bullying e perda de controle sobre sua imagem. A falsidade do arquivo não apaga o impacto sobre a pessoa retratada ou identificada.

Há ainda um desafio de identificação: para quem recebe uma imagem isolada, nem sempre é possível saber se ela é inteiramente sintética, manipulada a partir de uma fotografia real ou uma representação de um abuso ocorrido de fato. Essa avaliação exige cuidado e, quando necessário, análise especializada. Por isso, não se deve tentar “investigar” por conta própria nem compartilhar o arquivo para pedir opinião.

Como a IA facilita a produção e a circulação

Ferramentas modernas de geração de imagens conseguem criar conteúdo a partir de instruções em texto ou transformar imagens existentes. Em termos gerais, muitos desses sistemas aprendem padrões visuais a partir de grandes conjuntos de dados e, depois, produzem novas combinações. Interfaces simples e serviços acessíveis podem reduzir a barreira técnica para criar conteúdo — embora a facilidade de uso não torne legal ou aceitável qualquer finalidade.

O problema também está na distribuição. Sistemas automatizados podem produzir ou replicar conteúdo em grande escala, enquanto serviços de hospedagem, redes sociais e aplicativos de mensagens precisam detectar violações em ambientes com muito tráfego. Imagens alteradas, arquivos sem metadados e variações do mesmo conteúdo podem dificultar a identificação. Ao mesmo tempo, ferramentas de detecção podem cometer erros, sinalizando material legítimo ou deixando passar conteúdo ilegal.

Esse equilíbrio é delicado: uma resposta eficaz não depende apenas de encontrar imagens depois que elas circulam. Também requer prevenção no desenho dos produtos, canais de denúncia acessíveis, equipes treinadas, cooperação com autoridades e mecanismos que respeitem direitos e privacidade sem deixar de priorizar a proteção de crianças.

O que empresas de tecnologia podem fazer

Hannah Swirsky, chefe de políticas da IWF, defende, segundo a notícia, regras obrigatórias que responsabilizem empresas pelo desenvolvimento de ferramentas mais seguras. A discussão não se resume a proibir uma tecnologia específica. O foco é reduzir riscos previsíveis em serviços de geração, edição, hospedagem e compartilhamento de conteúdo.

Entre as medidas discutidas por especialistas e organizações de proteção estão:

  • Prevenção no produto: avaliar riscos antes do lançamento e criar barreiras contra usos que envolvam exploração sexual de crianças.
  • Regras claras de uso: explicar o que é proibido e aplicar consequências consistentes a quem viola as políticas.
  • Denúncia e resposta rápidas: oferecer um caminho fácil para reportar conteúdo e revisar alertas com equipes preparadas.
  • Proteção contra reincidência: evitar que arquivos já identificados sejam simplesmente reenviados ou republicados em outros espaços do mesmo serviço.
  • Transparência e prestação de contas: divulgar informações úteis sobre denúncias, remoções, falhas e medidas corretivas, sem expor vítimas.
  • Cooperação responsável: colaborar com organizações especializadas e autoridades conforme a legislação aplicável.

Há limites e riscos em cada abordagem. Um filtro automatizado pode errar, e a moderação baseada apenas em palavras-chave não identifica necessariamente o conteúdo visual. Por outro lado, depender exclusivamente de denúncias deixa a iniciativa com usuários e vítimas, que podem ser obrigados a encontrar material traumático. Uma estratégia robusta combina prevenção, detecção, revisão humana e procedimentos de recurso.

O que fazer se você encontrar esse tipo de imagem

A prioridade é não aumentar a circulação nem se colocar em risco. Não baixe, não encaminhe, não publique capturas de tela e não tente confirmar a autenticidade compartilhando o arquivo com outras pessoas. Uma denúncia pode ser feita sem transformar o conteúdo em mais uma cópia distribuída.

  1. Interrompa a interação. Não responda a quem publicou e não confronte a pessoa se isso puder aumentar o risco para uma criança ou para você.
  2. Use a ferramenta de denúncia da plataforma. Em geral, o fluxo começa no menu de opções da publicação, mensagem ou perfil. Procure algo como “Denunciar”, selecione a categoria relacionada a abuso ou exploração sexual infantil e siga as instruções. Os nomes e a aparência dos botões variam entre serviços; normalmente, a tela mostra uma lista de motivos e, depois, um aviso de confirmação.
  3. Registre apenas informações não explícitas. Se for seguro e necessário, anote o endereço da página, o nome do serviço, o perfil ou a data e o horário. Não faça uma cópia do material para guardar como “prova”. Se houver risco imediato para uma criança, procure as autoridades sem demora.
  4. Considere canais especializados no Brasil. A SaferNet Brasil recebe denúncias de crimes e violações na internet por meio de seus canais oficiais. O Disque 100 recebe denúncias de violações de direitos humanos, incluindo situações que envolvem crianças e adolescentes. Em uma emergência imediata, acione os serviços de emergência ou as autoridades policiais.
  5. Se uma criança que você conhece estiver envolvida, priorize o apoio. Evite culpabilizá-la ou pressioná-la a repetir detalhes. Preserve a segurança e procure orientação de profissionais e autoridades competentes.

As interfaces e os procedimentos dos serviços mudam, então não existe uma sequência visual única que sirva para todos. Em um fluxo típico, a pessoa verá um menu junto à publicação, uma lista de categorias de denúncia e uma tela final de confirmação. Se não encontrar a opção adequada, consulte a central de ajuda oficial da plataforma em vez de repostar o conteúdo em outro lugar.

Comparação: qual canal de denúncia usar?

O canal mais apropriado depende do que foi encontrado e da urgência. Em muitos casos, denunciar à plataforma e a um canal especializado são ações complementares, não alternativas excludentes.

  • Denúncia dentro da plataforma: costuma ser a opção mais direta para alertar o serviço que hospeda a publicação. Pode facilitar a análise e a remoção naquele ambiente, mas não garante que cópias em outros serviços sejam localizadas.
  • SaferNet Brasil: é uma alternativa voltada a denúncias de crimes e violações na internet. Pode ajudar a encaminhar informações a quem atua nessa área, mas não substitui atendimento emergencial quando há perigo imediato.
  • Disque 100: é um canal nacional para denúncias de violações de direitos humanos. É especialmente pertinente quando há uma criança em situação de risco ou suspeita de violência, embora não funcione como ferramenta de remoção de conteúdo de uma plataforma.
  • Polícia e serviços de emergência: devem ser considerados quando existe risco atual, ameaça, extorsão ou uma criança que precisa de proteção imediata. O atendimento e o procedimento variam conforme a situação e a localidade.

As leis aplicáveis podem depender do conteúdo, da conduta e da jurisdição. No Brasil, o Estatuto da Criança e do Adolescente prevê crimes relacionados a imagens de sexo explícito ou pornográficas envolvendo crianças e adolescentes, incluindo hipóteses de simulação ou manipulação visual. A aplicação a um caso concreto exige avaliação jurídica e das autoridades; não se deve concluir, apenas pela aparência de uma imagem, qual crime ocorreu ou quem é responsável.

Como agir sem espalhar o material

Uma reação bem-intencionada pode ampliar o dano se reproduzir a imagem. Se você quiser alertar outras pessoas, compartilhe informações gerais sobre o caso ou orientações de denúncia, sem anexar o conteúdo, descrever detalhes explícitos ou identificar uma possível vítima. Também evite publicar acusações contra indivíduos sem confirmação: isso pode atrapalhar uma investigação e atingir pessoas inocentes.

Se a imagem parecer representar alguém conhecido, não a envie à pessoa para “confirmar” nem a familiares em grupos de conversa. Faça a denúncia pelos canais apropriados e busque orientação de profissionais. A circulação de cópias, mesmo com a intenção de pedir ajuda, pode prolongar a exposição da criança.

O que pode acontecer nos próximos anos

O crescimento relatado pela IWF sugere que a resposta precisará acompanhar a evolução das ferramentas e dos serviços de distribuição. É razoável esperar mais pressão por regras de segurança desde a concepção dos produtos, avaliações de risco antes do lançamento e procedimentos mais claros de cooperação entre plataformas, organizações de proteção e autoridades. Isso é uma tendência possível, não uma garantia de que todas as empresas adotarão os mesmos padrões.

Também é provável que a detecção dependa cada vez mais da combinação entre sistemas automatizados e análise humana. A automação pode ajudar a priorizar grandes volumes de alertas; especialistas podem avaliar casos ambíguos e reduzir erros. Nenhum desses recursos resolve o problema sozinho. A eficácia deve ser medida não apenas pela quantidade de conteúdo removido, mas também pela rapidez da resposta, pela prevenção de novas publicações e pela proteção das pessoas afetadas.

Por fim, os dados precisam ser acompanhados com contexto. Um aumento nas imagens identificadas pode refletir maior produção, melhor capacidade de detecção, mais denúncias ou uma combinação desses fatores. Séries históricas, critérios transparentes e distinção entre imagens, arquivos e casos são essenciais para que governos, empresas e público compreendam a dimensão do problema sem exagerar conclusões.

Perguntas frequentes

O que significa dizer que o número cresceu 40%?

Significa que a IWF avaliou 6.310 imagens no primeiro semestre de 2026, aproximadamente 40% a mais do que as mais de 4.500 identificadas em todo o ano de 2025. É uma comparação entre os números informados pela organização, não uma estimativa de todo o material existente na internet.

Uma imagem gerada por IA pode ser ilegal mesmo sem mostrar uma vítima real?

Dependendo do conteúdo e da legislação aplicável, uma representação sintética pode ser ilegal. No Brasil, o ECA inclui disposições sobre certas representações visuais de sexo explícito ou pornográficas envolvendo crianças e adolescentes, inclusive situações de simulação ou manipulação. A classificação de um caso específico cabe às autoridades e a profissionais jurídicos.

Devo baixar a imagem para apresentar uma denúncia?

Não. Baixar ou encaminhar o arquivo pode ampliar sua distribuição e causar mais danos. Use a função de denúncia da plataforma e, se necessário, informe dados não explícitos, como o endereço da página ou o nome do serviço. Siga as orientações do canal oficial escolhido.

O que fazer se a imagem usar o rosto de uma criança conhecida?

Não compartilhe o arquivo para pedir confirmação e não culpe nem pressione a criança. Denuncie o conteúdo, preserve apenas informações não explícitas que ajudem a localizar a publicação e procure apoio de responsáveis seguros, profissionais ou autoridades competentes. Se houver ameaça ou perigo imediato, priorize a proteção da criança e acione os serviços de emergência.

Por que a denúncia à plataforma pode não ser suficiente?

A plataforma pode remover o material de seu próprio serviço, mas cópias podem existir em outros sites ou aplicativos. Quando apropriado, combine a denúncia na plataforma com um canal especializado ou oficial. A escolha depende da urgência e da situação da criança.

E você, já testou essa funcionalidade? Conte sua experiência (ou dúvidas) nos comentários! Se este guia te ajudou, compartilhe com alguém que também precisa saber disso. E para receber nossos tutoriais e análises em primeira mão, assine a newsletter do Tech Advisor Brasil.