Por que EUA e Rússia estão enfraquecendo o tratado da ONU sobre armas autônomas com IA — e o que isso significa para o futuro da guerra

Imagine um cenário em que um algoritmo, sem qualquer intervenção humana, decide em milissegundos se um alvo é inimigo ou civil, se deve abrir fogo ou não, e — mais perturbador — se deve ou não preservar uma vida. Esse cenário, que durante anos pertencia à ficção científica, está cada vez mais próximo da realidade operacional. E o mais alarmante: as duas maiores potências militares do mundo parecem estar convergindo para garantir que ele permaneça sem freios internacionais.

No início de setembro, uma sala de conferências da ONU sediou centenas de diplomatas com a missão histórica de construir o primeiro acordo internacional para regular armas autônomas letais — conhecidas no jargão técnico como LAWS (Lethal Autonomous Weapons Systems). Mas, segundo reportagem do Washington Post divulgada pelo Olhar Digital, Estados Unidos e Rússia agiram nos bastidores para remover justamente as cláusulas que dariam ao tratado algum poder vinculante. Este artigo mergulha no que foi tirado, no que foi mantido, nas implicações geopolíticas e no que a tecnologia por trás dessas armas já permite fazer hoje.

O que está em jogo: o conceito de armas autônomas com IA

Antes de discutir política internacional, é fundamental entender o objeto da disputa. Uma arma autônoma letal não é simplesmente um drone teleguiado — tecnologia que já existe há décadas. A diferença está em quem (ou o quê) toma a decisão final de matar.

A diferença crucial entre armas automatizadas e autônomas

  • Armas automatizadas: seguem regras pré-programadas por humanos. Exemplo clássico: torpedos de submarino que detectam assinatura sonora e atacam. O ser humano define os parâmetros e dá o disparo inicial.
  • Armas autônomas: usam IA para interpretar o ambiente, identificar alvos e tomar decisões de engajamento sem aprovação humana em tempo real. O humano sai do ciclo de decisão, não apenas do gatilho.

A saída do humano do ciclo decisório — em inglês, human-out-of-the-loop — é o ponto que mais preocupa pesquisadores, militares da linha progressista e organizações como a Campaign to Stop Killer Robots. Quando uma máquina decide sozinha quem vive e quem morre, surgem perguntas sobre responsabilidade legal, vieses algorítmicos, falhas de reconhecimento e proporcionalidade no uso da força.

O que exatamente EUA e Rússia removeram do rascunho

De acordo com o Olhar Digital, três blocos de linguagem foram enfraquecidos ou suprimidos durante as negociações. Vamos dissecar cada um, porque entender o que saiu do texto é mais revelador do que ler o comunicado oficial.

1. A exigência de supervisão humana significativa

A proposta original pedia que sistemas de armamento baseados em IA mantivessem "supervisão humana significativa" sobre o ciclo de seleção e engajamento de alvos. Esse conceito, conhecido tecnicamente como Meaningful Human Control (MHC), foi debatido por mais de uma década em fóruns como a CCW (Convenção sobre Certas Armas Convencionais) da ONU.

O termo foi diluído. Em vez de MHC, restaram formulações vagas como "considerações apropriadas" ou "conforme o direito internacional aplicável" — expressões que não criam obrigação concreta. Na prática, isso abre caminho para sistemas human-out-of-the-loop, onde o operador apenas dá início à missão e o software decide o restante.

2. A obrigatoriedade de operação "previsível" e "confiável"

Essa cláusula obrigaria que fabricantes e operadores demonstrassem, antes do uso operacional, que seus sistemas de IA se comportariam de maneira previsível e confiável em diferentes cenários — incluindo situações imprevistas.

Esse ponto é tecnicamente espinhoso. Sistemas de IA modernos, especialmente os baseados em redes neurais profundas, são notórios por seu comportamento de "caixa preta". Um modelo pode performar com 99,9% de acurácia em testes e, em produção, diante de um input nunca visto antes, tomar uma decisão completamente inesperada. Exigir previsibilidade determinística para esses sistemas é, do ponto de vista técnico, quase impossível com a tecnologia atual.

Foi exatamente por isso que EUA e Rússia aproveitaram para remover o requisito. Não é apenas má-fé geopolítica — há um problema de engenharia real por trás da objeção.

3. A inclusão de considerações éticas no uso da arma

O terceiro bloco removido pedia que princípios éticos — incluindo distinção entre combatentes e civis, proporcionalidade e necessidade militar — fossem formalmente incorporados ao uso operacional de armas com IA.

A remoção dessa cláusula é particularmente simbólica. Direito Internacional Humanitário (DIH), codificado nas Convenções de Genebra de 1949 e seus protocolos adicionais, já exige esses princípios para qualquer arma. Removê-los do tratado de LAWS é, na prática, dizer que sistemas autônomos podem operar em uma zona cinzenta onde essas obrigações históricas não se aplicam diretamente — ou, no mínimo, ficam em segundo plano.

Por que isso importa para você, mesmo que não trabalhe com defesa

Pode parecer distante do cotidiano de um profissional de tecnologia no Brasil. Não é. Veja três motivos práticos:

  1. Mesma tecnologia, outros usos: as redes neurais, sensores LiDAR e algoritmos de tracking usados em armas autônomas são os mesmos que equipam carros autônomos, sistemas de vigilância urbana e plataformas de moderação de conteúdo. Regulações permissivas em um setor vazam para outros.
  2. Compras governamentais: o mercado global de defesa é o maior comprador de IA avançada do mundo. Quando EUA e Rússia definem padrões permissivos, isso pressiona aliados — incluindo o Brasil, em foros como o BRICS — a seguir o exemplo.
  3. Precedente regulatório: o tratado da ONU seria o primeiro a cobrir IA bélica. Se falhar, ele servirá de argumento para impedir regulações mais duras em IA civil — sempre haverá alguém dizendo "se pode em guerra, pode em comércio".

O pano de fundo geopolítico: por que esses dois países, especificamente

Não é coincidência que Washington e Moscou tenham convergido nesse ponto, apesar de estarem em lados opostos da maioria dos conflitos geopolíticos. Eles compartilham um interesse comum: não abrir mão de uma vantagem estratégica.

A posição dos EUA

Washington argumenta, oficialmente, que um tratado vinculante poderia "inovar" antes da tecnologia, atrapalhando o desenvolvimento de sistemas defensivos legítimos. O Pentágono publicou em 2023 uma diretriz (DoD Directive 3000.09) que, na teoria, mantém humanos "no loop" — mas na prática permite autonomia significativa em sistemas como o Replicator Initiative, que visa produzir milhares de drones autônomos nos próximos anos.

A posição da Rússia

Moscou depende fortemente de drones autônomos ou semi-autônomos em sua campanha na Ucrânia, especialmente modelos como o Lancet-3, que opera com identificação automática de alvo. Aceitar MHC rígido significaria comprometer táticas que, na visão russa, estão funcionando no campo de batalha.

Comparativo: como o mundo está lidando com IA em sistemas de armas

Para colocar a discussão em perspectiva, vale comparar as abordagens regulatórias atuais:

  • União Europeia: apesar de ter o AI Act — a legislação de IA mais avançada do mundo —, a aplicação militar foi explicitamente excluída. Países membros operam sob jurisdição nacional, o que gera um mosaico regulatório. A França e a Alemanha, por exemplo, defendem posições próximas às de Washington.
  • China: apoia publicamente algum nível de regulação internacional, mas investe massivamente em enxames de drones autônomos (swarm drones) e em veículos de combate não tripulados. Sua posição nas negociações é vista com ceticismo por ONGs.
  • Reino Unido e Austrália: aderem à lógica do "human-in-the-loop" mínimo — humanos precisam apenas aprovar o engajamento inicial, não cada alvo individual.
  • Brasil: participa das discussões na ONU, mas não possui legislação específica sobre armas autônomas. A Política Nacional de Defesa menciona IA como prioridade, sem detalhamento sobre uso letal autônomo.

O lado técnico: por que "previsibilidade" é o calcanhar de Aquiles

Voltando ao ponto da cláusula removida sobre operação "previsível e confiável": essa exigência, embora desejável, colide com a realidade da IA contemporânea. Vale entender o porquê.

O problema da caixa preta

Modelos de aprendizado profundo aprendem padrões estatísticos a partir de dados de treinamento. Quando recebem um novo input, eles geram uma saída — mas o caminho interno até aquela saída é frequentemente opaco. Ferramentas de interpretabilidade como SHAP, LIME oferecem aproximações, mas não fornecem garantias determinísticas.

O problema da distribuição de dados

Um sistema treinado para identificar tanques no deserto pode interpretar de maneira completamente errônea um cenário urbano com condições de iluminação diferentes. Isso é chamado de distribution shift e é a principal causa de falhas em sistemas de IA em produção. Em um cenário militar, esse erro pode custar vidas civis.

O problema adversarial

Pesquisadores já demonstraram que adesivos colados em um poste podem fazer um carro autônomo "ver" o poste como uma pessoa — e vice-versa. Em contextos de guerra, ataques adversariais contra sistemas autônomos são uma ameaça real e documentada.

Esses problemas são exatamente o que a cláusula "previsível e confiável" tentava endereçar. Ao removê-la, EUA e Rússia estão, na prática, declarando que preferem avançar com a tecnologia mesmo sem garantias técnicas mínimas — transferindo o risco para soldados e civis no terreno.

Projeção: o que esperar dos próximos anos

Com base no histórico de negociações da ONU em tecnologias sensíveis — cibersegurança, biologia sintética, armas químicas —, três cenários são plausíveis:

  1. Cenário provável (60%): o tratado da ONU sai como um documento de princípios não vinculantes, semelhante à Declaração de Genebra sobre IA de 2024. Normas, mas sem enforcement. Armas autônomas continuam sendo desenvolvidas sem freios concretos.
  2. Cenário pessimista (25%): as negociações colapsam, e nenhum tratado emerge. Cada país segue seu próprio código de conduta, com um braço de ferro tecnológico EUA-China-Rússia.
  3. Cenário otimista (15%): pressão de opinião pública, desastres de campo e coalizões de países médios (incluindo potenciais do Sul Global) empurram para um tratado mais robusto nos próximos 5 a 10 anos.

Na prática, observando o ritmo das reuniões da CCW desde 2014, o cenário mais provável é o primeiro — e isso significa que a regulação efetiva virá, se vier, de outros fronts: legislação doméstica, pressão de investidores (ESG em defesa) e normas técnicas da indústria.

O que profissionais e empresas de tecnologia podem fazer agora

Mesmo que você não trabalhe diretamente com defesa, há ações concretas que o ecossistema de tech pode tomar:

  • Engajamento em políticas públicas: comentar consultas públicas sobre IA em defesa, especialmente em órgãos como o MDIC e o Ministério da Defesa.
  • Diligência em contratos: empresas que fornecem componentes de visão computacional, navegação ou sensores devem revisar contratos para garantir que seus produtos não estão sendo integrados a armas autônomas que violem o DIH.
  • Pesquisa responsável: ao publicar modelos de código aberto, considerar adicionar responsible AI licenses que restrinjam usos bélicos, como já fazem o BigScience e a Open R1.
  • Educação técnica: incluir nos currículos de ciência da computação e engenharia ética em IA, com módulos específicos sobre uso militar.

Perguntas frequentes (FAQ)

1. Armas autônomas com IA já estão sendo usadas em conflitos reais hoje?

Sim, de forma limitada. Sistemas como o drone israelense Harpy operam em modo "fire-and-forget" há décadas, mas são considerados automatizados, não totalmente autônomos. Plataformas mais avançadas, como o Kargu-2 turco (relatado em uso na Líbia em 2020) e o Lancet-3 russo (amplamente usado na Ucrânia), aproximam-se da autonomia total, embora ainda dependam de humanos para o engajamento inicial em muitos cenários. A tendência é de expansão rápida nos próximos cinco anos.

2. Existe alguma lei internacional que proíba armas autônomas hoje?

Não existe um tratado específico vinculante. As Convenções de Genebra e o Direito Internacional Humanitário se aplicam, mas foram escritas antes da existência de IA. Em tese, qualquer arma — autônoma ou não — deve respeitar os princípios de distinção, proporcionalidade e necessidade militar. Na prática, não há como garantir isso em sistemas de caixa preta.

3. Por que o Brasil não tem uma posição mais forte nessa discussão?

O Brasil participa das negociações como membro da CCW e historicamente apoia o multilateralismo. Porém, o país não possui indústria significativa de armas autônomas e seu poder de veto em fóruns é limitado. A Estratégia Nacional de Defesa menciona IA, mas sem detalhamento operacional. Para o Brasil ganhar relevância no tema, seria necessário investir em pesquisa própria e em diplomacia científica ativa.

4. Se a IA decide sozinha, quem é responsabilizado por um erro?

Essa é a chamada "lacuna de responsabilidade" (responsibility gap). O operador pode argumentar que seguiu protocolos; o programador pode dizer que o sistema aprendeu sozinho; o fabricante pode culpar dados de treinamento. Sem uma cadeia de responsabilidade clara, crimes de guerra podem ficar sem autores identificáveis — e isso é, por si só, uma violação ao espírito do Direito Internacional Humanitário.

5. Como cidadão comum, posso fazer alguma diferença nesse debate?

Sim. Apoiar organizações como a Campaign to Stop Killer Robots, pressionar parlamentares por posicionamento, exigir transparência de fundos de pensão e gestoras sobre investimentos em defesa autônoma, e promover educação midiática sobre o tema são formas concretas. A história do desarmamento — das minas terrestres às armas químicas — mostra que pressão civil consistente muda políticas internacionais, mesmo que lentamente.

A reportagem original do Olhar Digital expôs um movimento diplomático silencioso, mas de enormes consequências. Entender o que foi removido daquele rascunho — supervisão humana, previsibilidade e ética — é o primeiro passo para cobrar transparência dos nossos representantes e construir uma sociedade informada sobre o futuro da guerra e da tecnologia.

E você, já testou essa funcionalidade? Conte sua experiência (ou dúvidas) nos comentários! Se este guia te ajudou, compartilhe com alguém que também precisa saber disso. E para receber nossos tutoriais e análises em primeira mão, assine a newsletter do Tech Advisor Brasil.