Visitante na Feira de Eletrônicos de Consumo (CES, na sigla em inglês) 2026 em Las Vegas, Estados Unidos, em 7 de janeiro de 2026. (Foto de Zeng Hui/Xinhua)
Diante das consequências ampliadas da guerra algorítmica, do empoderamento sem precedentes de atores não estatais e do aumento da divisão na segurança da IA, o único caminho a seguir é assumir a responsabilidade, rejeitar blocos exclusivos e buscar uma cooperação sincera.
Por Liu Chong
Recentemente, o Departamento de Defesa dos EUA anunciou uma mudança acelerada para uma postura operacional "priorizada em IA" e assinou acordos de cooperação com oito das principais empresas de tecnologia americanas, acelerando significativamente a implantação de sistemas inteligentes no mundo real, uma medida que atraiu a atenção internacional. Enquanto isso, os riscos de ataques cibernéticos e as ameaças à infraestrutura crítica expostos pelo modelo Mythos intensificaram as preocupações globais.
Diante do avanço explosivo da inteligência artificial (IA) e do aumento exponencial de seus riscos, a atual governança internacional da IA militar continua preocupada com debates acadêmicos sobre mecanismos de "intervenção humana" e a aplicabilidade do direito internacional, avançando em ritmo lento e com pouco consenso significativo.
O mundo se pergunta: o que realmente importa para a governança da segurança da IA? As normas internacionais atuais conseguem lidar com esses desafios?
Diante das consequências ampliadas da guerra algorítmica, do empoderamento sem precedentes de atores não estatais e do aumento da divisão na segurança da IA, o único caminho a seguir é assumir a responsabilidade, rejeitar blocos exclusivos e buscar uma cooperação sincera. Isso garantirá que os avanços da IA contribuam para o bem da civilização. Os princípios fundamentais da China, como priorizar as pessoas, usar a IA para o bem, priorizar o desenvolvimento e a ética adquirem uma importância ainda maior.
A INTERVENÇÃO HUMANA NO CICLO DE DECISÃO RESOLVE OS RISCOS DE SEGURANÇA DA IA?
Desde 2014, quando as discussões internacionais sobre sistemas de armas letais autônomas começaram no âmbito da Convenção das Nações Unidas sobre Certas Armas Convencionais, questões como a permissão de robôs letais totalmente autônomos e a necessidade da presença humana no ciclo de decisão tornaram-se centrais para a governança global da IA militar.
De forma geral, esses debates se resumem à aplicabilidade do direito internacional vigente à segurança da IA. O Departamento de Defesa dos EUA promoveu uma estratégia de "IA responsável" centrada no estabelecimento de uma cadeia completa de responsabilidade para a IA militar. Sua lógica central enfatiza a rastreabilidade: se os humanos permanecem no processo decisório, se existem atores claramente responsáveis e se a responsabilização pós-incidente é possível.
Contudo, em uma era em que a IA revoluciona a velocidade, a escala e a complexidade da guerra, focar exclusivamente na presença humana no processo decisório falha cada vez mais em capturar os verdadeiros riscos humanitários dos conflitos inteligentes, e corre o risco de normalizar graves consequências humanitárias. A rastreabilidade da responsabilização não equivale a resultados aceitáveis.
O que realmente define a guerra moderna não é se as máquinas disparam autonomamente, mas como a IA transforma a escala, o ritmo e a dinâmica de escalada dos conflitos de maneiras sem precedentes. Mais importante do que a presença humana no processo decisório é o estabelecimento de novas normas internacionais para conter as consequências devastadoras da guerra algorítmica.
Mesmo quando humanos têm a aprovação final, os sistemas de IA podem gerar centenas ou milhares de alvos potenciais em segundos e recomendar planos operacionais em tempo real ao longo da cadeia "perceber-decidir-atacar". A IA não apenas substitui os humanos, ela amplifica exponencialmente a capacidade humana para a violência. Grupos de reflexão alertam que esse padrão de "recomendações rápidas e análises superficiais" reduz o julgamento humano a um mero carimbo. Assim como os operadores de drones dos EUA comparavam ataques a videogames, os comandantes de hoje correm o risco de se tornarem insensíveis aos custos humanitários de suas ordens.
Visitantes na Cúpula Anual sobre Futuro da IA 2023 em Tel Aviv, Israel, em 5 de julho de 2023. (Xinhua/Chen Junqing)
O uso de algoritmos baseados em IA por Israel para realizar ataques indiscriminados em Gaza, resultando em uma catástrofe humanitária sem precedentes, traz uma lição contundente. Os Estados Unidos e Israel, se aproveitando das capacidades de inteligência artificial, realizaram o assassinato direcionado do principal líder do Irã, arrastando o Irã e as nações do Golfo para um conflito e desencadeando uma crise energética global. Esses casos comprovam que o maior perigo da guerra algorítmica não está na autonomia total, mas em uma escalada vastamente acelerada e em uma escala de ataques muito maior.
Legalmente, as leis internacionais tradicionais que regem a guerra foram elaboradas sob a premissa de uma capacidade limitada de tomada de decisão humana. A era da IA alterou fundamentalmente essa premissa. A governança futura deve ir além da questão de "quem é responsável" e criar normas internacionais que obriguem os tomadores de decisão a exercerem moderação ao utilizarem ferramentas militares extremamente poderosas.
Isso não pode ser alcançado por um único país ou disciplina isoladamente. Requer que as grandes potências assumam a responsabilidade, que as organizações internacionais coordenem a sua ação e exige uma colaboração interdisciplinar entre o direito internacional, a IA, a cibersegurança, os estudos estratégicos e as políticas públicas. Na sua essência, é um projeto de governança global que prioriza as pessoas e a ética.
COMBATENDO AMEAÇAS DE ATORES NÃO ESTATAIS
Além dos conflitos entre Estados, o enorme empoderamento de atores não estatais pela IA emergiu como uma preocupação premente. Drones de baixo custo, modelos avançados de IA, ciberataques automatizados e capacidades de reconhecimento de alvos, ferramentas antes exclusivas dos Estados, estão se tornando mais baratos e amplamente acessíveis, inclusive a civis.
O recente lançamento do modelo Claude Mythos gerou alarme global. O Departamento do Tesouro dos EUA e os órgãos reguladores temem que esses modelos avançados permitam ciberataques em larga escala contra sistemas financeiros e infraestruturas essenciais.
Diversos relatórios de think tanks internacionais alertam repetidamente que a inteligência artificial de ponta amplifica os riscos de ciberataques, ameaças biológicas, manipulação de informações e armas autônomas. A IA não só remodela os equilíbrios militares entre os Estados, como também reduz as barreiras para que atores não estatais causem danos em massa.
Prevenir o uso malicioso de plataformas inteligentes de baixo custo virou um imperativo urgente de governança global. O secretário do Tesouro dos EUA, Scott Bessent, observou que a China e os Estados Unidos estão discutindo salvaguardas de segurança para a IA, buscando as melhores práticas para bloquear o acesso a modelos avançados por grupos terroristas, hackers e outros atores não estatais.
"IA para o bem" não é um slogan vazio. A IA em si não é inerentemente boa nem má, seu impacto depende inteiramente do uso humano. Assim como a IA impulsiona uma onda de "empresas individuais" que geram prosperidade econômica, agentes maliciosos podem usá-la para desencadear destruição sem precedentes. Somente por meio de uma cooperação internacional genuína e do estabelecimento de normas e salvaguardas de segurança eficazes e universalmente aceitas é que o mundo poderá mitigar as ameaças impulsionadas pela IA provenientes de atores não estatais.
Visitantes no pavilhão de exposições da Base Piloto Nacional para Aplicações de IA Incorporada em Hangzhou, província de Zhejiang, leste da China, em 29 de maio de 2026. (Xinhua/Fan Yuqing)
SUPERANDO A DIVISÃO NA IA COM ESFORÇOS CONJUNTOS
A IA representa uma nova fronteira para a humanidade. A distribuição desigual das capacidades de IA constitui a maior desigualdade e o maior risco estratégico da era da IA para países de pequeno e médio porte.
Muitas nações não têm capacidade de deter ameaças de guerra algorítmica de grandes potências ou de se defender contra ataques de atores não estatais habilitados por IA, o que as impede de construir uma cibersegurança robusta ou defesas de infraestrutura crítica. O CEO da NVIDIA, Jensen Huang, argumentou recentemente que a defesa contra sistemas de IA poderosos como o Mythos exige ação coordenada de agentes de IA de código aberto para proteger o ciberespaço. Sua visão de alavancar modelos de código aberto e ecossistemas de agentes para fortalecer a cibersegurança global oferece insights importantes.
A história mostra que os controles de exportação de tecnologia nunca são infalíveis. À medida que os ciberataques impulsionados por IA, a exploração automatizada de vulnerabilidades e os ataques a infraestruturas críticas se tornam mais sofisticados, restringir a difusão da tecnologia por si só se mostrará ineficaz. O verdadeiro perigo não está na disseminação da tecnologia, mas nos graves desequilíbrios nas capacidades defensivas. O que realmente importa é garantir que todas as nações possam se defender contra os riscos da IA.
Se apenas alguns países possuírem capacidades avançadas de segurança de IA, enquanto a maioria dos países carece de defesas básicas, a arquitetura de segurança global se tornará cada vez mais frágil. Construir capacidade global de cibersegurança, promover a cooperação aberta em ferramentas de segurança de IA, fortalecer os sistemas de defesa em países de pequeno e médio porte e estabelecer mecanismos internacionais de alerta precoce e coordenação de riscos de IA devem ser prioridades para a governança global.
A história tem demonstrado repetidamente que os problemas decorrentes do desenvolvimento só podem ser resolvidos por meio do desenvolvimento. Políticas excludentes, domínio unilateral e blocos fechados apenas corroem a segurança coletiva. Priorizar o desenvolvimento e buscar uma cooperação sincera são as únicas maneiras de proteger a segurança nacional na era da IA.
Em uma era de transição carbono-silício, quando as rivalidades hegemônicas persistem, nenhuma nação pode lidar sozinha com os riscos sistêmicos representados pela IA avançada. O maior desafio do mundo não é a competição em IA, mas sim prevenir a escalada do conflito e proteger a segurança compartilhada em meio a essa competição. Somente ao abraçarmos uma comunidade com futuro compartilhado para a humanidade, permanecendo unidos e apoiando uns aos outros, a humanidade poderá navegar pelas ondas turbulentas da era da IA e conduzir a civilização adiante.
Nota da edição: Liu Chong é pesquisador e diretor do Centro de Ciência e Estudos Estratégicos do Instituto Chinês de Relações Internacionais Contemporâneas.
As opiniões expressas neste artigo são do autor e não refletem necessariamente as da Agência de Notícias Xinhua.