Especialistas propõem medidas de segurança para IA similar ao setor nuclear

Pesquisadores de segurança dos Estados Unidos e China apresentaram propostas abrangentes para implementar medidas de segurança para IA similar ao setor nuclear, reconhecendo os riscos potenciais de sistemas autônomos que interferem em operações militares e de comando nuclear. Segundo os especialistas, um ataque de inteligência artificial direcionado à rede de controle nuclear ou uma operação militar digital poderia deixar Washington ou Pequim com apenas alguns minutos para determinar se o outro governo foi responsável, criando cenários extremamente perigosos.

Recomendações dos especialistas

As recomendações foram desenvolvidas por Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, que participam de um diálogo entre EUA e China sobre segurança nacional desde 2019. Este diálogo é promovido pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas incluem implementação de limites rígidos para sistemas nucleares controlados por inteligência artificial, garantia de controle humano sobre operações digitais de grande impacto e estabelecimento de uma linha direta dedicada para incidentes envolvendo IA autônoma. Essas recomendações foram publicadas antes das negociações sobre IA previstas em nível governamental e de uma reunião programada para 24 de setembro em Washington entre o presidente Donald Trump e o presidente chinês Xi Jinping.

Contexto da rivalidade tecnológica

A rivalidade entre Estados Unidos e China em inteligência artificial transcende a disputa tradicional por chips e modelos avançados. A competição agora abrange temas historicamente associados ao controle de armas, incluindo mecanismos para evitar que acidentes sejam confundidos com ataques deliberados, limitações nas decisões militares autônomas e estabelecimento de protocolos de comunicação entre rivais nucleares quando a tecnologia apresenta comportamentos inesperados.

O ministro da Segurança do Estado da China, Chen Yixin, enfatizou recentemente que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo ele, a tecnologia deixou de ocupar um papel secundário no campo de batalha, assumindo posição central nas estratégias militares, como evidenciado pelos ataques dirigidos por IA na guerra dos Estados Unidos e Israel contra o Irã.

Princípios de controle humano

Melanie Sisson argumenta que apenas seres humanos devem deter autoridade para iniciar ataques digitais que utilizem inteligência artificial contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas de outro país. Um sistema autônomo poderia falhar, extrapolar suas instruções originais ou ser comprometido por adversários. Simultaneamente, o país alvo do ataque enfrentaria dificuldades para determinar se a ação foi acidental ou deliberadamente ordenada pelo rival.

Tianjiao Jiang propôs limites explícitos para impedir que inteligência artificial tome decisões independentes sobre o uso de armas nucleares ou execute ataques autônomos contra sistemas de comando nuclear. Jiang também defendeu proteções robustas para infraestruturas críticas, como setores de energia, finanças e saúde, que são vitais para a segurança nacional.

Definição de controle humano significativo

Uma questão crucial abordada nas propostas envolve a necessidade de definição comum de "controle humano significativo" para evitar que os dois países utilizem a mesma terminologia para justificar diferentes níveis de autonomia das máquinas. Esta proposta baseia-se em um princípio endossado pelo então presidente Joe Biden e pelo presidente Xi Jinping em novembro de 2024, afirmando que os seres humanos devem manter controle sobre decisões de uso de armas nucleares.

Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou em fevereiro esse consenso como um importante ponto de convergência entre Estados Unidos e China. No entanto, ela alertou que há sinais de que ambos os países vêm integrando inteligência artificial de forma cada vez mais profunda a sistemas nucleares e infraestruturas relacionadas à energia nuclear.

Linha direta para incidentes com IA

Jiang também propôs estabelecimento de uma linha direta militar exclusiva entre os Estados Unidos e China especificamente para incidentes envolvendo inteligência artificial. Conforme sua avaliação, as trocas digitais automatizadas podem se intensificar rapidamente, reduzindo significativamente o tempo disponível para intervenção humana.

Uma defesa de inteligência artificial de um país poderia responder automaticamente a atividades suspeitas. O outro lado, interpretando a reação como um ataque, poderia retaliar antes de compreender o que realmente ocorreu. Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de inteligência artificial foi acidental, não autorizada ou permanecia sob investigação, antes de ser tratada como ação estatal deliberada.

Questões sobre a efetividade da comunicação

Especialistas, incluindo Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade da linha direta de comunicação existente entre Estados Unidos e China para crises militares. Freeman cita a recusa de autoridades chinesas em atender ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A hierarquia rígida da burocracia chinesa também representa obstáculo, impedindo que oficiais de baixo escalão tomem iniciativa em interações com homólogos norte-americanos. Conforme Freeman escreveu em artigo publicado no War on the Rocks em janeiro, nenhum funcionário no sistema chinês deseja se comunicar com os Estados Unidos até que a alta liderança, em consulta com atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, processo que pode estender-se por dias.

Posicionamento dos governos

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua até o momento. Contudo, a China vem incorporando cada vez mais inteligência artificial à sua estrutura de controle de armas. A inteligência artificial é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, departamento responsável também por questões relacionadas a armas nucleares, não proliferação, mísseis e outros temas de segurança internacional.

Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em reunião da Organização das Nações Unidas em Genebra em junho que a inteligência artificial militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada de conflitos. Segundo ele, as armas devem permanecer sob controle humano inquestionável.

Washington, por seu lado, não possui órgão único equivalente para tratar do controle de armas relacionado à inteligência artificial. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências governamentais. Ambos os governos seguem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico.

Tensões e perspectivas futuras

Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos dos Estados Unidos como tentativa de preservar a liderança norte-americana. A China também argumenta que a segurança de inteligência artificial não deve servir de pretexto para criação de barreiras tecnológicas que prejudiquem seu desenvolvimento.

As propostas apresentadas por especialistas dos dois países refletem reconhecimento crescente de que a inteligência artificial apresenta desafios de segurança sem precedentes que exigem cooperação internacional. Embora haja profunda rivalidade tecnológica entre Estados Unidos e China, a necessidade compartilhada de evitar escaladas inadvertidas e acidentes catastróficos poderia criar base para diálogo construtivo sobre governança de inteligência artificial em contextos militares e nucleares.