Anthropic descobre operações de vigilância com inteligência artificial

A empresa de inteligência artificial Anthropic revelou nesta semana a descoberta de múltiplas campanhas de espionagem com inteligência artificial financiadas por diversos Estados. O relatório da companhia aponta que governos e entidades alinhadas a eles estão recorrendo cada vez mais à IA para monitorar e perseguir minorias e opositores políticos. As operações detectadas pela Anthropic foram identificadas e interrompidas durante o período de janeiro a julho.

Origem das campanhas de vigilância

As operações maliciosas tiveram origem em três regiões principais: China, Irã e África Ocidental. Segundo a Anthropic, essas campanhas direcionavam-se especificamente às mesmas comunidades de diáspora e dissidentes que historicamente sofrem perseguição desses regimes autoritários. Entre os grupos afetados estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias políticas, além de opositores do governo iraniano residindo no exterior.

Métodos sofisticados de espionagem

A inteligência artificial foi utilizada de forma sofisticada para potencializar operações de vigilância em larga escala. No caso do Irã, pesquisadores desenvolveram um método avançado que permitia identificar indivíduos através de suas contas em plataformas de redes sociais. Este tipo de técnica representa uma evolução preocupante nas capacidades de monitoramento estatal com uso de tecnologia.

Na África Ocidental, especificamente no Mali, um contratado que trabalhava para as autoridades responsáveis pela segurança nacional utilizou o modelo Claude da Anthropic para projetar software subjacente. Este software foi posteriormente empregado na coleta sistematizada de inteligência sobre populações específicas. A descoberta demonstra como a IA pode ser instrumentalizada para fortalecer estruturas de vigilância governamental.

Apropiação não autorizada de modelos de IA

A Anthropic também identificou comportamentos abusivos de desenvolvedores chineses que utilizavam sua plataforma de forma desonesta. Estes desenvolvedores empregavam o Claude para gerar respostas a consultas de usuários enquanto, simultaneamente, extraíam e processavam esses dados com propósitos não autorizados. O objetivo era aprimorar seus próprios modelos de inteligência artificial através de um processo conhecido como destilação.

A destilação representa uma técnica específica no setor de tecnologia, na qual um modelo de IA é utilizado para treinar e melhorar outro modelo. Desenvolvedores chineses já haviam sido acusados anteriormente de empregar essa metodologia sem consentimento prévio das empresas proprietárias dos modelos originais. Este padrão de comportamento levanta questões significativas sobre segurança intelectual e conformidade com termos de serviço.

Bloqueio de atividades perigosas e ilícitas

Além das operações de vigilância, a Anthropic realizou ações preventivas contra outros usos malignos de sua plataforma. A empresa bloqueou tentativas de utilização da IA para desenvolvimento de armas convencionais e biológicas, pesquisas científicas consideradas problemáticas e criação de golpes e fraudes românticas online. Estas medidas refletem o compromisso da companhia em impedir que sua tecnologia seja utilizada para causar prejuízos.

Pesquisas biológicas suspeitas detectadas e neutralizadas

Em relação às pesquisas vinculadas a desenvolvimento de armas biológicas que a Anthropic identificou e bloqueou, a intenção dos envolvidos permanecia menos evidente. A empresa optou por não identificar publicamente os responsáveis envolvidos nestes estudos de caso, reconhecendo que muitos eram cientistas com atividades legítimas. A companhia argumentou que tornar pública a identidade dessas pessoas ou seus laboratórios poderia expô-los a riscos desnecessários.

Os estudos problemáticos detectados concentravam-se em pesquisas relacionadas ao vírus chikungunya, transmitido por mosquitos, cepa altamente patogênica de gripe aviária, família de vírus que inclui varíola e mpox, além de investigações sobre venenos e diferentes tipos de toxinas. Cada um destes focos de pesquisa apresentava potencial para aplicação prejudicial, justificando a intervenção preventiva da Anthropic.

Implicações para segurança global e governança de IA

As descobertas da Anthropic evidenciam um desafio crescente na segurança e governança de tecnologias de inteligência artificial em nível global. À medida que estes sistemas se tornam mais poderosos e acessíveis, aumenta o risco de sua apropriação por atores estatais para fins de vigilância, controle social e atividades potencialmente destrutivas. A situação sublinha a necessidade de regulamentações internacionais mais robustas e mecanismos de fiscalização efetivos para garantir que plataformas de IA sejam utilizadas responsavelmente e em conformidade com direitos humanos fundamentais.