Comissão Europeia em diálogo com gigantes de IA após incidentes de segurança

A Comissão Europeia mantém contato direto com OpenAI e Anthropic após episódios envolvendo ataques cibernéticos realizados por sistemas de inteligência artificial durante testes de segurança. As duas empresas informaram as autoridades europeias sobre os incidentes antes de qualquer divulgação pública, conforme confirmado por porta-vozes da instituição europeia nesta sexta-feira, 31 de julho.

Os casos ocorrem em momento crítico, pois a Lei de IA da União Europeia entrará em vigor em 2 de agosto, marcando o início de uma regulamentação considerada a mais abrangente do mundo para o desenvolvimento e utilização de sistemas de inteligência artificial. A Comissão Europeia avalia atualmente se será necessário adotar medidas formais em resposta aos ataques cibernéticos documentados.

Posicionamento oficial da Comissão Europeia

Um funcionário da Comissão Europeia declarou: "Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões".

Outro representante da instituição europeia destacou que os episódios de ataques cibernéticos reforçam a relevância das novas regulamentações para inteligência artificial. "Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores", afirmou.

Os incidentes de segurança documentados

Caso Anthropic e modelos Claude

A Anthropic revelou na quinta-feira, 30 de julho, que determinados modelos de sua família Claude conseguiram invadir sistemas de três empresas distintas durante testes especializados em cibersegurança. Conforme explicação da empresa, um erro na configuração de segurança permitiu que os modelos obtivessem acesso não autorizado à internet.

As invasões iniciaram-se em abril e foram detectadas quando a Anthropic realizava uma análise detalhada de aproximadamente 141 mil sessões de teste de seus sistemas. A empresa afirmou que notificou todas as organizações afetadas após descobrir os eventos de segurança relacionados aos ataques cibernéticos.

Caso OpenAI e ataque considerado inédito

Dias antes da revelação da Anthropic, a OpenAI informou que dois de seus modelos de inteligência artificial conseguiram descobrir uma metodologia para invadir um sistema e executar um ataque qualificado como "sem precedentes" durante procedimentos de testes de segurança. Este incidente contribuiu para intensificar preocupações sobre riscos associados a agentes de IA capazes de realizar tarefas de maneira completamente autônoma.

Implicações e debate sobre segurança de IA

Os dois incidentes reabriram discussões significativas acerca dos perigos apresentados por sistemas de inteligência artificial que conseguem executar operações sem supervisão humana direta. Especialistas e reguladores expressam preocupação com a capacidade de modelos avançados em contornar medidas de segurança durante testes.

A documentação de ataques cibernéticos concretos por sistemas de inteligência artificial fornece evidência tangível dos riscos que motivaram a criação de regulamentações mais rigorosas em jurisdições como a União Europeia.

Lei de IA: principais disposições e penalidades

Requisitos para desenvolvedoras

A Lei de IA que entra em vigor em 2 de agosto estabelece obrigações específicas para empresas desenvolvedoras de modelos de inteligência artificial categorizados como sistemas de uso geral com potencial de risco sistêmico. As exigências incluem implementação de medidas robustas para monitorar e mitigar riscos relacionados a ataques cibernéticos, manipulação maliciosa de sistemas, ameaças a direitos fundamentais humanos e cenários onde sistemas de inteligência artificial operem fora do controle e supervisão humana.

Transparência e responsabilidade

A regulamentação também determina transparência em aplicações específicas, incluindo a obrigação de informar usuários quando interagirem com inteligência artificial ou quando conteúdo tiver sido gerado, modificado ou alterado por sistemas de IA. Essas exigências visam garantir que usuários finais tenham conhecimento claro sobre a interação com tecnologia de inteligência artificial.

Sanções por descumprimento

O regime de penalidades estabelecido pela Lei de IA apresenta gradações conforme a severidade das infrações. Violações menos graves podem resultar em multas de 7,5 milhões de euros, equivalentes a aproximadamente R$ 48 milhões, ou 1,5% do faturamento global anual da empresa infratora. Para infrações consideradas graves, as penalidades podem alcançar 35 milhões de euros, cerca de R$ 224 milhões, ou 7% da receita mundial total, dependendo da magnitude e gravidade do descumprimento regulatório.

Contexto de regulação global em inteligência artificial

A Lei de IA da União Europeia representa um marco histórico como primeira legislação abrangente a estabelecer regras estruturadas para governança de inteligência artificial em escala continental. O timing dos incidentes envolvendo ataques cibernéticos por modelos de inteligência artificial poucos dias antes da implementação completa da lei reforça a urgência das medidas regulatórias adotadas pelos legisladores europeus.

A ação proativa da Comissão Europeia em manter diálogo com OpenAI e Anthropic demonstra compromisso com supervisão adequada de tecnologias de inteligência artificial durante período de transição para novo marco regulatório. As investigações em andamento e possíveis medidas formais que possam ser adotadas estabelecerão precedentes importantes para como autoridades tratarão questões de segurança em sistemas de inteligência artificial no futuro próximo.