Crescente dificuldade na detecção de deepfakes

Especialistas em tecnologia da OpenAI e da Meta revelaram durante reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos que os deepfakes estão cada vez mais sofisticados e praticamente impossíveis de distinguir de materiais autênticos. O alerta foi proferido nesta quinta-feira (15) em Boston, em encontro acompanhado pela agência Reuters, onde se discutem há três anos estratégias para lidar com os riscos de conteúdos falsificados por inteligência artificial nos ambientes jurídicos.

Os deepfakes, vídeos e áudios gerados por sistemas de IA generativa, representam uma ameaça crescente à verificação de provas em processos judiciais norte-americanos. A tecnologia subjacente evoluiu significativamente, permitindo a criação de conteúdos que enganam tanto observadores humanos quanto algoritmos especializados em detecção de fraudes digitais.

Avanços da IA generativa e limitações da detecção

Os avanços da inteligência artificial generativa — aquela capaz de produzir imagens, vídeos e áudios a partir de instruções textuais — tornaram as falsificações cada vez mais convincentes. Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão atingindo níveis de qualidade impressionantes e que não acredita que exista, no futuro próximo, uma metodologia científica definitiva para identificá-las com precisão.

Devin Norder, diretor de gestão de produtos da Meta, complementou essa perspectiva ao informar à Reuters que os modelos de IA mais avançados atualmente desenvolvidos já produzem conteúdos visualmente indistinguíveis de mídias autênticas para o olho humano. Ele destacou ainda que a produção desses materiais requer investimentos mínimos de tempo e recursos financeiros, democratizando o acesso a ferramentas de falsificação sofisticadas.

O cenário atual nos tribunais americanos

Apesar dos alertas sobre o potencial perigo dos deepfakes, ainda há relativamente poucos casos documentados nos tribunais dos Estados Unidos envolvendo essas falsificações. Em março, o Centro Federal do Judiciário, organismo de pesquisa do Poder Judiciário americano, divulgou dados reveladores: apenas 15 dentre 931 juízes entrevistados em uma pesquisa haviam enfrentado situações onde uma das partes questionou uma prova por suspeitar que fosse um deepfake.

O juiz federal Jesse Furman, de Manhattan, que preside o comitê consultivo, observou que embora existam muitos estudos acadêmicos e previsões sobre o impacto futuro dos deepfakes no sistema judiciário, ainda não se observaram muitos processos reais envolvendo essa problemática. Contudo, especialistas da indústria, meio acadêmico e setor governamental concordam que o risco não é meramente teórico.

Marcas d'água como solução parcial

Na tentativa de combater a proliferação de deepfakes, jurisdições como a Califórnia e a União Europeia implementaram novas regulamentações que exigem o uso de marcas-d'água digitais em conteúdos gerados por inteligência artificial. Essas marcas representam sinais codificados incorporados aos arquivos para indicar sua origem e facilitar a identificação de materiais falsificados.

No entanto, Shira Anderson alertou que não existe um padrão universal capaz de identificar com segurança todas as marcas-d'água ou confirmar definitivamente a autenticidade de um conteúdo visual. Como cada empresa desenvolvedora de IA utiliza seus próprios sistemas de marcação, a verificação permanece sujeita a limitações técnicas significativas. Anderson ressaltou que, embora o cenário possa melhorar gradualmente, nunca será totalmente à prova de falhas.

Resposta das grandes empresas de tecnologia

Reconhecendo a gravidade da situação, OpenAI e Meta estão entre as gigantes tecnológicas que investem em desenvolvimento de ferramentas e serviços destinados a verificar a autenticidade de conteúdos visuais. Essas iniciativas buscam criar mecanismos que permitam aos usuários, pesquisadores e profissionais do direito identificar materiais potencialmente fraudulentos.

O desafio permanece formidável, pois a sofisticação dos deepfakes evolui em velocidade superior à capacidade de detecção. Os especialistas concordam que será necessária uma abordagem multifacetada, combinando avanços tecnológicos, regulamentação adequada e capacitação de profissionais jurídicos para lidar adequadamente com essa ameaça crescente ao sistema de justiça.

Perspectivas futuras e implicações legais

O debate contínuo sobre como verificar a autenticidade de materiais suspeitos de serem deepfakes e garantir que provas geradas por IA atendam aos mesmos critérios de confiabilidade exigidos de outras formas de evidência seguirá sendo central nas discussões judiciais. A comunidade legal americana reconhece a necessidade de estabelecer protocolos robustos antes que o problema se amplifique exponencialmente.

As três décadas que o comitê já dedica a essa questão demonstram a seriedade com que o sistema judiciário norte-americano aborda o tema. Conforme a tecnologia de deepfakes continua evoluindo, a capacidade dos tribunais de verificar provas autênticas será testada de maneiras até agora inimaginadas, exigindo adaptações constantes nas práticas jurídicas e nos padrões de admissibilidade de evidências.