Os conteúdos falsificados com recurso à inteligência artificial (IA), conhecidos como deepfakes, estão cada vez mais difíceis de distinguir de materiais autênticos, alertaram especialistas da OpenAI e da Meta durante uma reunião do Comité Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizada em Boston.
Segundo os especialistas, a evolução da IA generativa permite produzir imagens, vídeos e áudios cada vez mais realistas, dificultando a sua identificação tanto por pessoas como por ferramentas informáticas. O avanço representa um desafio para a verificação de provas apresentadas em processos judiciais.
Shira Anderson, consultora de políticas da OpenAI, considera que a qualidade crescente das imagens geradas por IA poderá tornar a sua detecção científica cada vez mais difícil. Já Devin Norder, director de gestão de produtos da Meta, afirmou que os conteúdos produzidos pelos modelos mais avançados podem ser indistinguíveis de materiais autênticos para o olho humano, além de exigirem pouco tempo e dinheiro para serem criados.
Apesar das preocupações, os casos registados nos tribunais norte-americanos ainda são limitados. De acordo com dados do Centro Federal do Judiciário dos Estados Unidos, divulgados em Março, apenas 15 dos 931 juízes que responderam a um inquérito relataram ter enfrentado processos nos quais uma das partes contestou provas por suspeita de serem deepfakes.
Marcas-d’água não garantem autenticidade
Entre as medidas adoptadas para ajudar a identificar conteúdos gerados por inteligência artificial estão as marcas-d’água digitais, exigidas por determinadas leis na Califórnia e na União Europeia. Estes sinais podem indicar a origem de um conteúdo ou facilitar a identificação de materiais sintéticos.
No entanto, os especialistas alertam que não existe um método universal capaz de detectar todas as marcas-d’água ou confirmar, com total segurança, a autenticidade de um vídeo, áudio ou imagem. As diferenças entre os sistemas utilizados pelas empresas e as limitações das ferramentas de verificação dificultam a criação de uma solução infalível.
O avanço dos deepfakes reforça, assim, a importância de desenvolver tecnologias de autenticação mais robustas e de melhorar os métodos de verificação de conteúdos digitais, sobretudo em áreas como o jornalismo, a segurança e a justiça.