Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta

Especialistas das empresas afirmam que vídeos e áudios gerados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos

Representantes da OpenAI e da Meta alertaram membros do sistema judiciário dos Estados Unidos, na quinta-feira (15), para os desafios cada vez maiores na identificação de vídeos e áudios falsificados por inteligência artificial (IA). De acordo com os especialistas, os chamados deepfakes estão atingindo níveis de sofisticação tão elevados que confirmar a autenticidade de provas audiovisuais utilizadas em processos judiciais deverá se tornar uma tarefa cada vez mais complexa.

O aviso ocorreu durante um encontro em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo debate maneiras de enfrentar os riscos relacionados a conteúdos produzidos artificialmente por IA nos tribunais, além de avaliar quais critérios devem ser adotados para verificar a legitimidade dessas evidências.

Deepfakes dificultam a verificação de provas
Shira Anderson, responsável pela área de políticas públicas da OpenAI, declarou que os progressos na criação de imagens por inteligência artificial estão dificultando cada vez mais o desenvolvimento de técnicas científicas para reconhecer conteúdos falsos.

“As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, afirmou Anderson durante a reunião do comitê.

Devin Norder, diretor de gerenciamento de produtos da Meta, também chamou a atenção para o avanço dessa tecnologia. De acordo com ele, materiais criados pelos modelos de IA mais sofisticados já podem ser impossíveis de distinguir, aos olhos humanos, tanto de conteúdos autênticos quanto de outras produções artificiais.

Norder também ressaltou que produzir esse tipo de material exige pouco tempo e dinheiro. Essa facilidade amplia as preocupações sobre o risco de conteúdos falsificados serem utilizados como evidências verdadeiras em processos judiciais.

Poucos casos identificados até agora
Mesmo com os avisos dos especialistas, os conflitos judiciais relacionados a deepfakes ainda são pouco frequentes nos Estados Unidos. Em março, o Centro Judicial Federal, instituição responsável por pesquisas sobre o Judiciário americano, revelou que, entre os 931 juízes que participaram de uma pesquisa, somente 15 haviam lidado com processos nos quais uma das partes questionou a validade de provas por suspeitar que fossem conteúdos falsificados por IA.

Jesse Furman, juiz federal de Manhattan e líder do comitê, explicou que existem diversos estudos acadêmicos e projeções sobre as consequências dessa tecnologia para o sistema judicial, mas que ainda há poucos exemplos concretos envolvendo o problema.

Durante o encontro realizado na quinta-feira, Furman designou um subcomitê para investigar a questão com maior profundidade. Especialistas dos setores tecnológico, acadêmico e governamental, entretanto, destacaram que a situação não deve ser encarada como uma ameaça distante. Segundo eles, evitar que evidências falsas sejam utilizadas nos tribunais deverá se tornar um desafio cada vez maior.

Ferramentas de detecção têm limitações
Empresas como a OpenAI e a Meta estão criando recursos e serviços voltados à verificação da autenticidade de materiais visuais. Paralelamente, novas legislações aprovadas na Califórnia e na União Europeia estabelecem a obrigatoriedade de marcas-d’água digitais para facilitar o reconhecimento de conteúdos falsificados por inteligência artificial, conhecidos como deepfakes.

Anderson, porém, ressaltou que ainda não existe um método universal para identificar essas marcações ou comprovar se imagens e vídeos são legítimos. Como cada companhia utiliza tecnologias próprias, as soluções disponíveis não conseguem verificar todos os materiais com o mesmo nível de confiabilidade.

A representante da OpenAI acrescentou que espera avanços contínuos nas tecnologias de detecção, embora reconheça que esses mecanismos dificilmente alcançarão uma precisão absoluta.

Juízes defendem cautela na criação de regras
Valerie Caproni, juíza federal de Manhattan e membro do comitê, manifestou reservas quanto à implementação imediata de normas específicas para provas produzidas por inteligência artificial. Na avaliação dela, ainda não existem evidências suficientes para demonstrar que os deepfakes se tornaram um problema generalizado nos tribunais.

Caproni destacou ainda que a legislação e as normas já em vigor proíbem o uso de provas fraudulentas e autorizam os magistrados a analisar se determinado conteúdo foi adulterado.

A juíza também lembrou que a falsificação de evidências não surgiu com o avanço da inteligência artificial, pois já representa uma preocupação antiga no sistema judiciário. Dessa forma, o debate consiste em avaliar se as regras atuais são capazes de enfrentar adequadamente os desafios adicionais provocados pelas novas tecnologias.

Fonte: Olhar Digital