Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br

Vídeos falsos e IA generativa ganharam espaço na desinformação eleitoral e podem ampliar a desconfiança sobre fatos verdadeiros

Conteúdos falsificados por inteligência artificial e informações de baixa qualidade passaram a representar um risco maior para as eleições e para a democracia do que as tradicionais fake news. A conclusão aparece no novo Guia Internet, Democracia e Eleições, divulgado pelo CGI.br.

Conforme informações da Agência Brasil, a publicação faz uma comparação entre o cenário atual e o observado em 2018, período em que as redes sociais abertas tinham grande importância na propagação de desinformação. Atualmente, plataformas de comunicação mais fechadas, como o WhatsApp, ganharam maior participação nesse processo de circulação de conteúdos.

Vídeo assume protagonismo
A circulação de informações falsas também passou a ocorrer de forma distribuída entre diferentes plataformas. De acordo com o guia, conteúdos enganosos são compartilhados simultaneamente em vários espaços digitais, enquanto os vídeos assumem o papel de principal meio de propagação.

Normalmente, esses materiais são acompanhados por textos breves que contribuem para reforçar a narrativa falsa e transmitir uma sensação de credibilidade. A IA generativa, que já esteve presente no cenário eleitoral de 2022, tende a ter uma participação ainda maior neste ano, especialmente em conjunto com ferramentas capazes de adaptar mensagens para públicos específicos.

Entre os pontos destacados pelo CGI.br estão:

• crescimento do uso de vídeos na desinformação;
  
• maior circulação de conteúdos em redes restritas, como o WhatsApp;
  
• uso de IA generativa para produzir conteúdos enganosos;
  
• direcionamento de mensagens a perfis específicos;
  
• técnicas que tornam narrativas falsas mais convincentes.

´´Hoje, as plataformas digitais ocupam um lugar central na forma como os brasileiros se informam sobre o que acontece no mundo, no país e nas cidades onde vivem.´´
Renata Mielli, coordenadora do CGI.br, à Agência Brasil.

O problema das deepfakes
O nível de realismo alcançado pelas deepfakes está entre os principais pontos de atenção destacados pelo estudo. Com a evolução dessas tecnologias, distinguir um conteúdo manipulado de um material verdadeiro pode ficar cada vez mais complicado, inclusive para pessoas habituadas a analisar informações.

Os impactos, porém, podem ultrapassar a simples aceitação de uma informação falsa. O guia chama atenção para o risco de que o aumento desses conteúdos gere desconfiança também em relação a informações que são verdadeiras.

A redução da confiança na imprensa e no Judiciário, somada à polarização política, também é apontada como um motivo de preocupação. De acordo com o guia, esse cenário pode contribuir para que opiniões e convicções pessoais tenham mais peso do que a verificação dos fatos.

Quando a crença pesa mais
O estudo também destaca um comportamento relacionado à forma como as pessoas consomem informações: a preferência por conteúdos que estejam de acordo com suas opiniões e crenças. Materiais que apresentam pontos de vista diferentes podem acabar sendo rejeitados ou ignorados. O guia define esse processo como racionalidade motivada e destaca que ele pode contribuir para o fortalecimento de posições ideológicas.

Os influenciadores também são incluídos na análise. O CGI.br reconhece o papel que eles desempenham na comunicação pela internet, mas destaca uma diferença em relação ao jornalismo: influenciadores não estão submetidos a um código de ética nem possuem responsabilidade institucional pela veracidade de suas declarações nos mesmos moldes das organizações jornalísticas.

O documento também explica como funcionam os sistemas de recomendação e aborda os efeitos da IA generativa sobre as eleições. Além disso, apresenta conceitos relacionados às deepfakes e aos modelos de linguagem utilizados em conversas.

A publicação reúne ainda orientações destinadas às instituições para o enfrentamento da desinformação e recomendações para ajudar os cidadãos a evitar tanto o consumo quanto a disseminação de conteúdos falsos ou enganosos.

Segundo a análise do CGI.br, a desinformação eleitoral passou a reunir novos formatos, recursos de inteligência artificial e diferentes meios de distribuição. Com isso, o desafio não está apenas em reconhecer o que é falso, mas também em entender de que maneira esses conteúdos são produzidos e direcionados a determinados públicos.

Fonte: Olhar Digital