Denúncias de deepfake sexual expõem falha grave da Meta

Conselho da Meta cobra mudanças urgentes nas regras contra deepfakes sexuais e aponta falhas na proteção de usuários comuns no Instagram

O Conselho de Supervisão da Meta (Oversight Board) recomendou que a empresa estenda as medidas de proteção contra deepfakes de caráter sexual para todos os usuários, e não apenas para pessoas públicas, segundo informações divulgadas pelo Engadget. As orientações foram apresentadas após a análise de um caso em que a Meta não teria reagido adequadamente a denúncias envolvendo falsificação de identidade com conteúdo sexual gerado por inteligência artificial no Instagram.

O episódio analisado envolvia um vídeo produzido por IA e compartilhado na plataforma, mostrando uma mulher ajustando o vestido enquanto a roupa íntima aparecia em alguns momentos da gravação. A denúncia foi feita por uma pessoa que afirmou conhecer a mulher retratada. Na época, a pessoa representada no vídeo já não possuía mais uma conta ativa na rede social.

O que a Meta fez e o que ficou sem solução
Dois usuários reportaram o vídeo à Meta, porém a plataforma optou por não retirar o conteúdo. A pessoa que levou o caso ao Conselho já havia tentado resolver a situação diretamente com a empresa anteriormente, mas não obteve resposta. Após a avaliação do Oversight Board, a Meta apenas restringiu a visualização da publicação para maiores de idade e manteve o vídeo disponível, entendendo que não existiam elementos suficientes para justificar sua remoção.

A companhia explicou ao Conselho que, no momento em que as denúncias foram feitas, não havia evidências claras de que a pessoa exibida no vídeo fosse real. Segundo a Meta, caso a própria pessoa retratada tivesse registrado a denúncia, o material seria enquadrado nas regras de Exploração Sexual de Adultos, já que isso serviria como uma demonstração explícita de falta de consentimento. A empresa também considera válidas denúncias feitas por autoridades policiais, veículos jornalísticos, organizações parceiras ou conteúdos acompanhados de descrições que indiquem exposição vexatória, vingança ou exploração sensacionalista.

No entanto, na visão do Conselho, esse sistema cria uma dificuldade significativa para usuários comuns. Em muitos casos, essas pessoas não possuem acesso fácil a autoridades, imprensa ou canais institucionais para validar a denúncia. Dessa forma, a manifestação da própria vítima acaba se tornando praticamente o único meio de demonstrar a ausência de consentimento. Ao final da análise, o Oversight Board anulou a decisão da Meta e determinou que o vídeo fosse removido da plataforma.

O que o Board quer mudar
O Conselho de Supervisão entende que a Meta deveria passar a enquadrar impersonações produzidas por inteligência artificial dentro da política de Exploração Sexual de Adultos, considerando que esse tipo de material deve ser presumido como não consensual. Entre as sugestões apresentadas está também a criação de uma ferramenta que permita aos usuários cadastrar “contas conectadas”, como parentes ou amigos de confiança, para auxiliar na denúncia desse tipo de conteúdo.

Outra recomendação envolve a criação de uma categoria específica para esses casos nos formulários de denúncia, separando-os das opções genéricas relacionadas a assédio ou nudez. Atualmente, apenas usuários dos estados do Texas e da Flórida possuem acesso a um formulário voltado especificamente para denúncias de deepfakes íntimos. O Conselho defende que esse recurso seja disponibilizado mundialmente, argumentando que “o abuso íntimo não consensual gerado por IA, incluindo impersonações sexualizadas, é um problema global”.

Embora a Meta seja obrigada a responder oficialmente às recomendações do Oversight Board, ela não é obrigada a implementá-las. No entanto, caso a empresa decida adotar as mudanças sugeridas, o Conselho passa a monitorar o processo de aplicação das novas medidas.

Críticas que vêm de antes
No relatório, o Board destacou:

“É evidente que a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por IA. A disseminação de vídeos deepfake sexualizados causa danos à reputação e danos psicológicos, que afetam de forma desproporcional mulheres e meninas, e tem um efeito inibidor sobre a participação na vida social e política.”

Essa não foi a primeira ocasião em que o Conselho de Supervisão questionou a atuação da Meta na moderação de conteúdos produzidos por inteligência artificial. Em 2025, o órgão já havia considerado a aplicação das regras da plataforma como “incoerente e injustificável”, apontando falhas na forma como casos semelhantes eram tratados.

Em outra recomendação feita anteriormente, o Conselho também defendeu que a empresa desenvolvesse uma política específica para conteúdos gerados por IA, separando esse tipo de material das regras tradicionais voltadas à desinformação. A sugestão surgiu após a análise de um vídeo falso que mostrava supostos danos na cidade de Haifa, publicado por uma conta que se apresentava como veículo de notícias, embora fosse administrada fora dos Estados Unidos.

Fonte: Olhar Digital