O Conselho de Supervisão da Meta ordenou a remoção de dois vídeos manipulados por inteligência artificial que continuavam disponíveis no Facebook. As decisões, publicadas a 17 de setembro, consideram que um dos conteúdos violou as regras sobre discurso de ódio e que o outro infringiu a política contra assédio e intimidação.
Os casos são diferentes, mas expõem o mesmo problema: denúncias de conteúdos falsificados podem ser encerradas automaticamente ou avaliadas sem que os sinais de manipulação e o contexto de perseguição recebam o peso necessário. Como as decisões do Conselho são vinculativas para casos concretos, a Meta tem de retirar as duas publicações.
Dois vídeos, duas falhas de moderação
O primeiro vídeo simulava uma vereadora trabalhista escocesa a fazer declarações inflamatórias sobre refugiados. A gravação parecia realista, embora o áudio não estivesse totalmente sincronizado com os movimentos do rosto. A própria política denunciou o conteúdo, mas os sistemas da Meta não o encaminharam para análise humana. A empresa concluiu ainda que o vídeo não precisava de um aviso de conteúdo criado por IA.
O Conselho decidiu que a publicação atribuía criminalidade grave a refugiados enquanto grupo e, por isso, violava as regras de discurso de ódio. Considerou também que o vídeo deveria ter recebido uma classificação de risco elevado, mesmo que não estivesse ligado a eleições ou a uma crise imediata.
O segundo caso envolvia uma jovem muçulmana que participou numa campanha de educação para a saúde menstrual. Um vídeo alterado mostrava-a a dizer e fazer coisas que nunca aconteceram, com o objetivo de ridicularizar o seu corpo e a sua credibilidade. A denúncia e o recurso foram encerrados automaticamente. O Conselho entendeu que o conteúdo fazia parte de uma campanha de assédio e violava as regras da plataforma.
Porque os rótulos podem não chegar
As decisões não defendem a remoção automática de todo o material criado por IA. O ponto central é a combinação entre falsificação convincente, dano concreto e falhas na resposta da plataforma. Um pequeno rótulo informativo pode ser insuficiente quando o conteúdo continua a ser recomendado, monetizado ou partilhado por contas reincidentes.
No caso da política escocesa, o Conselho propôs que a Meta alargue o uso da classificação “IA de risco elevado”, reduza a distribuição desses conteúdos e apresente um ecrã de aviso antes da visualização. Também recomendou a retirada de monetização e sanções progressivas para contas que repitam este comportamento.
Para vítimas que não são figuras públicas, o Conselho quer uma definição mais ampla de imagem manipulada sem consentimento. Essa definição passaria a abranger não apenas alterações à aparência, mas também vídeos que inventem ações ou palavras. Outra proposta é guardar cópias identificadas em sistemas de correspondência, facilitando a remoção de versões iguais ou quase iguais.
O que muda agora no Facebook
A consequência imediata é limitada, mas clara: os dois vídeos têm de ser removidos. A Meta confirmou que cumpriria as decisões nos casos analisados. Já as recomendações de política não entram automaticamente em vigor. A empresa dispõe de 60 dias para responder e pode aceitar, adaptar ou rejeitar as alterações sugeridas.
Para quem usa o Facebook, o episódio mostra que a presença ou ausência de um rótulo de IA não determina, por si só, se um vídeo é verdadeiro ou permitido. Também revela uma fragilidade prática: conteúdos denunciados podem escapar à revisão humana, mesmo quando a pessoa visada apresenta uma queixa.
O teste mais importante será saber se a Meta altera os seus sistemas para detetar campanhas repetidas, dar prioridade a denúncias de manipulação e limitar a circulação antes de o dano ganhar escala. Até lá, estas decisões corrigem dois casos concretos, mas deixam em aberto a resposta da plataforma ao crescimento dos deepfakes.
Fontes: Conselho de Supervisão · Conselho de Supervisão · The Guardian · Engadget