Quase 14 mil remoções, com medidas mais rigorosas das plataformas previstas
A Malásia conseguiu remover 13.883 conteúdos deepfake, incluindo 1.178 envolvendo líderes políticos, após reclamações do público e solicitações de remoção da Comissão Malaia de Comunicações e Multimídia (MCMC), disse o ministro das Comunicações, Fahmi Fadzil, ao Parlamento em 17 de novembro.
Conteúdo
- Quase 14 mil remoções, com medidas mais rigorosas das plataformas previstas
- O que as plataformas precisam mudar
- Denúncias aumentaram acentuadamente antes do balanço mais recente
- Investigações sobre uso indevido de IA resultaram em multas e advertências
- Por que é fácil imitar vozes de políticos
- Por que a rapidez na remoção importa durante as eleições
- O que as pessoas podem verificar antes de compartilhar
- Principais pontos
As remoções abrangem o período de 1º de janeiro de 2024 a 31 de outubro de 2026. Elas ocorrem enquanto o governo dá às plataformas digitais até o fim de 2026 para estabelecer mecanismos que atuem automaticamente contra deepfakes e conteúdos falsos enviados repetidamente, em vez de deixar que os usuários tenham de denunciar o mesmo conteúdo várias vezes.
Fahmi disse que as plataformas que não cumprirem o Código de Mitigação de Riscos poderão sofrer penalidades que vão de RM1 milhão a RM10 milhões por infração. O código, que entrou em vigor em 1º de junho, exige que provedores licenciados identifiquem, avaliem e enfrentem conteúdos nocivos, rotulem claramente determinados materiais criados ou manipulados com inteligência artificial e disponibilizem ferramentas acessíveis para denúncias.
Os números situam a falsificação de identidade de políticos em meio a um problema mais amplo. Conteúdos envolvendo líderes políticos representaram cerca de 8,5% das 13.883 remoções, ou aproximadamente um em cada 12. Os 12.705 itens restantes não se enquadravam nessa categoria, embora Fahmi não tenha fornecido uma discriminação detalhada dos temas.
Para quem usa redes sociais, a preocupação prática é simples: um rosto ou uma voz conhecidos podem aparecer em uma gravação convincente de algo que a pessoa nunca disse ou fez. A resposta do governo combina pedidos de remoção, regras para as plataformas, investigações criminais e uma campanha pública que incentiva as pessoas a verificar as informações antes de compartilhá-las.
O que as plataformas precisam mudar
Fahmi apontou as reclamações repetidas sem uma ação eficaz das plataformas como um dos principais desafios para o governo e a MCMC. Remover uma publicação não resolve o problema quando a mesma gravação falsa volta a aparecer em outra postagem ou em outra conta.
O prazo até o fim de 2026 pretende levar as plataformas a agir automaticamente contra essa circulação repetida. Fahmi anunciou a medida ao responder a uma pergunta complementar de Afnan Hamimi Taib Azamudden, deputado do Perikatan Nasional por Alor Setar, sobre a análise de deepfakes antes da publicação e a identificação de seus criadores.
O Código de Mitigação de Riscos opera sob a Lei de Segurança Online de 2025. Ele exige que provedores licenciados tenham mecanismos para identificar conteúdos nocivos, avaliar os riscos que representam e tomar medidas. A exigência de rotulagem abrange imagens, áudios e vídeos gerados ou manipulados com IA que possam ser confundidos com conteúdo autêntico.
Fahmi explicou a obrigação de rotulagem durante a sessão de perguntas:
"O código também exige que imagens, áudios ou vídeos gerados ou manipulados com IA que possam ser confundidos com conteúdo autêntico sejam claramente identificados ou marcados", disse.
Um rótulo informa ao espectador que uma gravação foi gerada ou alterada. A remoção se aplica a conteúdos que devem ser retirados do ar. O código também exige ferramentas acessíveis para denúncias, oferecendo aos usuários um meio de alertar as plataformas quando encontrarem material nocivo.
Os períodos eleitorais recebem atenção especial no código: as plataformas devem considerar os riscos maiores dessas ocasiões em suas avaliações. A 16ª eleição geral da Malásia deve ocorrer até fevereiro de 2028, o que torna os preparativos antes da campanha uma parte urgente do debate.
Denúncias aumentaram acentuadamente antes do balanço mais recente
O vice-ministro das Comunicações, Teo Nie Ching, havia informado anteriormente à Dewan Rakyat que a MCMC recebeu 917 denúncias sobre conteúdos deepfake em 2024, número que subiu para 3.612 em 2025. Até 15 de junho de 2026, a comissão havia recebido outras 7.967.
O número de 2025 foi quase quatro vezes maior que o total de 2024. Até 15 de junho de 2026, a quantidade já era mais que o dobro do total de todo o ano de 2025. Esse rápido aumento ajuda a explicar a pressão para que as plataformas tratem as denúncias com mais rapidez e impeçam novos envios do mesmo conteúdo.
As denúncias contabilizam os relatos enviados à MCMC, enquanto o número mais recente de remoções conta os conteúdos retirados do ar pelos provedores. Uma denúncia, um envio e uma investigação criminal são unidades diferentes: uma gravação pode circular em muitas publicações, enquanto uma investigação pode examinar condutas relacionadas a diversos materiais.
Fahmi havia divulgado anteriormente o número de 713 publicações removidas envolvendo líderes políticos entre 1º de janeiro de 2025 e 15 de setembro de 2026. O total mais recente, de 1.178, abrange um período maior, que começa em janeiro de 2024 e termina em outubro de 2026.
As principais datas da resposta são:
- 1º de janeiro de 2024: início do período abrangido pelo total mais recente de remoções.
- 1º de junho de 2026: entrada em vigor do Código de Mitigação de Riscos.
- 15 de junho de 2026: denúncias de deepfakes no ano chegam a 7.967.
- 31 de outubro de 2026: encerramento do balanço mais recente, com 13.883 conteúdos removidos.
- 17 de novembro de 2026: Fahmi apresenta os números e as obrigações das plataformas no Parlamento.
- Fim de 2026: expectativa de que as plataformas tenham prontos mecanismos de ação automática.
- Fevereiro de 2028: prazo para a realização da 16ª eleição geral.
Investigações sobre uso indevido de IA resultaram em multas e advertências
A MCMC investigou 61 casos de uso indevido de IA com base na Seção 233 da Lei de Comunicações e Multimídia de 1998. O resumo das medidas de fiscalização apresentado por Fahmi situou o período entre 1º de janeiro de 2025 e 31 de outubro de 2026; ele também foi citado como tendo informado o período de 1º de janeiro a 31 de outubro de 2026 para o mesmo total.
Dez casos foram levados à Justiça. Seis já haviam sido julgados, resultando em multas que totalizaram RM19.500, enquanto quatro continuavam nos tribunais. Não foram informadas as datas dos processos ainda em andamento.
Outros sete casos receberam propostas de acordo mediante pagamento, que totalizaram RM755.000, e foram emitidas 17 cartas de advertência. Um acordo mediante pagamento é uma solução financeira oferecida em um processo de fiscalização, distinta de uma multa aplicada por um tribunal.
Na explicação mais completa de Fahmi, os 27 casos restantes foram divididos em duas categorias: investigações ainda em andamento ou casos classificados como sem necessidade de novas medidas. Ele não informou quantos havia em cada categoria.
O ministro disse que a Seção 233 pode ser usada quando o conteúdo se enquadra nos elementos legais de uma infração. A Lei de Segurança Online e seu código tratam das responsabilidades das plataformas, enquanto as investigações previstas na Lei de Comunicações e Multimídia apuram supostas infrações. Isso dá ao governo meios para atuar tanto contra conteúdos nocivos na internet quanto contra as condutas por trás deles.
Por que é fácil imitar vozes de políticos
Siraj Jalil, presidente da Associação Malaia de Consumidores de Cibertecnologia (MCCA), alertou que deepfakes políticos convincentes podem ser feitos com um smartphone ou laptop básico e uma gravação curta de um candidato falando.
Ele descreveu a pouca quantidade de material e equipamento de que um criador pode precisar:
"Qualquer pessoa com um smartphone ou laptop básico, um trecho de áudio de 15 a 30 segundos de um discurso público de um candidato e ferramentas de IA generativa disponíveis no mercado pode clonar uma voz e sincronizar os movimentos dos lábios em minutos, de graça ou por apenas alguns ringgits", disse.
A clonagem de voz usa um programa para imitar a maneira como alguém fala. Em seguida, a sincronização labial pode fazer um rosto parecer pronunciar as palavras inventadas. O espectador pode reconhecer tanto o rosto quanto a voz, o que faz a declaração falsa parecer familiar e convincente.
Segundo Siraj, os políticos fornecem uma grande quantidade de material em discursos, transmissões ao vivo e coletivas de imprensa. Essas gravações públicas oferecem exemplos claros de suas vozes, expressões e movimentos para quem cria falsificações.
Alguns vídeos políticos são feitos para humor. Outros apresentam afirmações falsas concretas. Durante a campanha para as eleições estaduais de Melaka, o vice-presidente da Barisan Nasional, Mohamad Hasan, alertou os eleitores sobre um vídeo de IA no TikTok que o mostrava falsamente prometendo RM25.000 a todos. Um vídeo desse tipo pode criar expectativas sobre dinheiro ou políticas com base em uma promessa que o político nunca fez.
Por que a rapidez na remoção importa durante as eleições
Siraj argumentou que as plataformas ainda dependem demais de reagir a denúncias depois que os vídeos já se espalharam. Um clipe pode permanecer on-line por horas ou dias enquanto os usuários o denunciam e os moderadores o analisam.
A essa altura, as pessoas podem ter gravado a tela e encaminhado cópias para grupos fechados no WhatsApp ou Telegram. Retirar do ar a publicação original não impede que essas cópias continuem circulando em outros lugares.
O presidente da MCCA descreveu a urgência de responder durante uma campanha:
"Em uma campanha eleitoral curta, a rapidez é tudo", disse.
Siraj pediu que as plataformas usem detecção automatizada e marcas d'água visíveis quando o conteúdo for enviado, em vez de depender dos usuários para declarar que suas publicações foram geradas por IA. Uma marca d'água é um sinal visível que ajuda os espectadores a identificar material sintético.
Ele também propôs equipes dedicadas a responder durante as eleições e um prazo inferior a duas horas para remover deepfakes eleitorais verificados e denunciados pela Comissão Eleitoral, por candidatos ou por verificadores de fatos credenciados. Também defendeu a proibição de promoções pagas e de sistemas de recomendação que impulsionem conteúdos políticos cuja origem não tenha sido verificada.
Essas medidas são propostas da MCCA. O governo estabeleceu o prazo para a criação de mecanismos de ação automática e descreveu as obrigações já previstas no código, enquanto Siraj defende padrões mais específicos de rapidez, detecção e distribuição antes da próxima eleição geral.
O que as pessoas podem verificar antes de compartilhar
Siraj aconselhou os espectadores a observar a boca, os dentes e o contorno do maxilar em busca de leve desfoque, piscadas artificiais ou dentes que pareçam lisos demais durante uma fala rápida. Entre os sinais no áudio podem estar uma voz monótona ou excessivamente ritmada, especialmente em sotaques locais do malaio, e mudanças repentinas no ruído de fundo.
A conta que publicou o material também merece atenção. Siraj disse que deepfakes costumam aparecer em páginas recém-criadas, anônimas ou não verificadas, e não nos canais oficiais dos candidatos ou em veículos de notícias estabelecidos.
Uma medida prática é procurar o mesmo anúncio nos canais oficiais da pessoa citada e buscar uma gravação mais completa do discurso ou evento. Se um vídeo promete dinheiro, anuncia uma política surpreendente ou atribui uma declaração inflamatória a alguém, verificar a afirmação antes de encaminhá-lo pode impedir que outra cópia se espalhe.
A campanha Internet Segura da MCMC pretende desenvolver esses hábitos. Fahmi disse que ela aborda a detecção de deepfakes, a falsificação de identidade e informações falsas geradas por IA, além da tarefa mais ampla de melhorar a alfabetização digital.
O ministro das Comunicações descreveu o objetivo da campanha no Parlamento:
"No campo da prevenção, o governo, por meio da MCMC, também está implementando a campanha Internet Segura para aumentar a conscientização pública e a alfabetização digital, especialmente na identificação de conteúdos deepfake, falsificação de identidade e informações falsas geradas por IA", disse durante a sessão de perguntas.
Para os usuários, as medidas imediatas são parar, verificar e denunciar conteúdos suspeitos por meio das ferramentas das plataformas. Para os provedores, o prazo que se aproxima exige uma resposta a envios repetidos, além de denúncias individuais. O próximo teste concreto será saber se esses mecanismos automáticos estarão prontos até o fim de 2026.
Principais pontos
- As plataformas removeram 13.883 conteúdos deepfake entre janeiro de 2024 e outubro de 2026, após solicitações da MCMC baseadas em denúncias do público.
- Líderes políticos estavam envolvidos em 1.178 conteúdos, cerca de 8,5% do total.
- Provedores licenciados devem rotular conteúdos pertinentes gerados por IA, avaliar materiais nocivos e disponibilizar ferramentas acessíveis para denúncias.
- As plataformas têm até o fim de 2026 para estabelecer mecanismos de ação automática contra deepfakes e conteúdos falsos enviados repetidamente.
- A MCMC investigou 61 casos de uso indevido de IA; seis decisões judiciais resultaram em multas que totalizaram RM19.500.
- Quatro processos continuavam pendentes, enquanto 27 casos ainda estavam sob investigação ou foram classificados como sem necessidade de novas medidas.
- A MCCA pede remoções eleitorais mais rápidas e detecção mais eficaz antes da eleição geral prevista para ocorrer até fevereiro de 2028.






