Malásia solicita provas à Anthropic sobre suposta campanha de IA contra eleitores

12 min de leitura
Malaysia Seeks Anthropic Evidence on Alleged AI Campaign Targeting Voters

Contas falsas e perfis de eleitores são alvo de escrutínio parlamentar

O órgão regulador de comunicações da Malásia está solicitando detalhes técnicos e provas à Anthropic depois que a empresa afirmou que seus modelos de inteligência artificial Claude ajudaram a criar uma plataforma comercial de manipulação política que tinha como alvo eleitores malaios. A suposta operação combinava cerca de 1.000 contas falsas no X, um veículo de notícias fabricado e perfis de eleitores que abrangiam todos os 222 distritos eleitorais parlamentares.

Conteúdo
  1. Contas falsas e perfis de eleitores são alvo de escrutínio parlamentar
  2. O que a Malásia está pedindo à Anthropic
  3. Um serviço comercial criado em torno de dados de eleitores malaios
  4. Como as contas falsas tentavam parecer reais
  5. Malaysia Pulse misturava notícias reescritas e acusações inventadas
  6. Por que a MCMC divulgou sua própria negativa
  7. Das divulgações de setembro às respostas parlamentares
  8. Leis vigentes e um projeto de lei separado sobre IA
  9. A IA acelera a produção, enquanto as plataformas fornecem o público
  10. Principais pontos

O Ministério das Comunicações informou, em resposta parlamentar por escrito datada de 17 de novembro, que a Comissão de Comunicações e Multimídia da Malásia (MCMC) avaliaria as provas antes de decidir sobre novas medidas. As leis vigentes de comunicações e segurança on-line poderiam ser usadas, enquanto o Ministério Digital está elaborando um projeto de lei separado sobre governança da inteligência artificial.

A Anthropic associou a operação à BBS Bilisim Teknolojileri, uma empresa de tecnologia com sede em Istambul, na Turquia. A empresa negou envolvimento em 11 de setembro. A Anthropic afirmou que encerrou as contas do Claude envolvidas e implementou medidas para evitar novos usos indevidos.

O caso reúne duas dimensões distintas: um sistema projetado para traçar perfis de eleitores em todo o país e uma operação cujo público efetivo parece ter sido limitado. A Anthropic afirmou não ter encontrado provas de que a campanha tenha alcançado comunidades on-line reais além de sua rede artificial.

Para os eleitores malaios, o suposto engano foi além de publicações enganosas. A plataforma podia fazer contas inventadas parecerem pessoas comuns, artigos reescritos parecerem jornalismo independente e acusações fabricadas parecerem conclusões de inteligência. A tarefa imediata da Malásia é determinar quem operava o sistema e quais medidas são previstas pelas leis do país.

O que a Malásia está pedindo à Anthropic

A MCMC solicitou esclarecimentos técnicos detalhados e provas que sustentem as alegações sobre a operação. A resposta de 17 de novembro abordou uma pergunta de Datuk Seri Dr. Ronald Kiandee, deputado do Perikatan Nasional por Beluran, sobre os responsáveis e as medidas contra contas falsas e portais de notícias fabricados.

O Ministério das Comunicações explicou por que estava buscando mais informações antes de decidir sobre medidas de fiscalização:

A MCMC está solicitando informações e esclarecimentos adicionais à Anthropic sobre o relatório, para garantir que qualquer avaliação e medida subsequente se baseiem em informações e provas suficientes.

O ministro das Comunicações, Datuk Fahmi Fadzil, também abordou a questão em uma resposta parlamentar a Ahmad Fadhli Shaari, deputado do Perikatan Nasional por Pasir Mas. A pergunta tratava das medidas do governo para investigar e prevenir interferência estrangeira em eleições por meio do Claude e de outros aplicativos de IA.

O ministério afirmou que as medidas subsequentes poderiam envolver órgãos de fiscalização e segurança, plataformas digitais e outras partes relevantes. A abordagem declarada é reunir provas, avaliar a questão dentro da jurisdição da MCMC e, então, determinar a resposta apropriada.

Publicidade

Um serviço comercial criado em torno de dados de eleitores malaios

A Anthropic descreveu a plataforma como um serviço que vendia recursos de influência política a clientes. Nesse modelo de negócio, o comprador paga a um operador por ferramentas ou atividades destinadas a moldar o debate público, em vez de construir a infraestrutura por conta própria.

A empresa afirmou que o sistema usava dados censitários, informações eleitorais e milhões de registros de eleitores para criar perfis nas 222 circunscrições parlamentares da Malásia. Os perfis foram projetados para identificar divisões políticas e sociais locais, incluindo questões relacionadas a raça, religião e realeza.

Um perfil de circunscrição reúne informações sobre uma área eleitoral em um só lugar. Nesta operação, segundo a Anthropic, o Claude ajudou a transformar essas informações em ferramentas de segmentação e deu suporte à infraestrutura usada para distribuir conteúdo de influência. A combinação poderia permitir que os operadores preparassem mensagens diferentes para comunidades diferentes.

A avaliação de ameaças da Anthropic descreveu como o serviço se apresentava:

A plataforma se fazia passar por um canal de ferramentas defensivas de inteligência cibernética e combate à desinformação.

A Anthropic afirmou que sua investigação, na verdade, associou a plataforma à BBS Bilisim Teknolojileri e à venda de acesso a recursos de influência. A negativa da empresa turca torna centrais, para a avaliação da Malásia, as provas técnicas solicitadas pela MCMC.

Como as contas falsas tentavam parecer reais

Segundo a Anthropic, a plataforma administrava cerca de 1.000 contas falsas no X. Ela incluía mecanismos destinados a fazer essas contas parecerem estabelecidas e autênticas antes de serem usadas para exercer influência política.

A Anthropic descreveu tentativas de renovar cookies e endereços de protocolo de internet para escapar da detecção. Cookies são pequenos dados armazenados durante a atividade on-line, enquanto um endereço de protocolo de internet identifica uma conexão em uma rede. A alteração desses sinais pode ajudar um operador a disfarçar as ligações entre contas.

O painel também permitia que usuários solicitassem visualizações artificiais para uma conta-alvo. A Anthropic afirmou ter identificado um pedido de um milhão de visualizações artificiais para apoiar a conta do primeiro-ministro malaio em exercício. O cliente por trás do pedido não foi identificado, e a Anthropic não estabeleceu nenhuma ligação com o primeiro-ministro Anwar Ibrahim ou seu gabinete. Os totais de engajamento exibidos pelas próprias ferramentas do operador não foram verificados.

Saifuddin Ahmed, especialista em novas mídias da Escola de Comunicação e Informação Wee Kim Wee, da Universidade Tecnológica de Nanyang, explicou por que a suposta atividade configurava manipulação:

Portanto, não se tratava simplesmente de atingir os eleitores com mais eficiência; envolvia fabricar uma conversa pública artificial e manipulada, ocultando quem estava por trás dela.

Publicidade

Malaysia Pulse misturava notícias reescritas e acusações inventadas

Segundo a Anthropic, a operação também mantinha um veículo de notícias fabricado chamado Malaysia Pulse e um canal associado no YouTube. O site copiava reportagens legítimas da Malásia, usava o Claude para reescrevê-las repetidamente e publicava os artigos resultantes com assinaturas inventadas.

O Malaysia Pulse também republicava material da TV BRICS, da Xinhua, da Sputnik/RIA e da CGTN. A Anthropic afirmou que os créditos que identificavam os veículos originais eram removidos, fazendo o material parecer jornalismo independente da Malásia. O processo dava aos leitores uma impressão diferente de quem havia produzido as notícias e de onde elas vinham.

Junto com os artigos, os operadores usaram o Claude para gerar dossiês de inteligência fabricados, com acusações contra um político da oposição não identificado e organizações da sociedade civil. Um dossiê é um conjunto de informações sobre uma pessoa ou organização; nesse caso, a apresentação fazia alegações inventadas parecerem resultado de uma pesquisa documentada.

A Anthropic descreveu as acusações de forma direta:

Essas acusações foram totalmente inventadas pelos envolvidos.

O Claude recusou ou recusou parcialmente alguns pedidos, inclusive depois de identificar que um dos dossiês se destinava à difamação política. A Anthropic afirmou que o operador então alterou a redação dos pedidos para continuar buscando os mesmos recursos. O caso mostra o desafio prático de detectar um projeto abusivo quando pedidos individuais são reformulados repetidamente.

Por que a MCMC divulgou sua própria negativa

A Anthropic afirmou que o operador havia tentado obter um contrato com a MCMC. A empresa disse não ter encontrado provas de que a tentativa tenha sido bem-sucedida. Em 11 de setembro, a MCMC respondeu negando envolvimento em atividades ou acordos do tipo descrito.

A agência reguladora apresentou sua posição em um comunicado:

Para esclarecer, atividades da natureza descrita no relatório não fazem parte das funções ou do mandato da MCMC, e a MCMC não participa desse tipo de atividade ou acordo.

A MCMC afirmou que estava examinando as alegações e buscando mais informações para estabelecer os fatos e compreender o contexto. Segundo a agência, proteger o público e combater danos on-line continuavam sendo pontos centrais de suas responsabilidades.

Datuk Seri Azalina Othman Said, ministra do Departamento do Primeiro-Ministro responsável por assuntos jurídicos e reformas institucionais, pediu uma investigação abrangente e independente. Seu apelo colocou o escrutínio da operação lado a lado com a própria coleta de provas da agência reguladora.

Publicidade

Das divulgações de setembro às respostas parlamentares

A resposta pública se desenvolveu por meio de divulgações da empresa, negativas e perguntas parlamentares. As principais etapas foram:

  • Setembro: a Anthropic revelou a suposta operação de segmentação na Malásia em sua avaliação de ameaças e afirmou ter interrompido as contas do Claude envolvidas.
  • 11 de setembro: a BBS Bilisim Teknolojileri negou envolvimento. Separadamente, a MCMC negou participação nas atividades descritas e afirmou estar examinando as alegações.
  • 3 de novembro: uma resposta parlamentar por escrito a Ahmad Fadhli Shaari detalhou pedidos de esclarecimentos técnicos e a possível aplicação das leis vigentes.
  • 17 de novembro: o Ministério das Comunicações reiterou o processo de coleta de provas em sua resposta a Ronald Kiandee.

Vários detalhes centrais não foram divulgados: quem pagou pela atividade na Malásia, as datas exatas em que ela ocorreu, sua ligação com uma eleição específica, se a Anthropic respondeu aos pedidos da MCMC e se a polícia abriu uma investigação criminal formal. Não foi informada uma data para a apresentação do projeto de lei sobre IA.

A avaliação da Anthropic divulgada em setembro abrangeu vários tipos de uso indevido do Claude, incluindo operações cibernéticas, vigilância, golpes e influência política. Nos casos de influência, a empresa descreveu agentes que tentavam alcançar públicos em seis continentes, incluindo governos, veículos de mídia alinhados a Estados e empresas privadas que vendem serviços de influência.

Leis vigentes e um projeto de lei separado sobre IA

O Ministério das Comunicações apontou a Lei de Comunicações e Multimídia de 1998, a Lei de Segurança On-line de 2025 e outras leis aplicáveis como possíveis bases para medidas regulatórias ou de fiscalização. Qualquer resposta dependeria das provas e da jurisdição da MCMC.

O projeto de lei de governança da inteligência artificial tem outro objetivo. O Ministério Digital está elaborando regras sobre responsabilização, gestão de riscos e as responsabilidades de quem desenvolve e implementa sistemas de IA. Em termos simples, a proposta trata de quem deve administrar os riscos de um produto de IA e de quem responde quando as responsabilidades são negligenciadas.

As duas frentes abordariam diferentes aspectos do problema. As leis vigentes são o caminho indicado pelo governo para responder agora à suposta atividade. A legislação proposta definiria responsabilidades mais amplas sobre como os sistemas de IA são desenvolvidos e usados.

Uma operação atribuída a uma empresa de fora da Malásia também exige cooperação para além de uma única agência reguladora. A coordenação planejada pelo ministério com órgãos de segurança, investigadores e fornecedores de plataformas reflete onde podem estar as provas relevantes: no serviço de IA, nas redes sociais, com o operador e com eventuais clientes.

Publicidade

A IA acelera a produção, enquanto as plataformas fornecem o público

A Anthropic afirmou ter detectado a conta por meio de sistemas internos, removido o acesso e usado informações recuperadas durante sua investigação para mapear a operação mais ampla. Apesar da escala da infraestrutura, a empresa não encontrou provas de que ela tenha conseguido se infiltrar em comunidades on-line reais.

Katie Harbath, ex-funcionária da Meta que trabalhou com eleições globais e agora dirige a consultoria de tecnologia Anchor Change, explicou o papel da IA na produção de material de influência:

A IA pode turbiná-la, permitindo produzir muito mais conteúdo, mais personalizado, mais rápido e a um custo menor.

Harbath afirmou que os operadores ainda precisam de um mecanismo de distribuição, que atualmente são as plataformas de redes sociais. O caso da Malásia ilustra as duas partes desse processo: o Claude ajudou a criar conteúdo e ferramentas, enquanto as contas falsas, um site e um canal no YouTube deveriam levar o material aos leitores.

Preocupações semelhantes surgiram em outros países do Sudeste Asiático. A OpenAI baniu contas que geravam comentários fictícios sobre a política filipina, incluindo comentários de apoio ao presidente Ferdinand Marcos Jr. Na eleição da Indonésia de 2024, uma versão em desenho animado de Prabowo Subianto criada por IA tornou-se popular e ajudou a suavizar sua imagem de homem forte.

A suposta operação da Malásia se concentrou em divisões particularmente sensíveis. Bridget Welsh, do Instituto de Pesquisa da Ásia da Universidade de Nottingham na Malásia, alertou que esse tipo de atividade alimenta a polarização política. Dr. Ben Loh, professor de mídia da Monash University Malaysia, também descreveu como o conteúdo gerado por IA reforça a hostilidade já existente contra os refugiados rohingya.

Para a Malásia, o próximo passo concreto é avaliar as provas. A Anthropic encerrou as contas identificadas do Claude; agora, a MCMC precisa determinar se as informações obtidas justificam medidas contra as pessoas ou organizações por trás da suposta operação.

Principais pontos

  • A MCMC está solicitando esclarecimentos técnicos e provas à Anthropic antes de decidir sobre novas medidas.
  • A Anthropic descreveu cerca de 1.000 contas falsas no X, o site Malaysia Pulse e a segmentação de eleitores nas 222 circunscrições parlamentares.
  • A BBS Bilisim Teknolojileri negou envolvimento depois que a Anthropic a associou à plataforma.
  • A MCMC negou participação nas atividades. A Anthropic afirmou não haver provas de que uma suposta tentativa de obter um contrato com a agência reguladora tenha sido bem-sucedida.
  • A Anthropic encerrou as contas identificadas do Claude e não encontrou provas de alcance significativo em comunidades on-line reais.
  • A Malásia citou as leis vigentes de comunicações e segurança on-line enquanto elabora um projeto de lei de governança da IA.
Compartilhar esta matéria

Você também pode gostar