Coreia do Sul usa IA para identificar 96.210 itens de material de abuso sexual infantil, enquanto falhas na remoção persistem

Detecção mais rápida enfrenta o desafio de conseguir remover o conteúdo

O Centro Nacional de Resposta a Crimes Sexuais Digitais da Coreia do Sul identificou 96.210 itens de material de abuso sexual infantil entre abril e setembro usando um sistema de inteligência artificial que ajuda a equipe a encontrar conteúdo suspeito e solicitar sua remoção. O Ministério da Igualdade de Gênero e da Família informou que as detecções diárias chegaram a 202,1 por profissional de monitoramento, ante 20,8 antes da implantação do sistema, um aumento de cerca de 9,7 vezes.

Introduzido em abril, o sistema busca continuamente em redes sociais, comunidades online e aplicativos de bate-papo aleatório. A equipe analisa os resultados antes de enviar solicitações de remoção às plataformas. Tarefas que antes exigiam que funcionários pesquisassem sites e preparassem relatórios manualmente agora podem ser realizadas muito mais rapidamente.

Os números mostram um forte aumento na capacidade do centro de encontrar e denunciar esse material. Conseguir que os sites tomem providências é um desafio à parte: o centro informou que 28,5% de suas solicitações de remoção não foram atendidas em 2025. Entre os sites cuja localização dos servidores pôde ser identificada, pelo menos 95,5% estavam hospedados no exterior.

Para as vítimas, as consequências práticas vão além da primeira solicitação de remoção. As imagens podem ser copiadas e publicadas novamente, o que exige buscas repetidas e apoio contínuo. O centro nacional combina o monitoramento e a assistência para remoção com ajuda relacionada a medidas legais.

A experiência sul-coreana também reúne dois usos da mesma tecnologia. A inteligência artificial pode criar imagens sexuais falsas, comumente chamadas de deepfakes, enquanto sistemas de detecção podem ajudar a equipe a identificar esse material e agir mais rapidamente. Decisões humanas continuam fazendo parte do processo, tanto na análise de casos suspeitos de abuso quanto no apoio às pessoas afetadas.

Como funciona o sistema nacional

O sistema do centro nacional coleta publicações com base em cerca de 220 palavras-chave extraídas de seu trabalho de monitoramento. Ele analisa texto e imagens em conjunto e apresenta à equipe uma avaliação e os motivos que a fundamentam. A decisão final sobre a denúncia cabe a um funcionário.

Depois que um funcionário aprova uma denúncia, o sistema prepara as informações exigidas pela plataforma ou autoridade pertinente. O processamento de uma solicitação de remoção agora leva cerca de um minuto ou menos. Esse é o tempo necessário para preparar e processar a solicitação; depois, o site precisa responder e remover o conteúdo.

Por padrão, as imagens aparecem desfocadas, e os funcionários as revelam quando isso é necessário para tomar uma decisão. Isso reduz a exposição repetida a material perturbador sem eliminar a etapa de análise. O centro também pretende aumentar a precisão da detecção treinando o sistema com seu banco de dados.

Kim Mi-soon, diretora do Centro Nacional de Resposta a Crimes Sexuais Digitais, descreveu como a automação agora dá suporte ao trabalho:

Da detecção da circulação do material ao envio de uma solicitação de remoção, o sistema conduz o processo de forma quase totalmente automática, sem exigir intervenção humana em cada etapa.

O centro instalou coletores de dados em 14 plataformas, incluindo Google, X, Bluesky e Telegram. Esses coletores reúnem material automaticamente para avaliação, permitindo que os funcionários dediquem menos tempo à busca manual e mais à análise e ao atendimento às vítimas.

O que o aumento representa em números

O centro processou 45.438 casos ao longo de todo o ano de 2025. O total de 96.210 entre abril e setembro do ano seguinte foi cerca de 2,1 vezes maior do que o número anual, alcançado em apenas seis meses. A produção diária por profissional de monitoramento subiu de 20,8 para 202,1, um aumento de 181,3 casos.

O centro prestou apoio a 10.637 vítimas em 2025, em comparação com 4.973 em 2020. Isso representa um aumento de 5.664 pessoas, ou cerca de 114%, em cinco anos. O total de vítimas contabiliza as pessoas que receberam assistência, enquanto os totais de casos processados descrevem o trabalho do centro com o material e as solicitações de remoção. O caso de uma pessoa pode exigir providências repetidas enquanto o conteúdo continua circulando.

O ministério planeja ampliar o monitoramento para 139 plataformas em 2027. O anúncio informa que a cobertura atual é de 74 plataformas, embora também tenha sido mencionado o total de 79. Separadamente, o centro descreve a expansão da coleta automatizada de 14 para 139 plataformas. Os números divulgados não esclarecem a relação exata entre a cobertura mais ampla do monitoramento e os coletores instalados.

Considerando o número informado pelo ministério, de 74 plataformas, chegar a 139 significaria acrescentar 65, um aumento de cerca de 88%. Uma cobertura mais ampla incluiria mais locais onde pode aparecer material de abuso no processo de monitoramento, mas também aumentaria o volume de conteúdo que os funcionários precisam avaliar.

Jovens representam a maioria das pessoas que recebem ajuda

Adolescentes e pessoas na faixa dos 20 anos representaram 77,6% das pessoas atendidas pelo centro nacional em 2025. Os adolescentes corresponderam a 28,5%, e as pessoas na faixa dos 20 anos, a 49,1%. O centro prestou assistência a 3.052 pessoas com menos de 20 anos, incluindo 20 meninas com menos de 10 anos.

O centro também identificou um padrão em que os agressores abordam possíveis vítimas por meio de aplicativos de bate-papo, conquistam rapidamente sua confiança e avançam para a exploração. Uma criança pode não saber que material abusivo está circulando ou ter medo demais para pedir ajuda. Por isso, o centro busca proativamente material de exploração sexual infantil, inclusive quando nenhuma vítima apresentou uma solicitação.

Dados da polícia oferecem uma perspectiva à parte sobre a dimensão do abuso sexual online. Entre novembro de 2024 e outubro de 2025, a polícia sul-coreana deteve 3.557 suspeitos em casos de abuso sexual online. Adolescentes representaram quase metade dos suspeitos, e os crimes envolvendo deepfakes corresponderam a 35,2% dos casos.

Deepfakes são imagens, vídeos ou áudios alterados ou gerados com IA para fazer uma pessoa parecer fazer ou dizer algo que não fez ou disse. Em casos de abuso sexual, o material fabricado pode inserir o rosto de uma pessoa em conteúdo sexual. Kim afirmou que o sistema do centro consegue identificar deepfakes difíceis de reconhecer visualmente.

Seul oferece outro exemplo de denúncias mais rápidas

O Governo Metropolitano de Seul introduziu seu próprio sistema de monitoramento por IA em 2023 e anunciou funções de denúncia automatizada em 2025. Em seu anúncio de 23 de maio, a cidade informou que a detecção e a identificação, que antes levavam de duas horas e meia a três horas, poderiam ser concluídas em seis minutos.

O sistema da cidade monitora continuamente, gera relatórios e prepara e-mails solicitando que os sites de hospedagem removam o material. Um agente de apoio à remoção analisa cada rascunho antes do envio. Os e-mails podem ser preparados em sete idiomas, incluindo inglês, chinês, japonês e russo, para contatar sites que operam no exterior.

Seul também descreveu uma etapa mais específica do processamento: a inserção de palavras-chave e a geração de resultados passaram a levar três minutos, ante uma média de duas horas para os agentes que trabalhavam manualmente. A cidade calculou essa redução em 97,5%. Os números de seis e três minutos correspondem a tarefas diferentes do processo.

Os casos de remoção tratados pelo sistema de IA de Seul passaram de 2.509 em 2022 para 14.256, um aumento de cerca de 468%. O Centro de Apoio à Segurança Digital de Seul prestou assistência a 3.650 pessoas ao longo de três anos e registrou 64.677 atendimentos, incluindo assistência investigativa e jurídica, aconselhamento psicológico e atendimento médico.

Crianças e adolescentes corresponderam a 50 atendimentos, ou 16,2%, em 2022. Em 2024, a cidade registrou 624, ou 22,1%. Isso representa cerca de 12,5 vezes mais atendimentos e um aumento de 5,9 pontos percentuais na participação desse grupo. O serviço municipal de Seul e o centro nacional operam sistemas separados; portanto, os números de atividade pertencem a programas diferentes.

Por que uma solicitação de remoção pode não pôr fim ao abuso

A taxa de 28,5% de solicitações não atendidas pelo centro nacional em 2025 significa que mais de uma em cada quatro não resultou na remoção solicitada. Kim também afirmou que mais de um quarto dos sites contatados não respondeu. Alguns sites ilegais tentam evitar o bloqueio mudando as formas de acesso.

A hospedagem no exterior acrescenta outra camada de trabalho. O centro coopera com a polícia e órgãos de investigação, além de organizações de apoio no exterior e embaixadas. Enviar uma solicitação no idioma adequado pode ajudar uma plataforma a agir, enquanto medidas contra um operador que não coopera exigem colaboração para além do próprio centro.

O Ministério da Igualdade de Gênero e da Família, a polícia e a Comissão de Normas de Comunicação da Coreia formaram um grupo conjunto de apoio às vítimas, com foco em interromper a circulação de material abusivo. Entre as medidas mencionadas estão buscar a exclusão do conteúdo no nível do servidor ou fechar sites ilegais.

Kim ressaltou a necessidade de assistência contínua porque o conteúdo pode ser copiado e distribuído novamente após a remoção. Assim, o apoio a uma vítima pode envolver a busca por novas publicações, o envio de outras solicitações e a obtenção de assistência jurídica ou psicológica por um período prolongado.

O próximo objetivo é identificar aliciamento em conversas

O centro nacional está desenvolvendo uma tecnologia para detectar o aliciamento online por meio da análise do desenrolar das conversas. O aliciamento é um processo em que um adulto ou outro agressor conquista a confiança de um jovem para atraí-lo à exploração sexual.

As buscas por palavras-chave têm limitações nesse contexto, pois uma mensagem isolada pode conter linguagem comum. Um comentário sobre a aparência de alguém ou uma pergunta sobre sua idade pode fazer parte de uma interação mais preocupante quando é seguido por pressão para migrar para uma conversa privada ou praticar atividade sexual. A tecnologia planejada avaliaria a sequência e o contexto, em vez de depender apenas de palavras isoladas.

O centro também está desenvolvendo um chatbot de IA para fornecer a jovens vulneráveis informações sobre serviços de apoio. Os dois projetos ampliam o trabalho para além da busca por material que já está online: um pretende reconhecer abordagens que podem levar à exploração, enquanto o outro busca facilitar o acesso à assistência.

Não foi informada uma data de implantação para a ferramenta de análise de conversas nem para o chatbot. A meta de expansão com prazo definido é para 2027, quando o centro planeja ampliar a cobertura da IA para 139 plataformas.

O apoio continua sendo responsabilidade das pessoas

O centro nacional começou a funcionar em 2018 e, posteriormente, mudou de nome após alterações na legislação que rege a prevenção da violência sexual e a proteção das vítimas. Ele integra o Instituto de Direitos Humanos das Mulheres da Coreia, com quatro equipes e um quadro autorizado de 43 funcionários.

A automação muda a forma como esses funcionários usam o tempo. Buscas contínuas, organização dos resultados e preparação de formulários de solicitação podem ser parcialmente realizadas por software. Decidir quais medidas tomar, ajudar alguém a buscar reparação legal e responder ao sofrimento ainda exigem a atuação da equipe.

Park Kwang-soo, diretor do Instituto de Direitos Humanos das Mulheres da Coreia, descreveu o papel das pessoas no serviço:

Seja qual for a IA ou a tecnologia que utilizarmos, o apoio às vítimas deve começar e terminar com as pessoas", disse Park. "E as pessoas são necessárias em inúmeros momentos entre essas etapas.

Pré-visualizações desfocadas, documentação automatizada e coleta mais rápida contribuem para essa abordagem ao reduzir o trabalho repetitivo e a exposição a imagens nocivas. A expansão do centro dependerá tanto da capacidade de encontrar mais material quanto da manutenção da análise humana e do apoio necessários para agir.

Como a resposta se desenvolveu

Os programas nacionais e municipais da Coreia do Sul se desenvolveram em várias etapas. Suas cronologias mostram como a assistência às vítimas se expandiu junto com as buscas e denúncias automatizadas.

• 2018: O centro nacional de apoio a vítimas de crimes sexuais digitais começou a funcionar.
• 2023: O Governo Metropolitano de Seul introduziu seu sistema de monitoramento por IA.
• Novembro de 2024 a outubro de 2025: A polícia deteve 3.557 suspeitos em casos de abuso sexual online.
• 23 de maio de 2025: Seul anunciou funções de denúncia automatizada, com análise por agentes antes do envio de e-mails solicitando remoções.
• 2025: O centro nacional prestou apoio a 10.637 vítimas e processou 45.438 casos.
• Abril a setembro de 2026: O centro nacional processou 96.210 casos após a introdução de seu sistema de IA em abril.
• 2027: O centro nacional planeja ampliar a cobertura da IA para 139 plataformas.

A próxima expansão programada diz respeito à cobertura de plataformas. Seu benefício prático dependerá da rapidez com que o material suspeito chega aos analistas e da eficácia da resposta das plataformas e autoridades às solicitações resultantes.

Principais pontos

• O centro nacional identificou 96.210 itens de material de abuso sexual infantil entre abril e setembro.
• As detecções diárias por profissional de monitoramento passaram de 20,8 para 202,1, cerca de 9,7 vezes o nível anterior.
• Funcionários analisam o material suspeito antes do envio de solicitações de remoção.
• Em 2025, 28,5% das solicitações de remoção do centro nacional não foram atendidas.
• Adolescentes e pessoas na faixa dos 20 anos representaram 77,6% das vítimas que receberam apoio nacional.
• Seul opera um sistema de IA separado que prepara e-mails de remoção em sete idiomas para análise por agentes.
• O centro nacional planeja cobrir 139 plataformas em 2027 e está desenvolvendo ferramentas para identificar o aliciamento e divulgar informações sobre serviços de apoio.