Abuso de crianças com deepfakes de IA no Japão leva a investigação policial e debate jurídico

Uma crise crescente nas escolas japonesas

Polícias de todo o Japão estão recebendo mais denúncias de estudantes que usam inteligência artificial para criar deepfakes sexuais de menores, muitas vezes recorrendo a fotos de eventos escolares, álbuns de formatura e grupos privados de conversa. As vítimas costumam ser estudantes do ensino fundamental II e do ensino médio, embora crianças do ensino fundamental I também tenham sido alvo. Em vários casos, os próprios responsáveis são menores de idade que acessaram sites de geração de imagens ou aplicativos simples para smartphones para produzir montagens explícitas convincentes e compartilhá-las entre colegas.

As autoridades afirmam que mais de 100 consultas e denúncias relacionadas a imagens sexuais falsas de menores foram registradas no último ano. Dezessete dos casos conhecidos envolviam imagens derivadas de eventos escolares ou fotos de anuários. As vítimas muitas vezes suspeitam de alguém conhecido. A polícia também documentou casos de assédio contra colegas do mesmo sexo, com o objetivo de intimidar ou humilhar, e não de obter prazer sexual. Em um caso na região de Tokai, no centro do Japão, um estudante do ensino fundamental II foi encaminhado ao Ministério Público sob suspeita de difamação após criar uma imagem falsa de nudez de uma colega e compartilhá-la com amigos.

O aumento acompanha uma tendência global mais ampla. Uma empresa de segurança dos EUA identificou pelo menos 95.820 vídeos deepfake on-line em 2023 e informou que 98% envolviam pornografia. Ferramentas fáceis de usar agora permitem que alguém digite um comando, envie um rosto ou tente remover as roupas de uma foto com um toque. Essa facilidade de acesso entra em choque com a dinâmica social das escolas e com o enorme volume de fotos pessoais que crianças publicam ou compartilham, muitas vezes sem perceber como essas imagens podem ser usadas contra elas.

Como adolescentes criam deepfakes com fotos do dia a dia

As ferramentas atuais se dividem em algumas categorias. Alguns aplicativos tentam “despir” uma pessoa em uma foto, inventando um corpo sob as roupas. Outros substituem o rosto de alguém em uma foto escolar pelo de um artista adulto. Sites de IA generativa também podem produzir imagens explícitas apenas a partir de comandos de texto, que depois podem ser ajustadas para se parecer com uma pessoa específica usando algumas fotos de referência. Esses sistemas foram desenvolvidos para sintetizar novas imagens com base em padrões aprendidos em grandes conjuntos de dados e podem funcionar em dispositivos comuns, o que facilita o uso indevido e dificulta a detecção por escolas, famílias e autoridades policiais.

Por que é difícil processar esses casos

A principal lei japonesa sobre imagens sexuais de crianças, a Lei sobre a Regulação e Punição de Atos Relacionados à Prostituição Infantil e à Pornografia Infantil, foi elaborada para proteger crianças reais retratadas em imagens reais. Isso cria uma zona cinzenta para falsificações feitas por IA. Quando a imagem é sintética, mesmo que use o rosto ou a aparência de uma criança real, o caminho jurídico é menos claro. A polícia se adaptou recorrendo a outras leis, incluindo as de difamação e determinadas normas locais, para levar adiante os casos quando possível. A abordagem é fragmentada e impõe às vítimas e às famílias o ônus de detectar o abuso e apresentar denúncias rapidamente.

O que a polícia está fazendo agora

A Agência Nacional de Polícia começou a analisar cerca de 10 sites e aplicativos de geração de imagens especialmente populares entre estudantes do ensino fundamental II e do ensino médio. Os investigadores planejam usar os resultados para apoiar investigações criminais e desenvolver programas educativos para jovens, incluindo aulas de prevenção à delinquência que expliquem por que criar ou compartilhar essas imagens pode ser crime e causar danos graves aos colegas.

Altos funcionários alertam que a dimensão do abuso é muito maior do que sugerem os casos denunciados. Após analisar reclamações recentes, um alto funcionário da polícia afirmou que os incidentes conhecidos provavelmente representam apenas uma pequena parcela das ocorrências reais, já que muitas vítimas não se manifestam.

A zona cinzenta jurídica no Japão

Especialistas em direito no Japão afirmam que a legislação do país não acompanhou o ritmo da IA generativa. Pelas regras atuais, se os promotores não conseguirem provar que uma criança real foi retratada ou claramente identificada, um deepfake pode ficar fora do regime nacional de combate a material de abuso sexual infantil. Essa lacuna contrasta com os danos muito reais sofridos pelas vítimas quando seus rostos ou nomes são associados a montagens explícitas que circulam em grupos de conversa ou nas redes sociais.

Takashi Nagase, advogado e professor da Universidade de Kanazawa que assessorou iniciativas de políticas para a internet, argumenta que a distinção entre imagens reais e sintéticas já não corresponde à forma como a tecnologia é usada.

A lei atual foi criada para proteger crianças reais, mas a IA generativa apagou a fronteira entre o real e o falso.

Alguns governos locais começaram a agir. A província de Tottori revisou sua legislação em 2024 para proibir explicitamente a criação de imagens falsas sexualmente explícitas usando fotografias de crianças. Defensores da proteção infantil veem com bons olhos as medidas locais, mas afirmam que é necessária uma lei nacional para que a aplicação das regras não varie conforme a jurisdição nem falhe quando as imagens são armazenadas em servidores estrangeiros ou compartilhadas anonimamente. Um grupo de trabalho do governo central discutiu o uso da internet por jovens e possíveis medidas contra abusos com IA, embora o progresso tenha sido lento.

Masaki Ueda, professor associado de direito penal na Universidade de Kanagawa que estuda normas sobre obscenidade, afirma que a legislação deve levar em conta os danos reais à privacidade e à saúde psicológica das crianças cuja aparência é usada indevidamente.

Se imagens falsas sofisticadas se espalham on-line, isso viola a privacidade das crianças cujas fotos são usadas indevidamente, mesmo que as imagens sejam falsas. O impacto psicológico é significativo, por isso imagens deepfake devem receber tratamento semelhante ao da pornografia infantil, e a adoção de normas legais deve ser considerada.

A tecnologia por trás do abuso

Deepfakes são gerados por modelos de aprendizado de máquina treinados para sintetizar imagens realistas. Dois tipos de ferramentas predominam. Os métodos de troca de rosto ajustam e mesclam o rosto de uma pessoa em um vídeo ou foto existente. Já os sistemas de texto para imagem, muitas vezes chamados de modelos de difusão, criam uma imagem inteira do zero a partir de um comando escrito e, quando fornecidos, de alguns rostos de referência. Às vezes, os autores ajustam modelos localmente usando algumas fotos coletadas do perfil da pessoa nas redes sociais ou retiradas de um álbum escolar, fazendo com que o resultado se pareça de forma perturbadora com a criança.

Esses avanços tornam a detecção e a resposta mais difíceis. Se uma imagem é inteiramente sintética, não há uma fotografia original com a qual compará-la. Existem marcas d’água e filtros de detecção de IA, mas eles são inconsistentes e podem ser removidos. A Internet Watch Foundation informou que, em um único mês de 2023, mais de 20 mil imagens geradas por IA foram publicadas em um fórum da dark web, milhares das quais violavam a legislação britânica. Atualizações posteriores alertaram que esse conteúdo está cada vez mais chegando à internet aberta, onde usuários desavisados e vítimas podem encontrá-lo em fóruns públicos e galerias de imagens. Segundo a IWF, parte do conteúdo mais convincente é visualmente indistinguível de casos reais de abuso, o que aumenta o risco de revitimização e sobrecarrega moderadores e policiais. A IWF publicou pesquisas sobre o uso abusivo de IA para criar imagens de abuso sexual infantil e pediu contramedidas legais e técnicas urgentes. Os relatórios estão disponíveis em pesquisa da IWF.

O custo humano para as vítimas e as escolas

Para uma criança, ver o próprio rosto inserido em uma imagem sexual pode provocar medo, vergonha e a sensação de ter perdido o controle. Mesmo que os colegas percebam que a imagem é falsa, os danos à reputação e à saúde mental podem ser profundos. As comunidades escolares enfrentam danos secundários à medida que os boatos se espalham, o bullying se intensifica e os professores tentam responder às famílias, proteger os estudantes e lidar com as autoridades policiais.

As meninas, em particular, contam que mudaram a forma como interagem on-line. Na Inglaterra, a comissária para a infância informou que algumas adolescentes deixaram de publicar fotos por medo de que ferramentas para “despir” pessoas fossem usadas contra elas. Dame Rachel de Souza, comissária para a infância da Inglaterra, pediu aos legisladores que proíbam aplicativos que criam deepfakes explícitos de crianças, citando o sofrimento crescente entre adolescentes.

Ferramentas que usam tecnologia deepfake para criar imagens de crianças nuas não deveriam ser legais, e peço ao governo que tome medidas decisivas para bani-las. Elas não têm lugar na nossa sociedade.

No Japão, advogados afirmam que estão vendo mais casos de adolescentes investigados por crimes sexuais relacionados a deepfakes ou a conteúdo explícito compartilhado em grupos de conversa. Especialistas alertam que muitos adolescentes não entendem as consequências jurídicas nem os danos causados aos colegas até que uma visita da polícia ou um processo disciplinar na escola torne a situação concreta. Essa lacuna reforça a necessidade de regras claras, educação nas escolas e proteções sólidas nas plataformas.

Ação global e lições para o Japão

Outros países adotaram medidas para fechar brechas legais. A Coreia do Sul aprovou em setembro de 2024 um projeto de lei que criminaliza não apenas a criação de imagens sexuais deepfake de menores, mas também sua visualização ou posse. Nos Estados Unidos, uma lei federal promulgada em maio de 2025 tornou ilegal publicar imagens ou vídeos sexualmente explícitos sem o consentimento da pessoa retratada e obriga as plataformas a remover esse conteúdo em até 48 horas após o pedido da vítima. Muitos estados norte-americanos também atualizaram suas leis para que representações de menores em atos sexuais modificadas ou geradas por IA sejam consideradas material ilegal de abuso sexual infantil, mesmo quando nenhuma criança real esteve presente na situação retratada. Essas medidas estaduais respondem a decisões judiciais anteriores nos EUA que trataram conteúdos totalmente virtuais de forma diferente de imagens produzidas com crianças reais.

Na Europa, as forças de segurança colaboram além das fronteiras. A Europol coordenou a Operação Cumberland, uma das primeiras grandes ações globais contra material de abuso sexual infantil gerado por IA. Com o apoio de 19 países, a polícia identificou centenas de suspeitos, efetuou dezenas de prisões e fez buscas em residências para desarticular uma plataforma que distribuía imagens inteiramente artificiais de menores. Os investigadores afirmaram que a IA permite que pessoas com poucas habilidades produzam grandes quantidades de conteúdo de abuso e alertaram que métodos tradicionais para identificar vítimas ou rastrear o material de origem muitas vezes falham quando as imagens são sintéticas. Catherine De Bolle, diretora-executiva da Europol, ressaltou a necessidade de novos métodos de investigação adequados a conteúdos produzidos por IA.

Imagens geradas por IA podem ser criadas facilmente por pessoas com intenção criminosa, o que aumenta o volume de material de abuso e dificulta a identificação de autores ou vítimas.

No Japão, a polícia fez recentemente as primeiras prisões relacionadas à venda, em leilões on-line, de cartazes obscenos gerados por IA que retratavam mulheres adultas fictícias, indicando que as leis atuais sobre obscenidade podem alcançar alguns tipos de abuso com IA. Um dos suspeitos teria ganhado cerca de 10 milhões de ienes em um ano. Casos envolvendo crianças apresentam obstáculos adicionais, por isso especialistas e grupos de proteção infantil defendem regras nacionais explícitas que abranjam representações sexuais de menores geradas por IA, sejam elas baseadas em fotos reais ou inteiramente sintéticas.

O que famílias, escolas e plataformas podem fazer agora

Enquanto os responsáveis por políticas públicas debatem reformas, há medidas práticas para reduzir os riscos e agir com mais rapidez quando ocorre um abuso. Elas se concentram no consentimento, no acesso a fotos, nos canais de denúncia e no apoio à saúde mental.

• Limitar a circulação de fotos de estudantes. As escolas podem restringir o compartilhamento de álbuns de turma e galerias de eventos a responsáveis verificados, usar links com prazo de validade e incluir marcas d’água em imagens que saem dos canais oficiais.
• Ensinar desde cedo sobre consentimento e ética digital. Incluir alfabetização em IA e mídia nas aulas de orientação ou tecnologia, com conversas francas sobre deepfakes, privacidade e os danos causados por essas imagens.
• Definir regras claras para grupos de conversa. Clubes e turmas devem estabelecer códigos de conduta para aplicativos de mensagens, com consequências definidas para o compartilhamento de conteúdo explícito ou de assédio.
• Facilitar denúncias rápidas pelos estudantes. Simplificar a comunicação com um adulto de confiança, a escola e a plataforma quando surgir uma imagem abusiva. Denúncias rápidas reduzem o tempo de circulação.
• Trabalhar com as autoridades policiais. Mesmo que o caminho jurídico não seja claro, compartilhar provas com a polícia para que ela oriente sobre possíveis leis de difamação, privacidade ou normas locais.
• Acionar as plataformas. Usar as ferramentas disponíveis para denunciar imagens sexuais compartilhadas sem consentimento e solicitar sua remoção. Guardar registros de links, horários e nomes de usuário.
• Apoiar a saúde mental da vítima. Oferecer aconselhamento confidencial e envolver os responsáveis rapidamente. Não exigir que a vítima confronte colegas para provar que uma imagem é falsa.
• Reduzir os rastros de dados pessoais. Incentivar os estudantes a manter contas privadas, apagar publicações antigas e evitar fotos do rosto em alta resolução associadas a detalhes sobre a escola ou a localização.
• Adotar práticas mais seguras para fotos. Ao compartilhar fotos de equipes ou turmas, considerar imagens mais abertas, menos closes de rostos e restrições à redistribuição.

Para as empresas de tecnologia, as medidas de proteção incluem filtros robustos para comandos e envios de imagens, bloqueios ativados por padrão para recursos que “despem” pessoas, verificação de idade rigorosa e canais ágeis de remoção que funcionem em diferentes produtos. A transparência sobre falhas conhecidas e correções documentadas ajuda a recuperar a confiança. Uma controvérsia recente envolvendo um chatbot popular que produziu imagens sexualizadas de uma celebridade de 16 anos mostra como uma falha de projeto pode rapidamente levar a alertas de órgãos reguladores e à reação negativa do público.

Principais pontos

• A polícia japonesa está recebendo mais denúncias de menores que criam e compartilham deepfakes sexuais de colegas usando fotos escolares e imagens de grupos de conversa.
• No último ano, foram registradas mais de 100 consultas e denúncias em todo o país, com pelo menos 17 casos ligados a eventos escolares e álbuns de formatura.
• Processar casos de deepfake é difícil pela legislação nacional atual, que se concentra em imagens de crianças reais. A polícia costuma recorrer a outras leis, como as de difamação.
• A Agência Nacional de Polícia está investigando cerca de 10 sites e aplicativos populares de geração de imagens e planeja usar os resultados tanto em investigações criminais quanto na educação de jovens.
• Especialistas afirmam que o sistema jurídico não acompanhou os avanços. Juristas pedem regras nacionais explícitas que tratem imagens sexuais deepfake de menores de forma semelhante ao material ilegal de abuso sexual infantil.
• Internacionalmente, Coreia do Sul, Estados Unidos, Reino Unido e Austrália adotaram medidas para regular imagens sexuais geradas por IA, incluindo prazos curtos para remoção e novos crimes.
• A Operação Cumberland, da Europol, teve como alvo uma rede que distribuía conteúdo de abuso infantil inteiramente gerado por IA e destacou os desafios de investigação quando nenhuma criança real é retratada.
• Escolas, famílias e plataformas podem reduzir os danos restringindo o acesso a fotos, ensinando alfabetização em IA, aplicando regras para grupos de conversa, simplificando as denúncias e oferecendo aconselhamento às vítimas.