Japão avalia impor obrigações de segurança e penalidades a desenvolvedores de IA avançada

Ordens vinculantes podem dar ao Japão novos poderes sobre IA perigosa

O Japão avalia exigir que empresas por trás de sistemas avançados de inteligência artificial garantam sua segurança, sob pena de sanções para quem desobedecer a ordens do governo após o surgimento de problemas graves. A proposta daria às autoridades ferramentas mais fortes para agir contra empresas que se recusarem a cooperar diante de riscos como ataques cibernéticos, uso criminoso e sistemas que atuam fora das instruções para as quais foram projetados.

A orientação veio à tona no dia 11, após discussões em um grupo de trabalho fechado sobre legislação para IA. As autoridades pretendem apresentar, até o fim do ano, a estrutura completa das mudanças institucionais, incluindo alterações legais. As penalidades em análise se concentrariam em incidentes envolvendo IA de alta capacidade.

A sequência de medidas proposta é central: quando ocorre um problema e uma empresa se recusa a dialogar, o governo poderia emitir uma ordem vinculante, quando necessário. O descumprimento dessa ordem poderia então resultar em uma penalidade. Desenvolvedores, pesquisadores e empresas que oferecem serviços ao público poderiam ter responsabilidades diferentes, pois cada um controla uma parte distinta de um sistema de IA.

O Gabinete do Japão já havia delineado as bases para uma supervisão mais rigorosa em seu documento de política de governança de IA, de maio de 2024. Publicado pela equipe de estratégia de IA, o texto propôs analisar se exigências legais deveriam complementar as diretrizes voluntárias para sistemas de IA com riscos substanciais. Também registrou pedidos de ordens de melhoria e de divulgação pública de empresas com alta probabilidade de uso indevido.

O debate atual dá maior destaque à questão de política pública que já estava em discussão: como o Japão pode levar as empresas a enfrentar perigos graves sem restringir o espaço para a pesquisa e a oferta de serviços úteis? Para os usuários, a questão prática é se as autoridades conseguirão obter cooperação e medidas corretivas quando um sistema avançado representar uma ameaça.

Quem teria de seguir as novas regras?

As empresas de IA atuam em várias etapas. Pesquisadores desenvolvem técnicas, desenvolvedores de modelos criam os sistemas subjacentes e provedores de serviços transformam esses sistemas em produtos usados pelas pessoas. Um modelo fundacional é um sistema de IA subjacente, treinado para realizar muitas tarefas, que outras empresas podem adaptar a serviços específicos.

O governo ainda precisa definir quais empresas estariam sujeitas às regras, o que seria considerado IA suficientemente arriscada e qual seria o formato ou o valor de eventuais penalidades. O cronograma anunciado no dia 11 não informa mês nem ano, enquanto o cronograma de política divulgado separadamente em 19 de junho também não informa o ano, deixando indefinida a relação exata entre as datas.

O documento de política de maio de 2024 defende que o tamanho do modelo, o uso pretendido e o risco sejam considerados em conjunto. O texto alerta que avanços técnicos futuros podem permitir que modelos menores alcancem capacidades maiores, tornando o tamanho, por si só, um critério pouco confiável para estabelecer limites regulatórios.

Desenvolvedores estrangeiros também seriam relevantes. O documento afirma que uma estrutura japonesa deveria abranger a IA fornecida ao Japão a partir do exterior e prever respostas eficazes quando empresas não cumprirem as regras. Incluir grandes empresas americanas de tecnologia tornaria a cooperação internacional e a capacidade de fazer cumprir ordens questões práticas para os usuários japoneses.

Por que a cooperação voluntária passou a preocupar

O Conselho de Estratégia de IA e o Grupo de Estudos sobre Instituições de IA apresentaram uma abordagem seletiva para a regulação vinculante em seu relatório interino de políticas, de 4 de fevereiro de 2025. Eles recomendaram respeitar a autonomia das empresas e limitar a regulação legal a questões que não se poderia esperar que elas resolvessem por meio de esforços voluntários.

O relatório aponta que a IA que causa, ou tem alta probabilidade de causar, problemas graves para a vida, a integridade física, o patrimônio, a segurança pública ou a segurança nacional deve ser analisada de acordo com a gravidade do risco.

As investigações do governo dependem de informações que estão em poder das empresas. Por isso, o relatório defende uma estrutura legal que permita às autoridades solicitar cooperação, inclusive informações de empresas nacionais e estrangeiras. Também afirma que as diretrizes governamentais e as investigações sobre o uso efetivo da IA devem ter uma base legal para serem eficazes.

As penalidades dariam mais força a essa estrutura. O relatório explica que sanções legais podem facilitar o cumprimento das regras, mas também alerta que exigências rígidas podem desacelerar o desenvolvimento e levar tempo para serem definidas com precisão. A resposta proposta para empresas não cooperativas segue esse foco em situações nas quais a ação voluntária é insuficiente.

Cibersegurança aumenta a urgência

A IA avançada pode realizar tarefas técnicas com menos orientações humanas detalhadas. Um sistema autônomo pode perseguir um objetivo atribuído por meio de várias etapas, escolhendo suas ações ao longo do processo. Essa capacidade pode ajudar em atividades legítimas, mas também torna mais exigentes os controles de segurança quando o sistema pode interagir com computadores ou redes.

Nos Estados Unidos, foram relatados casos de acesso não autorizado e inesperado por uma IA avançada em desenvolvimento. Também há suspeitas de uso indevido de IA em alguns ataques cibernéticos recentes. Essas preocupações reforçaram os argumentos a favor de uma resposta governamental quando desenvolvedores não cooperam diante de comportamentos perigosos.

Uma minuta de revisão do Plano Básico de IA do Japão, apresentada em 19 de junho, coloca os riscos de cibersegurança no centro das mudanças propostas. O texto aponta que um modelo americano chamado Claude Mythos é capaz de encontrar vulnerabilidades em sistemas de computador de forma autônoma. Uma vulnerabilidade é uma falha que um invasor pode explorar para obter acesso ou interromper um serviço.

Encontrar essas falhas pode ajudar equipes de defesa a corrigir softwares. A mesma capacidade cria riscos quando é usada para facilitar acessos não autorizados. Por isso, a minuta combina avaliações de segurança mais rigorosas com planos para fortalecer as capacidades de defesa lideradas pela Agência Nacional de Polícia.

Japão planeja ampliar o Instituto de Segurança de IA

O Instituto de Segurança de IA, conhecido como AISI, teria um papel maior segundo a minuta de revisão do plano básico. O Japão pretende ampliar suas capacidades e trabalhar com governos estrangeiros e desenvolvedores globais para verificar modelos avançados, tanto do Japão quanto de outros países.

O Japão criou o AISI, vinculado à Agência de Promoção de Tecnologia da Informação, em fevereiro de 2024. O documento de política de maio de 2024 descreve seu trabalho em diretrizes práticas de segurança, métodos de avaliação e pesquisa técnica, além da cooperação com entidades semelhantes nos Estados Unidos e no Reino Unido.

O documento também sugere um arranjo em que a legislação estabeleça responsabilidades básicas para a gestão de riscos e o compartilhamento de informações, enquanto instituições especializadas ajudem a desenvolver diretrizes e padrões detalhados em conjunto com o governo e o setor. Esse modelo permitiria que as práticas técnicas mudassem conforme a IA evolui.

O AISI também poderia apoiar respostas a sistemas nocivos. O documento propõe analisar um mecanismo semelhante ao processo de cibersegurança de software já existente no Japão, pelo qual a Agência de Promoção de Tecnologia da Informação investiga problemas e publica medidas a serem adotadas por empresas ou usuários.

Como o debate sobre políticas evoluiu

As propostas do Japão avançaram por meio de orientações voluntárias, preparação institucional e análise de obrigações legais. Os documentos oficiais mostram uma preferência contínua por combinar essas ferramentas, em vez de impor os mesmos requisitos a todas as empresas de IA.

• Maio de 2023: O Conselho de Estratégia de IA publicou uma discussão inicial sobre riscos da IA e afirmou que salvaguardas adequadas são necessárias para ampliar seu desenvolvimento e uso.
• Dezembro de 2023: Os líderes do G7 aprovaram a estrutura de políticas do Processo de Hiroshima sobre IA, que inclui princípios internacionais e um código de conduta para desenvolvedores de IA avançada.
• Fevereiro de 2024: O Japão criou o AISI, vinculado à Agência de Promoção de Tecnologia da Informação.
• Abril de 2024: O Japão publicou a versão 1.0 de suas Diretrizes de IA para Empresas.
• Maio de 2024: A equipe de estratégia de IA do Gabinete apresentou opções para complementar orientações voluntárias com exigências legais.
• 4 de fevereiro de 2025: O Conselho de Estratégia de IA e o Grupo de Estudos sobre Instituições de IA recomendaram legislação direcionada para os casos em que os esforços voluntários fossem insuficientes.

A minuta de revisão do plano básico, de 19 de junho, prevê aprovação pelo Gabinete em julho, após consulta pública. Ela sucede um plano inicial adotado em dezembro do ano anterior, colocando a revisão proposta pouco mais de seis meses depois desse plano. O processo separado do grupo de trabalho pretende apresentar propostas institucionais mais amplas até o fim do ano.

Leis existentes já regulam alguns usos de IA

O documento de política do Japão, de maio de 2024, distingue as regras voltadas a desenvolvedores de IA avançada das leis que regem produtos e atividades específicos. O texto afirma que, naquele momento, o Japão não tinha uma estrutura vinculante voltada especificamente a sistemas de IA de grande porte ou de alto risco, comparável às que estavam sendo desenvolvidas na Europa e nos Estados Unidos. As leis penais e de privacidade, assim como as regras para produtos, já se aplicavam às condutas pertinentes.

Dispositivos médicos que usam IA estão sujeitos a requisitos de segurança e eficácia previstos na Lei de Produtos Farmacêuticos e Dispositivos Médicos. Dispositivos que apresentam riscos particularmente altos precisam de aprovação após uma avaliação que pode incluir dados de ensaios clínicos. O documento também afirma que os médicos continuam responsáveis por suas decisões médicas finais quando usam IA como ferramenta de apoio.

Veículos que usam sistemas de direção automatizada devem cumprir os requisitos da Lei de Veículos de Transporte Rodoviário. Seus sistemas automatizados são avaliados de acordo com as condições para as quais foram projetados.

Decisões sobre emprego e crédito envolvem outras preocupações. O documento descreve a revisão humana de candidatos rejeitados em um exemplo de triagem de entrevistas em vídeo com IA. Também observa que métodos avançados usados para avaliar a capacidade de pagamento de crédito devem evitar discriminação injusta, preconceito e outras desvantagens graves. Em todos esses exemplos, o grau de controle humano é importante: substituir a decisão de uma pessoa pode gerar riscos diferentes dos de fornecer informações para que ela as considere.

Deepfakes, trabalho criativo e educação também estão em pauta

A minuta de revisão do plano básico inclui o desenvolvimento de tecnologias para detectar deepfakes. Deepfakes são imagens, áudios ou vídeos convincentes criados ou manipulados com IA, que podem ser usados para se passar por outras pessoas ou disseminar alegações falsas.

O documento de política de maio de 2024 aponta várias respostas técnicas: marcas d'água que indiquem a geração por IA, registro da origem do conteúdo e rótulos aplicados por plataformas on-line. Também relaciona os riscos da IA a iniciativas mais amplas contra anúncios fraudulentos e informações nocivas na internet.

O trabalho criativo segue uma frente jurídica e de políticas públicas própria. O documento registra a adoção, em 15 de março de 2024, de diretrizes sobre IA e direitos autorais por um subcomitê do conselho da Agência de Assuntos Culturais, além de discussões do Gabinete sobre propriedade intelectual na era da IA. Essas discussões abrangem regras legais, proteção técnica e contratos que prevejam compensação. As preocupações também incluem vozes, imagem e estilos artísticos.

A educação aparece na minuta de revisão do plano básico porque a dependência excessiva da IA pode enfraquecer o pensamento e o julgamento independentes. Ao mesmo tempo, o Japão pretende apoiar a comercialização inicial de sistemas autônomos de IA. A política busca, portanto, tanto ampliar o uso de sistemas capazes quanto adotar medidas para preservar as habilidades e o controle humanos.

O equilíbrio que o Japão tenta alcançar

Os documentos oficiais do Japão descrevem um papel mais limitado para a regulação vinculante do que teria um sistema abrangente sobre todo o desenvolvimento de IA. O documento de maio de 2024 favorece orientações voluntárias para desenvolvedores cujo trabalho apresenta riscos limitados, entre eles muitos pesquisadores e startups, e considera exigências mais rigorosas para sistemas com potencial de impacto maior.

O mesmo documento compara as abordagens internacionais vigentes à época. A legislação da União Europeia sobre IA incluía obrigações definidas conforme o risco e sanções financeiras substanciais. Os Estados Unidos combinavam compromissos voluntários com exigências de comunicação de informações para determinados modelos de grande porte, com base em poderes legais existentes. As duas abordagens impunham algumas obrigações vinculantes aos desenvolvedores de sistemas poderosos.

As ordens e penalidades propostas pelo Japão enfrentariam uma fragilidade concreta de uma abordagem centrada na cooperação: um sistema perigoso pode exigir medidas mesmo quando seu fornecedor se recusa a dialogar. A definição das empresas abrangidas, das obrigações que lhes cabem e das condições para emitir uma ordem determinará como esse poder funcionará para usuários e desenvolvedores.

Principais pontos

• O Japão avalia obrigações de segurança e penalidades voltadas a riscos graves da IA avançada.
• O processo proposto permitiria emitir ordens vinculantes contra empresas não cooperativas, com penalidades em caso de descumprimento.
• Documentos oficiais de política favorecem exigências legais direcionadas quando os esforços voluntários são insuficientes.
• Uma minuta de revisão do Plano Básico de IA prevê ampliar os testes de segurança, as defesas de cibersegurança, a detecção de deepfakes e as medidas na área de educação.
• O governo pretende apresentar, até o fim do ano, uma estrutura mais ampla para mudanças institucionais.