Universidade de Zhejiang propõe lei de IA baseada na adequação dos sistemas às tarefas

Proposta com 99 artigos define o que a IA deveria poder fazer

Pesquisadores da Universidade de Zhejiang divulgaram uma proposta de especialistas para uma lei de inteligência artificial, com oito capítulos e 99 artigos. A ideia central é que a autoridade concedida a um sistema de IA deve corresponder à sua confiabilidade e às consequências da tarefa que executa.

A proposta, versão 1.0 da Universidade de Zhejiang, foi apresentada em um evento de lançamento em 24 de setembro. O aviso oficial do evento da universidade marcou o encontro para 24 de setembro de 2026, das 14h às 17h30, no campus Zijingang. A programação reuniu o desenvolvimento do setor, a proteção de direitos e a responsabilização, refletindo as duas demandas que a proposta busca atender.

Para as pessoas afetadas pela IA, as preocupações práticas são imediatas. Um operador de modelo pode usar, sem autorização, o trabalho de um ilustrador para treinamento? Quem é responsável quando um modelo de linguagem dá uma resposta prejudicial e incorreta? Como alguém pode preservar provas e buscar reparação depois que um vídeo que usa seu rosto sem autorização se espalha pela internet?

As empresas enfrentam outro conjunto de preocupações: exigências de conformidade sobrepostas, procedimentos onerosos antes que os produtos possam ser usados e custos que empresas menores talvez tenham dificuldade para arcar. Os pesquisadores dizem que sua abordagem busca proteger direitos e, ao mesmo tempo, responder a essas pressões.

O documento é uma proposta acadêmica para discussão e revisão posterior. Sua ideia mais desenvolvida é um método para avaliar a IA em um contexto específico, relacionando o que um sistema consegue fazer, o grau de confiabilidade de sua operação e o que está em jogo para as pessoas afetadas.

Como a proposta foi elaborada

A equipe de elaboração passou quase seis meses desenvolvendo a proposta e concluiu cinco rodadas de revisão intensiva. Uma versão inicial com 174 artigos passou a ter 99, uma redução de 75 artigos, ou cerca de 43%. Isso mostra o quanto o texto foi condensado durante o desenvolvimento, embora a quantidade de artigos, por si só, diga pouco sobre as exigências que cada dispositivo imporia a usuários ou empresas.

Os pesquisadores visitaram mais de 20 empresas de IA em Hangzhou, além de grandes empresas de internet. O trabalho também se baseou em discussões no fórum legislativo de Zhijiang, em intercâmbios com ministérios e comissões pertinentes e em várias rodadas de avaliação por especialistas. A pesquisa ocorreu paralelamente à elaboração de duas propostas de regulamentação local sobre o setor de IA de Hangzhou e o desenvolvimento da cidade como polo de inovação.

Os organizadores foram a Faculdade de Direito Guanghua da Universidade de Zhejiang, o Instituto de Pesquisa em Direito Digital e Governança da universidade, o Instituto de Pesquisa Legislativa de Zhejiang e o Instituto de Pesquisa Legislativa da Universidade de Zhejiang. A programação oficial atribuiu a apresentação e a introdução da proposta a Li Wenlong, pesquisador da Faculdade de Direito Guanghua.

As etapas de desenvolvimento e lançamento foram:

• Ao longo de quase seis meses, a equipe realizou visitas a empresas, consultas e cinco rodadas de revisão.
• Em 24 de setembro, a proposta foi apresentada na Universidade de Zhejiang, e o aviso oficial datou o evento em 2026.
• Após o encontro, a equipe planejou incorporar as contribuições recebidas e preparar novas versões.

Três perguntas por trás das regras propostas

Sun Xiaoxia, diretor do Instituto de Pesquisa em Direito Digital e Governança da Universidade de Zhejiang, descreve o modelo por meio de três elementos relacionados: capacidade de execução, maturidade cognitiva e natureza e impacto de uma tarefa. Em termos mais simples, as perguntas são: o que um sistema de IA consegue fazer, quão confiável ele é e qual é a importância de suas decisões.

Sun explicou em chinês sua visão sobre a origem dos riscos da IA:

Acreditamos que os riscos da inteligência artificial não decorrem do poder das máquinas, mas de um descompasso entre capacidade, cognição e tarefas.

Um sistema pode ser capaz de realizar uma longa sequência de operações sem intervenção humana e, ainda assim, ter dificuldade para reconhecer uma situação incomum. Atribuir a esse sistema uma tarefa que envolva a segurança pessoal criaria uma perigosa lacuna entre sua liberdade para agir e sua capacidade de perceber quando algo está errado.

Por isso, a proposta vai além de atribuir um rótulo único a uma tecnologia. Um órgão regulador examinaria a versão específica de um sistema, o uso pretendido e o ambiente em que ele opera. A mesma tecnologia subjacente poderia justificar controles diferentes quando usada em tarefas distintas.

Capacidade e confiabilidade seriam avaliadas separadamente

A escala de capacidade proposta tem quatro níveis: assistência, automação limitada, automação avançada e execução autônoma. A avaliação consideraria o grau de independência das ações do sistema, o alcance de suas decisões, as ferramentas a que tem acesso, por quanto tempo pode operar continuamente e se consegue modificar um ambiente digital ou físico.

O acesso a ferramentas é importante porque um sistema de IA que apenas sugere uma ação tem alcance diferente de outro autorizado a executá-la. A permissão para operar outros programas ou equipamentos pode transformar uma resposta equivocada em uma sequência de ações concretas.

A maturidade cognitiva também teria quatro níveis, descritos como básico, geral, avançado e altamente controlado. A avaliação examinaria a precisão, a consistência, a capacidade de reconhecer dados de entrada incomuns e corrigir erros, a cibersegurança, a rastreabilidade e as condições em que uma pessoa pode assumir o controle.

Outro fator é a calibração da confiança. Em termos simples, isso significa verificar se o grau de confiança demonstrado pelo sistema corresponde à frequência com que ele acerta. Um sistema que parece seguro de si, mas erra com frequência, pode ser especialmente difícil de supervisionar para os usuários.

O modelo também examinaria se resultados importantes podem ser explicados e se um sistema consegue permanecer dentro de limites definidos. Separar capacidade de confiabilidade permite que um órgão regulador identifique um sistema potente o bastante para agir de forma independente, mas não confiável o suficiente para uma tarefa sensível.

Quais tarefas receberiam maior escrutínio?

A proposta divide as tarefas em três níveis de impacto: baixo, geral e alto. A avaliação consideraria a importância dos direitos afetados, a probabilidade e a gravidade dos danos, o número de pessoas afetadas, a duração dos efeitos, se um resultado pode ser revertido e se as pessoas podem obter reparação.

A vulnerabilidade também seria levada em conta. Uma decisão que afete alguém com pouca capacidade para contestá-la pode exigir mais atenção do que uma decisão semelhante que afete alguém com acesso fácil a ajuda.

Presumir-se-ia que tarefas envolvendo vida e saúde, liberdade pessoal, dignidade humana, igualdade de oportunidades, interesses patrimoniais significativos, educação, emprego, seguridade social, justiça, fiscalização administrativa ou segurança pública têm alto impacto. Tarefas capazes de afetar substancialmente um grande número de pessoas receberiam a mesma presunção.

A proposta também estabelece que aplicações de IA proibidas não devem ser desenvolvidas, implementadas nem usadas, independentemente da classificação de impacto de suas tarefas. As descrições divulgadas junto com a proposta não apresentam a lista detalhada de aplicações proibidas nem respostas jurídicas precisas para cada uma das disputas sobre direitos autorais, resultados incorretos e substituição de rostos mencionadas no início.

Exemplo médico explica o princípio da adequação

Sun usou exames de imagem e análises patológicas para ilustrar por que a função atribuída a um sistema importa tanto quanto sua capacidade técnica. A IA pode processar rapidamente grandes volumes de imagens e dados médicos, mas seu raciocínio pode continuar limitado diante de casos difíceis ou incomuns.

Uma função adequada levaria em conta as duas características. Dar ao sistema responsabilidade total por um diagnóstico difícil e, ao mesmo tempo, confiar excessivamente em seu julgamento criaria o descompasso que o modelo busca evitar.

Sun descreveu o objetivo em chinês:

Exigir adequação é diferente de simplesmente impor restrições; a proposta busca a melhor combinação entre capacidade, cognição e tarefas.

Na avaliação dele, um sistema com desempenho ruim em uma tarefa exigente poderia ser transferido para uma tarefa menos complexa, em vez de ser descartado. A escolha prática, portanto, é mais ampla do que permitir o uso irrestrito ou proibi-lo por completo. Autoridades e operadores poderiam ajustar a tarefa, as permissões do sistema ou o nível de participação humana.

Em um hospital, essa abordagem direcionaria a atenção para o trabalho específico atribuído à IA e para as salvaguardas ao redor dele. Para um paciente, a questão central seria se a função do sistema é adequada à gravidade da decisão.

As aprovações precisariam acompanhar as mudanças na IA

O processo de governança proposto abrange seis etapas: pesquisa e desenvolvimento, testes, implementação, operação, atualização e retirada de uso. A classificação continuaria ao longo de todas essas etapas, pois as capacidades e as circunstâncias de um sistema podem mudar depois que ele começa a ser usado.

Uma atualização do modelo poderia ampliar o leque de ações que um sistema é capaz de realizar. A expansão para um novo contexto poderia expor mais pessoas ou interesses mais sensíveis às decisões do sistema. Novos dados também podem alterar o comportamento do modelo, inclusive reduzindo sua confiabilidade de maneiras que não eram aparentes nos testes anteriores.

A proposta prevê uma nova avaliação quando o sistema ou a tarefa mudar. A análise estaria vinculada a uma versão, um propósito e um ambiente operacional concretos, dando aos operadores um motivo para reavaliar suas obrigações sempre que qualquer um desses elementos mudar.

Sun aponta oito áreas em que o princípio da adequação poderia orientar as regras jurídicas: classificação, distribuição de deveres, avaliações, identificação de usos de alto impacto, intensidade da regulação, controles de risco, responsabilidade jurídica e ajustes ao longo do tempo. Conectar essas decisões por meio de um único modelo é a principal tentativa da proposta de tornar a governança da IA mais coerente.

Proteção de direitos e deveres empresariais se encontram nos detalhes

As perguntas sobre ilustradores, respostas incorretas e vídeos fabricados mostram por que a responsabilização importa para além dos testes técnicos. Uma pessoa que busca indenização ou a remoção de conteúdo prejudicial precisa de um caminho viável entre o dano que sofreu e as partes responsáveis por ele.

A proposta inclui a responsabilidade jurídica em seu modelo de adequação. Isso tornaria pertinente, na discussão sobre deveres e responsabilização, avaliar se um sistema é apropriado para a tarefa que lhe foi atribuída. A relação entre os resultados das avaliações e as regras existentes de responsabilidade civil, no entanto, é uma das questões que, segundo Sun, exigem trabalho detalhado adicional.

Os pesquisadores também precisam especificar como a maturidade cognitiva deve ser testada e qual dimensão de descompasso entre capacidade, confiabilidade e exigências da tarefa deve ser considerada uma inadequação. Essas escolhas determinarão com que consistência as empresas poderão aplicar o modelo e com que eficácia os órgãos reguladores poderão analisar suas avaliações.

A programação do lançamento reuniu essas necessidades práticas distintas em uma mesma agenda. A sessão sobre o setor incluiu especialistas jurídicos da Meituan e do Douyin, além de participantes acadêmicos e técnicos. A sessão sobre direitos e responsabilização incluiu um diretor de conformidade do Alibaba, advogados e pesquisadores universitários. A presença desses participantes mostra a variedade de perspectivas que os organizadores buscaram para a discussão; a programação não permite atribuir a eles uma posição comum sobre a proposta.

Para empresas menores, o que está em jogo concretamente é a quantidade de avaliações exigidas, as provas que precisam apresentar e como as obrigações mudam à medida que um produto se desenvolve. Para as pessoas afetadas pela IA, o que está em jogo é se essas obrigações ajudam a prevenir danos e permitem obter reparação quando algo dá errado.

A equipe de pesquisa planeja revisar a proposta com base nas contribuições recebidas no encontro. O trabalho central agora é transformar o princípio da adequação em testes, limites e regras de responsabilidade que possam ser aplicados em disputas concretas e decisões sobre produtos.

Principais pontos

• A proposta de lei de IA elaborada por especialistas da Universidade de Zhejiang contém oito capítulos e 99 artigos, reduzidos de uma versão inicial com 174 artigos.
• O modelo relaciona a capacidade de execução de um sistema, sua confiabilidade cognitiva e a tarefa que lhe foi atribuída.
• Presumir-se-ia que tarefas sensíveis relacionadas à saúde, liberdade, emprego, educação e outras áreas têm alto impacto.
• As avaliações abrangeriam todo o ciclo de desenvolvimento e uso e mudariam quando o sistema ou sua tarefa mudasse.
• A proposta acadêmica passará por novas revisões; métodos de teste, limites e regras de responsabilidade ainda precisam ser detalhados.