Coreia do Sul promulga a primeira lei abrangente sobre IA do mundo, equilibrando inovação e segurança

Coreia do Sul assume a liderança global com a Lei Básica de IA

A Coreia do Sul promulgou oficialmente o que afirma ser o primeiro conjunto abrangente de leis do mundo para regulamentar a inteligência artificial. Com seis capítulos e 43 artigos, a "Lei Básica de IA" entrou em vigor na quinta-feira, estabelecendo um marco regulatório que abrange um espectro excepcionalmente amplo de atividades e agentes envolvidos com IA. A legislação busca proteger os cidadãos e, ao mesmo tempo, estabelecer o que as autoridades descrevem como uma "base de confiança" em uma sociedade cada vez mais movida pela IA.

Essa iniciativa histórica coloca a Coreia do Sul à frente de outras grandes economias na criação de uma abordagem unificada para a governança da IA. Embora a União Europeia tenha começado a implementar algumas regras relacionadas à IA no ano passado, a maior parte central da Lei de IA europeia começará a entrar em vigor gradualmente em agosto. Os Estados Unidos ainda não têm uma lei federal sobre IA, embora a Casa Branca tenha emitido no mês passado uma ordem executiva contestando leis estaduais "onerosas" que, segundo ela, prejudicam a inovação em IA. A China adotou uma abordagem diferente, acrescentando algumas disposições sobre ética ou monitoramento de riscos à legislação de cibersegurança já existente.

A Lei Básica de IA da Coreia do Sul representa um avanço significativo no esforço global para regulamentar as tecnologias de inteligência artificial. A lei foi concebida para alcançar dois objetivos complementares: promover o crescimento do setor de IA sul-coreano e implementar as salvaguardas necessárias para proteger os cidadãos dos possíveis riscos associados à adoção da IA.

Estamos partindo do nível mais básico de consenso global. O objetivo não é impedir o desenvolvimento da IA por meio da regulamentação. É garantir que as pessoas possam usá-la com confiança.

Essas declarações de Kim Kyeong-man, vice-ministro do escritório de política de IA do Ministério de TIC, destacam a intenção da Coreia do Sul de criar um marco equilibrado, que não impeça o avanço tecnológico e, ao mesmo tempo, responda às preocupações do público com a segurança e a confiabilidade.

Definição de sistemas de IA de alto impacto

Um dos principais aspectos da nova lei sul-coreana é o foco na "IA de alto impacto": sistemas que podem afetar significativamente a vida, a segurança ou os direitos fundamentais das pessoas. A legislação identifica especificamente 11 áreas críticas nas quais os sistemas de IA exigem maior supervisão e medidas de transparência:

• Sistemas de fornecimento de energia
• Processos de produção de água potável
• Sistemas de serviços de saúde
• Desenvolvimento e uso de dispositivos médicos
• Gestão de materiais e instalações nucleares
• Análise de informações biométricas em investigações criminais
• Avaliações para emprego e concessão de empréstimos
• Sistemas e gestão de transporte
• Tomada de decisões governamentais que afetam serviços públicos
• Avaliação de estudantes na educação
• Outras áreas que afetam significativamente a vida, a segurança e os direitos das pessoas

Para essas aplicações de alto impacto, as empresas devem adotar várias salvaguardas essenciais. Elas precisam ser capazes de explicar a lógica de tomada de decisões do sistema de IA quando solicitadas, garantir que uma pessoa possa intervir quando necessário e informar claramente aos usuários que estão interagindo com serviços baseados em IA. Isso se aplica, por exemplo, a sistemas usados para selecionar candidatos a empréstimos ou vagas de emprego.

A lei estabelece uma distinção importante entre "IA de alto impacto" e o que a Coreia do Sul chama de "IA de alto desempenho". Enquanto a União Europeia concentra suas regras principalmente nos riscos específicos de cada aplicação, a Coreia do Sul adotou outra abordagem, usando limites técnicos para determinar quais sistemas precisam ser regulamentados. Esses limites incluem indicadores como o volume acumulado de computação usado no treinamento, o que significa que apenas um conjunto muito restrito de modelos avançados estaria sujeito aos requisitos de segurança mais rigorosos.

Atualmente, o governo sul-coreano afirma que nenhum modelo de IA existente, nacional ou internacional, atende aos critérios para regulamentação previstos nessa cláusula sobre IA de alto desempenho. Da mesma forma, as autoridades dizem que nenhum serviço nacional se enquadra atualmente na categoria de "alto impacto", embora veículos totalmente autônomos de nível 4 ou superior possam atender a esses critérios no futuro.

Requisitos de transparência e identificação de conteúdo gerado por IA

Um dos aspectos mais visíveis da regulamentação sul-coreana de IA são os requisitos de transparência para conteúdo gerado por inteligência artificial. De acordo com a nova lei, as empresas devem identificar de forma clara ou audível, por exemplo, com marcas-d'água, conteúdos gerados por IA que possam ser confundidos com a realidade. A exigência tem como alvo específico os deepfakes e outras produções de IA que possam gerar desinformação ou enganar o público.

A forma de identificação varia conforme o tipo de conteúdo. Quando é crucial para a segurança ou autenticidade distinguir o que é real do que foi gerado por IA, a identificação visível é obrigatória. Já no caso de conteúdo criativo produzido com IA, como jogos, animações ou webtoons, a lei permite formas de divulgação menos intrusivas, inclusive a inclusão de identificações nos metadados, que podem não estar imediatamente visíveis para os usuários.

Essa abordagem detalhada levantou dúvidas em setores como o de criação de webtoons, onde plataformas e criadores não sabem ao certo quão ampla é a definição de conteúdo "gerado por IA". Persistem preocupações sobre se o uso parcial de IA, como para criar cenários, colorir ou editar, pode gerar obrigações de divulgação. A lei não regulamenta usuários individuais que simplesmente utilizam ferramentas de IA, mas se aplica a plataformas e empresas que oferecem ferramentas de criação baseadas em IA ou distribuem obras geradas por inteligência artificial.

Aplicar marcas-d'água a conteúdo gerado por IA é a salvaguarda mínima para evitar efeitos colaterais do uso abusivo da tecnologia, como os deepfakes.

Essa declaração de um representante do ministério reforça a ênfase do governo na identificação como medida fundamental de proteção contra o uso indevido da IA. Os requisitos de transparência vão além da identificação de conteúdo e incluem a obrigação de informar quando os usuários interagem com serviços baseados em IA. As empresas devem avisar os usuários com antecedência quando oferecem produtos ou serviços que utilizam IA de alto impacto ou IA generativa, geralmente por meio de alertas em janelas pop-up ou avisos em destaque.

Estrutura de governança e apoio ao setor

A Lei Básica de IA estabelece uma estrutura abrangente de governança para a política de IA na Coreia do Sul. O Ministério da Ciência e TIC é a principal autoridade responsável pela implementação da política de IA, enquanto o Comitê Nacional de IA, vinculado à Presidência, analisa e define diretrizes mais amplas para essa política. A legislação também cria um Centro de Política de IA e um Instituto de Segurança de IA para apoiar a implementação das políticas e tratar de questões de segurança.

Além das medidas regulatórias, a lei inclui diversas disposições destinadas a apoiar o desenvolvimento e o crescimento da IA na Coreia do Sul. Entre as medidas de incentivo estão o apoio à pesquisa e ao desenvolvimento de IA, a padronização da tecnologia, a criação de dados para treinamento de IA e iniciativas para ajudar empresas a adotar e utilizar essas tecnologias. Há atenção especial ao apoio a pequenas e médias empresas, startups e à formação de profissionais para o setor de IA.

A lei também oferece a base jurídica para a elaboração de um "Plano Básico de IA", que servirá como roteiro de políticas para o desenvolvimento da tecnologia na Coreia do Sul. Essa abordagem abrangente reconhece que uma regulamentação eficaz da IA exige não apenas restrições, mas também apoio ativo à inovação e à competitividade no cenário global de inteligência artificial.

Para reduzir o ônus inicial para as empresas, o governo sul-coreano estabeleceu um período de adaptação de pelo menos um ano. Durante esse período, as autoridades não realizarão investigações para apurar fatos nem aplicarão sanções administrativas; o foco será em consultas e orientação. Foi criado um canal de apoio dedicado à Lei de IA para ajudar as empresas a determinar se seus sistemas estão abrangidos pela lei e como devem agir.

O serviço de atendimento sobre a Lei-Quadro de IA, com especialistas de organizações como o Instituto de Segurança de IA e a Agência Nacional da Sociedade da Informação, oferece consultas confidenciais e orientações a quem desenvolve ferramentas de inteligência artificial, atua comercialmente com elas ou as utiliza, em conformidade com as novas regras.

Requisitos de conformidade e penalidades

Empresas que operam na Coreia do Sul ou oferecem serviços a usuários sul-coreanos têm obrigações específicas de conformidade previstas na nova lei. Empresas estrangeiras de IA que atendam a determinados critérios, como receita anual global de 1 trilhão de won (US$ 681 milhões) ou mais, vendas no país de pelo menos 10 bilhões de won ou pelo menos 1 milhão de usuários diários no país, devem designar um representante local para atuar como interlocutor junto às autoridades. Atualmente, grandes empresas como OpenAI e Google estão sujeitas a essas exigências.

Os operadores de IA são divididos em duas categorias: operadores de desenvolvimento de IA, que desenvolvem e fornecem sistemas de IA, e operadores de utilização de IA, que oferecem produtos ou serviços que usam sistemas fornecidos por desenvolvedores. Ambas as categorias têm obrigações de transparência, mas o foco regulatório continua principalmente nos sistemas de IA de alto impacto e de IA generativa.

A aplicação da lei sul-coreana é deliberadamente branda em comparação com a de outras jurisdições. Ela não prevê sanções criminais. Em vez disso, prioriza determinações para corrigir irregularidades, com multas limitadas a 30 milhões de won (US$ 26.200) apenas quando essas determinações são ignoradas. Como destacam as autoridades do governo, a abordagem prioriza a conformidade, e não a punição.

Para comparação, o marco regulatório da União Europeia prevê sanções muito mais rigorosas, com diferentes níveis de penalidade conforme o tipo de infração, incluindo multas administrativas de até 7% do faturamento anual global. Essa diferença significativa na severidade das penalidades reflete a intenção declarada da Coreia do Sul de manter a regulamentação no nível mínimo e, ainda assim, estabelecer uma estrutura básica de segurança.

As três infrações específicas sujeitas a multas previstas na lei sul-coreana são: deixar de notificar as autoridades sobre operações baseadas em IA ao oferecer produtos ou serviços que utilizem IA de alto impacto ou IA generativa; deixar de designar um representante nacional quando exigido; e descumprir ordens de suspensão ou correção emitidas pelo ministro da Ciência e TIC.

Reação do setor e preocupações das startups

Embora o governo apresente a Lei Básica de IA como uma abordagem equilibrada, que apoia a inovação e garante a segurança, nem todos no setor de tecnologia compartilham dessa visão. Startups sul-coreanas manifestaram preocupação com os possíveis custos de conformidade impostos pelas novas regras, especialmente porque elas entram em vigor antes de marcos semelhantes em outros países.

Segundo uma pesquisa da Startup Alliance, apenas 2% das startups focadas em IA dizem ter um plano formal de conformidade, enquanto cerca de metade admite não entender plenamente as exigências da nova lei. Essa falta de clareza tem causado apreensão entre os fundadores, que temem que a linguagem vaga da legislação os leve a adotar estratégias de desenvolvimento cautelosas demais para evitar riscos regulatórios.

Há certo ressentimento: por que temos que ser os primeiros a fazer isso?

Essa declaração de Lim Jung-wook, codiretor da Startup Alliance da Coreia do Sul, resume a frustração de alguns empreendedores por estarem sujeitos a uma regulamentação abrangente de IA antes de seus concorrentes globais. Muitos fundadores se perguntam se regulamentar a IA primeiro dará vantagem à Coreia do Sul ou colocará suas empresas em desvantagem no mercado internacional.

O presidente Lee Jae Myung reconheceu essas preocupações e pediu aos responsáveis pela formulação de políticas que ouçam as opiniões do setor e garantam apoio adequado a empresas de tecnologia e startups. Em uma reunião recente com assessores, Lee destacou a importância de maximizar o potencial do setor com apoio institucional e, ao mesmo tempo, administrar preventivamente os efeitos colaterais esperados.

O Ministério da Ciência e TIC respondeu a essas preocupações com planos para criar uma plataforma de orientação e um centro de apoio dedicado às empresas durante o período de adaptação. Um porta-voz afirmou que o governo continua avaliando medidas para reduzir ao mínimo o ônus para o setor e considera estender o período de adaptação caso as condições do setor no país e no exterior justifiquem essa medida.

Comparação com abordagens internacionais

A Lei Básica de IA da Coreia do Sul representa uma filosofia regulatória própria, diferente das abordagens adotadas por outras grandes economias. A legislação leva em conta tanto o modelo dos Estados Unidos, que prioriza a autonomia do setor privado, quanto o modelo regulatório da União Europeia, que enfatiza segurança e confiabilidade. No fim, a Coreia do Sul escolheu um caminho próprio, que busca conciliar regulamentação mínima e incentivo à IA para se tornar um dos países líderes em competitividade global nesse setor.

Assim como a Lei de IA da União Europeia, o marco sul-coreano define sistemas de IA e estabelece diversas obrigações relacionadas à IA de alto impacto, incluindo avaliações de impacto sobre direitos fundamentais (FRIAs, na sigla em inglês). No entanto, o nível específico de regulamentação poderá mudar conforme futuras normas complementares, previstas para o primeiro semestre de 2025.

Uma diferença significativa entre as abordagens sul-coreana e europeia está na estrutura das obrigações. A Lei de IA da União Europeia estabelece obrigações distintas conforme o tipo de participante na cadeia de valor da IA, enquanto a Lei-Quadro de IA da Coreia do Sul define obrigações de forma abrangente, sem distinguir os diferentes tipos de participantes. Essa abordagem mais simples pode reduzir a complexidade, mas também criar dificuldades para aplicar uma supervisão adequada em um ecossistema de IA diversificado.

A definição sul-coreana de IA de alto impacto também difere da metodologia da União Europeia. Enquanto a União Europeia se concentra nos riscos específicos de cada aplicação e visa sistemas de IA usados em áreas como saúde, recrutamento e aplicação da lei, a Coreia do Sul utiliza limites técnicos para determinar quais sistemas precisam ser regulamentados. Entre os indicadores estão o volume acumulado de computação usado no treinamento, o que pode resultar em um conjunto muito menor de sistemas sujeitos à regulamentação com as capacidades tecnológicas atuais.

A diferença de filosofia regulatória também aparece nas penalidades por infrações. A União Europeia estabeleceu sanções rigorosas, com multas de até 7% do faturamento anual global, enquanto o marco sul-coreano prevê multas administrativas de no máximo 30 milhões de won (cerca de US$ 26.200). Essa diferença expressiva reflete a ênfase da Coreia do Sul na conformidade e na correção, e não na punição.

Implicações globais e perspectivas futuras

A promulgação de uma legislação abrangente sobre IA pela Coreia do Sul tem implicações significativas para o cenário global da inteligência artificial. Como segundo país, depois da União Europeia, a adotar um marco regulatório abrangente para a IA, a Coreia do Sul oferece um novo exemplo legislativo que outras nações poderão considerar ao desenvolver suas próprias abordagens para a governança da inteligência artificial.

A aprovação da lei apesar da turbulência política envolvendo a declaração de lei marcial do presidente Yoon Suk Yeol e seu impeachment posterior demonstra o consenso multipartidário sobre a importância da regulamentação da IA. A lei foi aprovada em plenário pela Assembleia Nacional em 26 de dezembro de 2024, com amplo apoio de diferentes partidos, evidenciando o consenso político em torno da necessidade de enfrentar os desafios da IA.

As autoridades sul-coreanas reconhecem que a legislação atual é um ponto de partida, não um produto acabado. A implementação detalhada de muitas disposições dependerá de normas complementares e diretrizes específicas para cada setor, que serão finalizadas durante o período de preparação de um ano, antes de a lei entrar plenamente em vigor, em janeiro de 2026.

A função de coordenação do Comitê Nacional de IA será crucial enquanto a Coreia do Sul trabalha para conciliar a experiência dos ministérios envolvidos, levando em conta as características dos diferentes alvos regulatórios ou setores. À medida que a tecnologia de IA se dissemina por todas as áreas, das informações pessoais e dos direitos autorais à saúde e à defesa, uma governança eficaz exigirá coordenação cuidadosa entre diferentes órgãos do governo.

Com a intensificação das discussões globais sobre normas e governança da IA, cresceu ainda mais a necessidade de interoperabilidade internacional e cooperação regulatória para garantir a confiabilidade da inteligência artificial. A abordagem sul-coreana poderá influenciar essas discussões internacionais, especialmente no debate sobre como equilibrar inovação e preocupações com a segurança na governança da IA.

Em resumo

• A Coreia do Sul promulgou a primeira lei abrangente sobre IA do mundo, a Lei Básica de IA, que abrange o desenvolvimento, a implementação e o uso da inteligência artificial.
• A lei define a "IA de alto impacto" em 11 setores críticos, incluindo saúde, finanças, transporte e serviços governamentais, e exige maior supervisão e possibilidade de intervenção humana.
• Conteúdo gerado por IA deve ser identificado, com marcas-d'água visíveis para materiais que possam ser confundidos com a realidade e identificação menos intrusiva para obras criativas, como webtoons e animações.
• Empresas estrangeiras de IA que atinjam os limites de receita ou número de usuários devem designar um representante local na Coreia do Sul.
• As penalidades por descumprimento estão limitadas a 30 milhões de won (US$ 26.200), valor muito inferior às multas da União Europeia, que podem chegar a 7% do faturamento anual global.
• A lei prevê um período de adaptação de um ano, com foco em orientações, não em punições, e um canal de atendimento dedicado às empresas que buscam ajuda para cumprir as regras.
• Startups manifestaram preocupação com os custos de conformidade e a linguagem vaga da legislação; apenas 2% afirmam ter planos formais de conformidade.
• A lei busca posicionar a Coreia do Sul entre as três principais potências globais em IA e estabelecer uma base de confiança para essa tecnologia.
• A abordagem sul-coreana difere da europeia por priorizar limites técnicos, em vez de riscos específicos de cada aplicação, na regulamentação de sistemas avançados de IA.
• A implementação plena começará em janeiro de 2026, após um período de preparação de um ano para a elaboração de normas complementares e diretrizes detalhadas.