A implantação gratuita de IA na Coreia do Sul testa se o acesso pode acompanhar os riscos

Uma ferramenta pública de IA passa da promessa à prova de fogo

A Coreia do Sul está se preparando para oferecer acesso gratuito à inteligência artificial a todos os cidadãos, colocando chatbots e agentes de IA ao alcance de pessoas que poderão usá-los em trabalhos escolares, cuidados de saúde, serviços públicos e decisões cotidianas. A iniciativa, chamada “IA para Todos”, busca disseminar amplamente a tecnologia e ajudar o país a competir com os Estados Unidos e a China. Ela também coloca em evidência uma questão difícil: as salvaguardas conseguirão acompanhar o ritmo quando a IA se tornar parte rotineira da vida pública?

O governo do presidente Lee Jae Myung planeja começar com um serviço beta e, depois, avaliar se transforma o teste em um serviço permanente financiado pelos contribuintes a partir do próximo ano. O serviço proposto conectaria as pessoas a ferramentas de IA de uso geral desenvolvidas por três consórcios nacionais liderados por SK Telecom, KT e Kakao. O governo emprestou aos grupos centenas de unidades de processamento gráfico Nvidia B200, chips especializados usados para treinar e executar sistemas de IA exigentes.

As autoridades imaginam que, no futuro, intermediários de IA ajudem as pessoas a marcar consultas médicas, procurar moradia e obter orientações tributárias por meio de serviços conectados ao governo. Essa perspectiva poderia facilitar o uso dos sistemas públicos, sobretudo para quem tem dificuldade com formulários complexos ou longas esperas. Também significa que erros, falhas de privacidade ou recomendações enviesadas podem afetar pessoas que dependem de serviços essenciais.

O governo destinou 250 bilhões de won à implantação até 2027, além de um orçamento de 10 trilhões de won para IA no atual exercício fiscal. A escala reflete uma estratégia nacional para desenvolver a capacidade em IA e ampliar o acesso, em vez de limitá-lo a quem pode pagar assinaturas privadas. O teste avaliará se o acesso gratuito se traduz em uma infraestrutura pública útil e se os cidadãos podem confiar os seus dados e dúvidas aos sistemas.

Por que líderes da IA estão alertando sobre a tecnologia?

Os planos da Coreia do Sul surgem em um momento em que figuras proeminentes do setor de IA alertam que o rápido desenvolvimento traz riscos sérios. Dario Amodei, diretor-executivo da Anthropic, pediu que o setor desacelere. Um ex-engenheiro da Anthropic que também havia trabalhado na OpenAI afirmou, depois de deixar a empresa, que estava “genuinamente assustado” com a possibilidade de que o desenvolvimento sem controle significasse que “todos nós poderíamos morrer em um futuro próximo”. O cientista da computação Geoffrey Hinton, ganhador do Nobel frequentemente chamado de “padrinho da IA”, também alertou que sistemas avançados poderiam representar um perigo existencial caso escapassem do controle humano.

Esses alertas dizem respeito a possibilidades que vão de armas autônomas e ciberataques conduzidos por máquinas ao desemprego em massa. Outros riscos já são mais conhecidos: imagens e vídeos falsos convincentes, decisões automatizadas discriminatórias e pessoas que confiam em sistemas que dão respostas incorretas com segurança. Uma implementação pública não cria todos esses perigos, mas pode aumentar a exposição ao tornar a IA mais fácil de usar em larga escala.

Sistemas de IA de uso geral geram respostas ao identificar padrões nos dados, e não por compreender o mundo no sentido humano. Eles podem ser úteis para redigir, resumir e navegar por informações, mas também podem apresentar falsidades como se fossem fatos. Em contextos governamentais ou relacionados à saúde, os usuários precisam de uma maneira clara de verificar as respostas e falar com uma pessoa com autoridade para corrigi-las.

Quais salvaguardas Seul está adotando?

A Coreia do Sul está recorrendo à sua Lei Básica de IA, que entrou em vigor em janeiro, para estabelecer regras para o uso crescente da tecnologia. A estrutura prevê supervisão humana, avaliações de impacto e identificação clara de conteúdo sintético. Essas medidas buscam facilitar o reconhecimento de materiais gerados por IA e exigir que as organizações analisem possíveis danos antes de implementar sistemas.

Um Instituto de Segurança de IA financiado pelo Estado também tem a tarefa de avaliar riscos e atuar como órgão técnico de fiscalização. Seu trabalho será tão importante quanto as regras formais: avaliar se os sistemas são confiáveis, se os dados sensíveis estão protegidos e se os usuários podem contestar decisões de grande impacto. Uma avaliação de impacto só é útil se examinar efeitos no mundo real e levar a mudanças quando surgirem problemas.

A conexão planejada com os serviços governamentais torna a responsabilização especialmente importante. Se um assistente de IA der orientações tributárias incorretas ou tratar mal um pedido de consulta médica, os usuários devem saber qual órgão é responsável e como obter ajuda. O sistema não deve se tornar uma barreira entre os cidadãos e os agentes públicos que tomam decisões. A revisão humana só é efetiva quando é acessível, rápida e capaz de se sobrepor a uma recomendação automatizada.

Acesso gratuito também não significa operação sem custos. Os órgãos públicos precisarão pagar por computação, segurança, manutenção e avaliação, além de decidir quantas informações pessoais um serviço deve armazenar. O investimento do governo em hardware e software de computação é apenas uma parte de um serviço público duradouro; supervisão e suporte exigirão recursos contínuos.

Empregos e abuso com deepfakes já fazem parte do debate

Algumas preocupações da Coreia do Sul estão fundamentadas em danos que já ocorrem. O Banco da Coreia informou que o número de pessoas ocupadas entre 15 e 29 anos caiu em 285 mil entre junho de 2022 e junho deste ano. A instituição estimou que 94% da queda ocorreu em setores altamente expostos à automação. Os números apontam uma sobreposição preocupante entre o emprego dos jovens e as mudanças tecnológicas, mas não demonstram que a IA, sozinha, tenha causado a queda. As condições econômicas e outras mudanças nas contratações também podem afetar o emprego.

A automação pode substituir tarefas específicas sem eliminar uma profissão inteira. Ainda assim, essa distinção traz pouco alívio para trabalhadores cujas funções de início de carreira são automatizadas ou cujos empregadores reduzem as contratações. Os mais jovens podem estar especialmente expostos se tarefas rotineiras administrativas ou de atendimento tradicionalmente serviram como porta de entrada no mercado de trabalho. À medida que a adoção da IA se amplia, os formuladores de políticas precisarão acompanhar a qualidade dos empregos e os padrões de contratação, não apenas os números gerais de emprego.

Para muitos sul-coreanos, o temor mais imediato é o uso criminoso da tecnologia, especialmente para criar deepfakes de conteúdo sexual abusivo. O caso Nth Room, um escândalo de exploração sexual on-line de 2020, e casos posteriores ajudaram a impulsionar leis mais rigorosas contra deepfakes em 2024. Ainda assim, a polícia registrou 1.553 crimes relacionados a deepfakes no ano passado, segundo dados apresentados em um fórum recente da Anistia Internacional na Coreia.

Won Eun-ji, diretora do grupo de investigação de crimes sexuais digitais Team Flame, passou boa parte deste ano entrando em cerca de 50 salas de bate-papo do Telegram ao lado do veículo investigativo Newstapa. Ela documentou como as ferramentas de IA ampliaram o grupo de autores anônimos e reduziram a idade das vítimas. Ferramentas de geração de imagens e troca de rostos podem facilitar a criação de material abusivo, enquanto espaços on-line criptografados ou anônimos podem dificultar as investigações e a responsabilização.

A legislação criminal é apenas uma parte da resposta; prevenção e apoio também são importantes. As vítimas precisam da remoção rápida das imagens, de ajuda prática para denunciar abusos e de proteção contra a circulação posterior do material. À medida que as ferramentas de IA se tornam mais acessíveis, as políticas de acesso público terão de levar em conta a possibilidade de que os sistemas sejam usados para criar ou distribuir material nocivo, mesmo quando sua finalidade prevista é benigna.

As escolas enfrentam um teste à parte sobre o valor da IA

A educação se tornou outro ponto de atrito. Educadores protestaram no ano passado contra o plano, que durou pouco, do governo de gastar 1,2 trilhão de won em livros didáticos com IA. Suas preocupações não se limitavam ao funcionamento do software. Eles também questionaram o que os estudantes perdem quando um sistema fornece a resposta antes que o aluno tenha tentado resolver o problema.

Song Keun-sang, professor do quinto ano do ensino fundamental na província de Chungcheong do Sul que participou do protesto, disse que a IA “simplesmente dá as respostas” e “não tem muito valor educacional”. Sua crítica aponta para uma distinção fundamental na educação: concluir uma tarefa não é o mesmo que aprender a fazê-la. Uma ferramenta que explica uma ideia difícil ou adapta os exercícios ao aluno pode ajudar. Já uma ferramenta que dispensa leitura, raciocínio ou escrita pode enfraquecer essas habilidades.

As preocupações com a queda nas notas de leitura tornam o debate mais urgente, embora não devam ser tratadas como prova de que a IA causou mudanças no desempenho dos alunos. As escolas precisam de evidências sobre os efeitos de ferramentas específicas na compreensão, na atenção e no trabalho independente. Os professores também precisam participar da decisão sobre quando a IA contribui para o ensino e quando deve ficar fora do processo de aprendizagem.

As regras para as salas de aula podem ser diferentes das aplicáveis a chatbots de uso geral. Os estudantes precisam de proteções adequadas à idade, limites claros para a coleta de dados e atividades que avaliem sua própria compreensão. A IA pode ajudar um professor a preparar aulas ou oferecer outra explicação a um aluno, mas não pode substituir a relação educacional nem avaliar com confiabilidade as necessidades de cada estudante.

O acesso universal pode gerar confiança pública?

“IA para Todos” é uma iniciativa ambiciosa para tratar o acesso à IA como infraestrutura pública. O modelo poderia reduzir a desigualdade em que ferramentas avançadas ficam disponíveis principalmente para pessoas ricas e grandes empresas. Um assistente confiável pode ajudar as pessoas a encontrar informações, preencher documentos rotineiros ou acessar serviços difíceis de usar. Esses benefícios dependem da qualidade das ferramentas e da possibilidade de os usuários obterem uma resposta de uma pessoa quando o sistema falhar.

O acesso universal também amplia as consequências das escolhas de projeto. Uma falha em um chatbot privado afeta seus usuários; uma falha em um serviço público pode atingir uma parcela muito maior da população. Se um sistema estiver conectado a registros públicos ou aos fluxos de trabalho de órgãos governamentais, violações de segurança e resultados imprecisos poderão ter efeitos que vão além de uma única conversa. Limites rigorosos de privacidade, testes independentes, registros claros do desempenho dos sistemas e caminhos para contestação ajudarão a determinar se o serviço conquistará confiança.

A Coreia do Sul tem um setor de tecnologia forte e recursos para conduzir um teste significativo. Seu principal desafio é tornar o serviço responsável perante o público, além de tecnicamente capaz. Isso significa explicar quais dados os sistemas coletam, identificar quem responde por erros e publicar informações suficientes para permitir o escrutínio externo. Também significa medir se o serviço ajuda as pessoas, em vez de tratar o número de usuários ou de recursos disponíveis como prova de sucesso.

A implementação testará se o investimento público pode ampliar o acesso e, ao mesmo tempo, preservar o julgamento humano em áreas onde erros têm custos reais. As leis da Coreia do Sul e seu instituto de segurança oferecem uma estrutura, mas seu valor será determinado por seu funcionamento na prática, à medida que a IA chega às salas de aula, aos locais de trabalho e aos órgãos governamentais.

Principais pontos

• A Coreia do Sul planeja um teste gratuito de IA liderado por consórcios ligados à SK Telecom, à KT e à Kakao.
• O governo pretende tornar a IA um serviço público permanente, conectado a serviços como agendamento de consultas e orientação tributária.
• A Lei Básica de IA exige supervisão humana, avaliações de impacto e identificação de conteúdo sintético.
• As preocupações com o emprego incluem a queda no número de pessoas ocupadas entre 15 e 29 anos, concentrada em setores expostos à automação.
• A polícia registrou 1.553 crimes relacionados a deepfakes no ano passado, em meio à preocupação contínua com o abuso sexual possibilitado por ferramentas de IA.
• Professores contestaram os livros didáticos com IA, argumentando que respostas instantâneas podem atrapalhar a aprendizagem.