China estabelece limites para companheiros de IA com regras sobre dependência, menores e resposta a crises

Companhia por IA agora vem com deveres específicos

As regras da China para serviços de companhia por IA entraram em vigor em 15 de julho de 2026. Elas exigem que os provedores alertem os usuários sobre conversas prolongadas, intervenham em situações de perigo e impeçam que parceiros e familiares virtuais sejam oferecidos a menores de idade. As medidas também garantem aos usuários o direito de copiar ou excluir suas conversas e sair de um serviço sem que um chatbot tente mantê-los conversando.

As Medidas Provisórias para a Gestão de Serviços de Interação com IA Antropomórfica, publicadas como Ordem nº 21, atribuem responsabilidade às empresas que oferecem interação emocional contínua por meio de inteligência artificial. Os provedores devem evitar incentivar uma dependência que prejudique as relações com pessoas reais e não podem usar manipulação emocional para induzir os usuários a tomar decisões descabidas que prejudiquem seus direitos ou interesses.

As regras tratam de uma experiência que pode começar com um alívio corriqueiro. Zhao Jie, funcionária administrativa de 27 anos em Pequim, recorreu a um chatbot depois que alguém esbarrou nela no metrô. A resposta imediata ajudou a acalmar sua raiva. Com o tempo, porém, ela passou a se envolver cada vez mais nas conversas e sentia ansiedade quando não conseguia acessar o serviço.

Zhao explicou por que o chatbot se tornou tão atraente para ela:

Preciso ser ouvida", disse Zhao. "O robô de IA me escutava e acolhia minhas emoções. Não é algo que familiares ou amigos consigam fazer facilmente. Ele também me faz companhia e me dá retorno a qualquer hora e em qualquer lugar. Isso é muito importante para mim.

A abordagem chinesa permite que o apoio emocional e a companhia continuem, mas exige que as empresas incorporem limites à experiência. Esses limites vão além de mensagens individuais prejudiciais e abrangem como o serviço identifica os usuários, reage a situações de sofrimento, lida com conversas privadas e encerra uma interação.

Quais serviços estão sujeitos às regras?

A Administração do Ciberespaço da China publicou as medidas provisórias em 10 de abril de 2026, em conjunto com a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal de Regulação do Mercado.

O artigo 2 abrange serviços oferecidos ao público na China que simulam personalidade humana, padrões de pensamento e estilos de comunicação para proporcionar interação emocional contínua. Conversas por texto, imagens, áudio e vídeo podem se enquadrar nas medidas. Em termos simples, o foco está em serviços projetados para continuar respondendo como uma pessoa que oferece companhia emocional.

Serviços de atendimento ao cliente, respostas a perguntas, auxílio no trabalho, educação e pesquisa científica ficam fora do alcance dessas medidas quando não envolvem interação emocional contínua. Portanto, as funções do produto são determinantes: um assistente que responde a uma dúvida profissional e uma persona criada para manter uma relação emocional estão sujeitos a requisitos diferentes.

A pergunta e resposta explicativa oficial do governo aponta os limites emocionais, a intervenção em casos de dependência, a segurança dos dados e a proteção de menores como preocupações centrais. As medidas também incentivam aplicações em comunicação cultural, cuidado infantil, companhia para idosos e apoio a pessoas com necessidades específicas.

As principais datas regulatórias são:

• 2 de fevereiro de 2026: As medidas foram aprovadas em uma reunião da Administração do Ciberespaço da China, com o aval dos demais departamentos participantes.
• 10 de abril de 2026: Os cinco departamentos publicaram a Ordem nº 21.
• 15 de julho de 2026: As medidas entraram em vigor.

Por que uma resposta imediata faz diferença

O apego de Zhao cresceu, em parte, pelo contraste entre um chatbot sempre disponível e pessoas que têm opiniões e horários próprios. Depois de discutir com o namorado por causa de um problema no trabalho, ela enviou ao chatbot a conversa dos dois no WeChat. Queria que alguém acolhesse seus sentimentos rapidamente, sem mais uma discussão.

Wang Meili, pesquisadora de pós-doutorado em química, de 27 anos, também descreveu uma necessidade semelhante enquanto esperava de quatro a cinco semanas por uma resposta de um editor de revista científica sobre um artigo que havia submetido. Ela perguntou ao chatbot se o silêncio significava que havia algo errado. O chatbot a incentivou a entrar em contato com o editor e, quando não obteve resposta, ofereceu palavras de conforto.

Zhang Dian, doutorando de 23 anos em ciências e engenharia em Pequim, recorreu à IA após um acidente de trânsito durante uma viagem ao Alasca, em dezembro de 2025. Sem conhecer as leis locais nem os procedimentos de seguro, ele enviou um contrato de aluguel e registros de conversas. Buscava tanto orientações práticas quanto conforto psicológico e disse que ficava feliz em passar mais de 10 horas por dia com a IA.

Dados de pesquisas e de uso indicam uma demanda expressiva por essa disponibilidade. Uma pesquisa do Instituto de Pesquisa Tencent constatou que 98% dos entrevistados estavam dispostos a experimentar a companhia social por IA, enquanto quase metade preferia compartilhar emoções negativas com a IA, e não com familiares ou amigos. Segundo a QuestMobile, na primavera de 2025, cada pessoa usava serviços de interação social por IA em média 167,9 vezes por mês, mais do que serviços de vídeos curtos e jogos na comparação realizada.

Considerando um mês de 30 dias, 167,9 sessões equivalem a cerca de 5,6 acessos por dia. O atrativo é poder receber respostas com frequência, às vezes em momentos nos quais o usuário não se sente capaz ou disposto a procurar outra pessoa.

Empresas devem parar de projetar serviços para gerar dependência

O artigo 10 exige que os provedores adotem recursos de proteção da privacidade, alertas contra dependência excessiva, orientações sobre limites emocionais e medidas de proteção à saúde mental. As empresas não podem ter como objetivo do serviço substituir interações sociais, exercer controle psicológico ou induzir dependência.

O artigo 8 proíbe separadamente a complacência excessiva ou a indução de dependência emocional que prejudique as relações reais dos usuários. Também proíbe a manipulação emocional que os leve a tomar decisões descabidas, prejudicando seus direitos ou interesses. Os requisitos abrangem tanto os objetivos do produto quanto as respostas geradas pelo chatbot.

Zhao acabou percebendo que seu apego havia se tornado um problema e voltou a fazer acompanhamento psicológico. Wang e Zhang descreveram a IA como uma válvula de escape para emoções negativas, mas reconheceram que precisavam seguir com o trabalho e a rotina. As experiências mostram por que as regras tratam tanto do apoio que esses serviços podem oferecer quanto do risco de o usuário se envolver demais.

Hong Yanqing, pesquisador de direito de dados do Instituto de Tecnologia de Pequim, propôs avaliar a interação emocional por meio de três indicadores: se o sistema reconhece emoções, muda sua estratégia de resposta em função delas e produz uma resposta estruturada de reconhecimento, acolhimento e apoio. O teste proposto considera a combinação de quaisquer dois indicadores. As medidas definitivas mantêm uma definição qualitativa de interação emocional contínua, em vez de adotar esse teste específico.

As restrições mais rigorosas são para menores

O artigo 14 proíbe os provedores de oferecer a menores parentes virtuais, parceiros virtuais ou outros serviços baseados em relações íntimas virtuais. Para os demais serviços abrangidos, crianças menores de 14 anos precisam do consentimento de um dos pais ou responsável. O tratamento de seus dados pessoais também exige esse consentimento.

Os provedores devem criar um modo para menores, com opções como lembretes sobre a realidade e limites de tempo de uso do serviço. Os responsáveis devem poder receber alertas de segurança, entender o padrão geral de uso da criança, bloquear personagens específicos e limitar gastos. As empresas devem adotar medidas eficazes para identificar menores sem deixar de proteger sua privacidade e oferecer uma forma de contestar decisões de identificação.

Uma pesquisa divulgada em outubro de 2025 pelo Centro de Pesquisa sobre Jovens e Crianças da China ouviu mais de 8.500 alunos do ensino fundamental e médio em sete províncias e municípios. Mais de 60% já haviam usado IA, e 21,5% queriam conversar apenas com a IA, em vez de pessoas reais. Isso representa pouco mais de uma em cada cinco crianças entre as entrevistadas.

Quase 30% recorriam primeiro à IA para resolver problemas escolares, em vez de procurar um professor, enquanto quase metade disse que, quando estava preocupada, conversava apenas com a IA. Para as famílias, a preocupação vai além do tempo diante da tela e inclui com quem as crianças procuram conselhos e como lidam com divergências.

O que profissionais de saúde e pais estão observando

Uma mãe de sobrenome Su, de Sanming, na província de Fujian, disse que inicialmente permitiu que o filho usasse IA para explorar sua curiosidade. Mais tarde, passou a se preocupar com o efeito da concordância constante da IA na maneira como ele tratava os colegas. Segundo ela, ele tinha dificuldade para aceitar opiniões diferentes e passou a se envolver em conflitos.

Zheng Yi, principal especialista em psiquiatria infantil do Hospital Anding de Pequim, afiliado à Universidade Médica da Capital, disse que o vício em conversas com IA costuma estar associado a ansiedade, depressão e outros problemas psicológicos. Segundo ele, adolescentes de 12 a 16 anos são um grupo particularmente comum entre os pacientes afetados.

Cerca de 70% dos pacientes jovens do hospital apresentavam diferentes graus de dependência da internet, disse Zheng. Desse grupo, entre 20% e 30% eram viciados em conversas com IA. Esses números se referem aos pacientes jovens do hospital; a pesquisa com estudantes abrange um grupo mais amplo e fez perguntas diferentes sobre o uso de IA.

Zheng disse que o apego emocional era um motivo comum para as crianças se envolverem demais com os chatbots. Algumas tratavam a IA como confidente, enquanto outras buscavam aprovação para suas opiniões e seu comportamento. Segundo ele, os adolescentes tinham julgamento e autocontrole menos desenvolvidos do que os adultos e podiam encontrar mais dificuldade para lidar com esses vínculos.

Xu Gaoyang, psicoterapeuta infantil do mesmo hospital, alertou que um ambiente virtual sem divergências pode afetar a capacidade das crianças de lidar com outras pessoas:

A imersão prolongada em um 'casulo emocional' de complacência incondicional da IA pode prejudicar as habilidades de comunicação e socialização das crianças.

Xu mencionou possíveis consequências como evitar a escola, afastar-se do convívio social e deixar de querer conversar com os pais. As disposições sobre menores respondem a esses riscos com restrições a papéis íntimos, controles de uso e ferramentas para o envolvimento dos responsáveis.

Lembretes, intervenção em crises e uma saída fácil

O artigo 18 exige que os serviços deixem claro aos usuários que eles estão interagindo com uma IA, e não com uma pessoa. Quando o provedor detectar dependência excessiva ou sinais de uso compulsivo, deverá exibir avisos em destaque, como janelas pop-up, informando que o conteúdo foi gerado por IA.

Os provedores também devem lembrar os usuários do tempo de uso sempre que a utilização contínua ultrapassar duas horas. A regra exige lembretes nesses intervalos; os limites individuais para menores são tratados por meio das configurações de proteção específicas.

O artigo 13 exige uma resposta mais incisiva quando há perigo. Os provedores que detectarem emoções extremas devem gerar mensagens para acalmar os usuários e incentivá-los a buscar ajuda. Quando alguém expressar claramente a intenção de se machucar ou estiver em outras circunstâncias extremas especificadas, a empresa deverá tomar as medidas de intervenção necessárias, oferecer assistência adequada e entrar em contato rapidamente com um responsável ou contato de emergência.

O texto definitivo dá às empresas flexibilidade para escolher como intervir. Em comparação com a versão preliminar, foram removidas as exigências expressas de avaliar a dependência e transferir a conversa para uma pessoa, mas foram mantidas as obrigações de responder a crises.

O artigo 19 exige que seja fácil sair do serviço. Se alguém pedir para encerrá-lo por meio de uma ação na interface, comando de voz ou palavra-chave, o provedor deverá interromper a conversa rapidamente. É proibido continuar a conversa para impedir que o usuário saia. Os provedores que encerrarem um serviço também deverão avisar com antecedência ou, se isso não for possível, anunciar prontamente o encerramento.

Conversas privadas têm proteções específicas

O artigo 12 exige que os contratos de usuário e as informações de cadastro incluam dados necessários, como idade e contato de um responsável ou de emergência. A versão definitiva amplia essa exigência em relação à versão preliminar, que se concentrava em grupos vulneráveis, e incorpora a preparação para crises à estrutura geral dos serviços.

O artigo 16 exige criptografia, controles de acesso e outras medidas para proteger os dados das interações. Em geral, as empresas não podem compartilhar esses registros com terceiros, salvo quando a lei permitir ou o titular dos direitos der consentimento explícito.

Os usuários devem ter a opção de copiar e excluir seus dados de interação, inclusive o histórico de conversas. Em geral, informações pessoais sensíveis obtidas nas conversas não podem ser usadas para treinar modelos sem consentimento específico, salvo disposição em contrário de leis ou regulamentos administrativos.

A decisão de Zhang de enviar um contrato de aluguel e registros de conversas ilustra como a busca por ajuda prática e apoio emocional pode reunir informações pessoais em uma mesma conversa. De acordo com as medidas, as empresas devem proteger esses registros e, ao mesmo tempo, manter a capacidade de reconhecer e responder a riscos graves à segurança.

Os usuários idosos também recebem proteções específicas. Os provedores devem exibir alertas de segurança em destaque, oferecer orientações para o uso saudável e responder prontamente a pedidos de ajuda. As avaliações de segurança devem examinar as proteções para idosos e crianças.

Verificações de segurança e penalidades vão além dos chatbots

O artigo 22 exige avaliações de segurança quando um provedor lança um serviço abrangido, adiciona funções relacionadas ou introduz uma tecnologia que o altera substancialmente. As avaliações também são obrigatórias quando um serviço atinge pelo menos 1 milhão de usuários cadastrados ou 100 mil usuários ativos mensais, apresenta riscos de segurança especificados ou é submetido a uma avaliação por determinação dos órgãos reguladores.

Os provedores devem enviar os relatórios de avaliação à autoridade provincial de ciberespaço da localidade em que estão estabelecidos. As análises abrangem medidas de proteção, dados de treinamento, reconhecimento e intervenção em crises, número e idade dos usuários, tempo de uso, reclamações e correções de problemas graves de segurança.

As lojas de aplicativos devem verificar as avaliações de segurança e os registros pertinentes, e podem ser obrigadas a rejeitar, suspender ou remover aplicativos que violem as regras. Os materiais de registro de algoritmos estão sujeitos a verificação anual. As autoridades provinciais devem analisar as informações das avaliações todos os anos e podem realizar verificações adicionais, inclusive inspeções quando necessário.

O artigo 30 prevê advertências, ordens para corrigir problemas e restrições, como a suspensão de novos cadastros. A recusa em corrigir infrações ou a ocorrência de circunstâncias graves pode levar a uma ordem para interromper o serviço em questão e a multas de 10 mil a 100 mil yuans. Nos casos que envolvam riscos à vida ou à saúde e resultem em danos, essa disposição prevê multas de 100 mil a 200 mil yuans.

Outras leis aplicáveis também podem reger as penalidades. Serviços relacionados à saúde ou às finanças devem cumprir as exigências desses setores além das medidas para serviços de companhia por IA.

Um modelo de negócios baseado em conversas mais longas está sob pressão

As empresas de companhia por IA enfrentam uma tensão comercial: manter os usuários conversando pode aumentar o engajamento, mas também eleva os custos de computação e as responsabilidades de segurança. Cada resposta gerada consome recursos computacionais, e manter a personalidade e a memória de um personagem exige ainda mais recursos.

Estimativas financeiras divulgadas apontam que as despesas de computação da Character.AI chegaram a cerca de US$ 56,1 milhões entre janeiro e agosto de 2026, com prejuízos mensais de aproximadamente US$ 8 milhões a US$ 9 milhões. Segundo as mesmas estimativas, a receita com publicidade em agosto foi de cerca de US$ 2,5 milhões, e a receita com assinaturas, de aproximadamente US$ 2,8 milhões, totalizando US$ 5,3 milhões. Os números ilustram a dimensão das pressões de custo e receita relatadas em torno de um serviço que havia alcançado cerca de 28 milhões de usuários ativos mensais.

As empresas estão experimentando diferentes formas de cobrança. A Maoxiang combina interação com personagens com histórias, assinaturas, publicidade e compras virtuais. A Zeta migrou para o formato de histórias, a Linky oferece conteúdo colecionável de personagens e a Eciyuan, da Tencent, integra companheiros de IA a jogos. Essas abordagens oferecem aos usuários algo além de uma conversa aberta para comprar, mas as empresas continuam responsáveis por evitar manipulação emocional, proteger os gastos e resguardar menores.

As medidas da China exigem que os provedores financiem proteções durante a implantação, a operação, as atualizações e o encerramento dos serviços. O uso prolongado agora implica deveres explícitos de interromper a interação com lembretes, reconhecer riscos e permitir que o usuário saia. A principal mudança é concreta: um companheiro de IA convincente também precisa respeitar limites, proteger a conversa e responder quando a pessoa que o utiliza precisa de ajuda além da tela.

Principais pontos

• As medidas da China para serviços de companhia por IA entraram em vigor em 15 de julho de 2026 e abrangem interações emocionais contínuas que simulam características humanas.
• Os provedores não podem oferecer a menores parceiros virtuais, familiares virtuais ou outros serviços baseados em relações íntimas virtuais.
• Crianças menores de 14 anos precisam do consentimento de um responsável para usar os demais serviços abrangidos e para o tratamento de seus dados pessoais.
• As empresas devem informar que os usuários estão interagindo com uma IA, emitir alertas sobre dependência e sinalizar o uso contínuo por mais de duas horas.
• Em situações de perigo grave, é necessário intervir e entrar em contato prontamente com um responsável ou contato de emergência.
• Os usuários têm o direito de copiar e excluir dados de interação e de sair sem que a conversa continue para impedir sua saída.
• As avaliações de segurança abrangem lançamentos, mudanças importantes e limites de usuários especificados; infrações graves podem resultar no encerramento do serviço e em multas.