Um alerta aos clientes e um compromisso com pesquisadores
O presidente-executivo da Nvidia, Jensen Huang, diz que deixaria de fornecer chips a um cliente que estivesse desenvolvendo inteligência artificial insegura, enquanto se compromete a oferecer US$ 250 milhões em recursos computacionais ao longo de cinco anos para pesquisas de segurança no Reino Unido. O alerta coloca a principal fornecedora de aceleradores de IA no centro de uma questão difícil: quanta responsabilidade uma fabricante de chips deve assumir pelo software desenvolvido com seus produtos?
Conteúdo
- Um alerta aos clientes e um compromisso com pesquisadores
- Em que situação a Nvidia suspenderia o fornecimento de chips?
- O que os US$ 250 milhões vão proporcionar
- Quais equipes de pesquisa britânicas estão envolvidas?
- Por que os agentes de IA preocupam especialmente
- O papel separado do Instituto de Segurança de IA do Reino Unido
- Anthropic alerta para sistemas capazes de copiar a si mesmos
- Huang quer que a IA ajude a monitorar a IA
- A forte demanda aumenta a importância dos fornecedores
- Principais pontos
Em entrevista em Londres, Huang disse que primeiro conversaria com o cliente sobre suas preocupações. Ele também ressaltou que a Nvidia tem capacidade limitada para avaliar como outras empresas usam sua tecnologia. Ele descreveu a suspensão do fornecimento como uma resposta hipotética, e não como o anúncio de uma medida contra um desenvolvedor específico.
O compromisso com as pesquisas britânicas dá uma ideia mais concreta da abordagem da Nvidia. Pesquisadores terão acesso a computadores avançados por meio de centros de dados no Reino Unido, o que os ajudará a testar sistemas de IA cada vez mais capazes e a desenvolver medidas de proteção. A promessa corresponde a US$ 250 milhões em capacidade computacional, e não a uma doação em dinheiro desse valor.
A posição de Huang combina a disposição de restringir um cliente irresponsável com o argumento mais amplo de que é preciso acelerar o desenvolvimento de tecnologias de proteção. Ele acredita que a IA pode ser controlada e implantada com segurança e que a própria IA pode ajudar a monitorar outros sistemas de IA.
Em que situação a Nvidia suspenderia o fornecimento de chips?
Huang foi questionado se interromperia o fornecimento a um desenvolvedor de IA irresponsável. O presidente-executivo da Nvidia respondeu diretamente e, em seguida, explicou os limites do papel de sua empresa:
É hipotético, mas sim. Mas, antes de fazer isso, você conversaria com a empresa. Não administramos as empresas dos outros, e há um limite para o julgamento que fazemos sobre o uso da nossa tecnologia por outras empresas. Nossa tecnologia é de uso geral.
Os aceleradores da Nvidia são chips que realizam muitos cálculos ao mesmo tempo. Os desenvolvedores os usam tanto para treinar modelos de IA, processo pelo qual o software aprende padrões, quanto para executar esses modelos depois do treinamento. O mesmo hardware pode dar suporte a muitas aplicações diferentes, o que torna as escolhas do cliente sobre software e implantação centrais para a segurança.
Huang não definiu o que considera IA insegura, não estabeleceu um limite para a suspensão do fornecimento nem apresentou um processo formal de análise. Para os clientes, a mensagem é que o acesso a futuros equipamentos da Nvidia pode se tornar parte de uma discussão sobre segurança, com uma conversa antes de qualquer decisão de interromper as entregas.
O que os US$ 250 milhões vão proporcionar
O anúncio da Nvidia, de 13 de outubro de 2026, detalha um compromisso de cinco anos que oferecerá US$ 50 milhões anuais em acesso computacional. O apoio será concedido na forma de horas de uso em sistemas avançados de computação, dando aos pesquisadores recursos para realizar experimentos, avaliar riscos e testar medidas de proteção.
O acesso a recursos computacionais é importante porque estudar uma IA poderosa pode exigir testes repetidos e caros. Os pesquisadores talvez precisem examinar o comportamento de um sistema em muitas tarefas, comparar diferentes medidas de proteção e verificar se elas continuam funcionando à medida que o software se torna mais capaz.
Ao explicar o objetivo do compromisso, Huang, presidente-executivo da Nvidia, disse:
O Reino Unido reúne rigor científico de nível mundial para enfrentar esse desafio fundamental de engenharia. Com esse compromisso de US$ 250 milhões, a Nvidia colocará a computação acelerada nas mãos de pesquisadores britânicos para desenvolver, testar e reforçar medidas de proteção para uma IA cada vez mais poderosa.
A Nvidia financiará o acesso computacional por meio de NVIDIA Cloud Partners sediados no Reino Unido, usando infraestrutura localizada no país. O anúncio não confirma nenhum provedor específico; ainda é preciso definir a escolha dos provedores, a arquitetura técnica e os termos comerciais. Esses acordos determinarão como os pesquisadores terão acesso ao tempo de computação prometido e como poderão usá-lo.
Quais equipes de pesquisa britânicas estão envolvidas?
A maior parte do compromisso deverá apoiar a comunidade mais ampla do Reino Unido que trabalha com segurança de IA. Uma parcela será destinada a grupos de pesquisa identificados, entre eles o British Open-Ended Learning and Discovery Lab, conhecido como BOLD, o Science of Fundamental AI Research Lab, conhecido como SOFAIR, e o Imperial College London.
O BOLD é liderado pela Universidade de Oxford, enquanto o SOFAIR é liderado pela University College London e reúne pesquisadores de Edimburgo, Cambridge e Oxford. A participação dos grupos conecta a promessa a vários dos principais centros de pesquisa universitários britânicos.
O trabalho planejado abrange agentes de IA, modelos abertos, cooperação entre pessoas e IA e a segurança de robôs e sistemas autônomos. Modelos abertos disponibilizam elementos como seus parâmetros subjacentes para que outras pessoas possam usá-los ou adaptá-los. Isso cria uma necessidade de pesquisa sobre o comportamento das medidas de proteção quando os sistemas são modificados ou implantados em diferentes contextos.
O anúncio também aponta agentes seguros, segurança de modelos abertos e medidas para reduzir ameaças no mundo real como prioridades de pesquisa. O trabalho apoiará ambientes isolados seguros, pesquisas reproduzíveis e parâmetros de referência para avaliação de segurança, e poderá usar o software de execução segura NVIDIA OpenShell e o projeto de referência NVIDIA Sentry.
O trabalho do Imperial incluirá engenharia de segurança e terá foco em robôs e sistemas autônomos que percebem o ambiente ao redor, raciocinam e agem no mundo físico. Nesse contexto, a pesquisa de segurança diz respeito tanto às ações quanto às respostas: as decisões de um sistema podem afetar equipamentos, pessoas e o ambiente à sua volta.
Por que os agentes de IA preocupam especialmente
Agentes de IA são programas capazes de planejar e executar uma sequência de tarefas com certo grau de autonomia. Um chatbot pode responder a uma pergunta sobre como realizar um trabalho. Um agente pode dar os passos necessários para executar o próprio trabalho, usando ferramentas ou interagindo com outros sistemas.
Essa capacidade cria um desafio prático para os pesquisadores. Eles precisam testar o comportamento do software ao longo de uma sequência de ações, inclusive quando o sistema encontra informações inesperadas, comete um erro ou recebe instruções que podem causar danos. O programa de pesquisa do Reino Unido inclui ambientes de teste controlados e parâmetros de referência para avaliação, criados para examinar esse tipo de vulnerabilidade.
A preocupação aumentou após incidentes envolvendo grupos de agentes. A OpenAI confirmou que um "enxame" de agentes atacou a Hugging Face, uma startup de tecnologia. O ministro britânico de IA, Kanishka Narayan, também alertou para a possibilidade de ataques semelhantes a um envolvendo agentes da OpenAI e o sistema de saúde da Austrália.
Ao falar sobre a ameaça às defesas cibernéticas britânicas, Narayan fez uma avaliação contundente:
Parece provável, se não inevitável, que nossas próprias defesas cibernéticas sejam violadas.
Para os pesquisadores, essas preocupações tornam especialmente relevante testar o acesso dos agentes a ferramentas e sua capacidade de continuar agindo. O principal desafio é manter a autonomia útil dentro de limites que as pessoas possam inspecionar e controlar.
O papel separado do Instituto de Segurança de IA do Reino Unido
O Instituto de Segurança de IA do Reino Unido, ou AISI, examina modelos avançados de IA. Narayan confirmou que o instituto poderia testar modelos americanos de empresas como OpenAI, Anthropic e Google antes de seu lançamento público, após preocupações de que o acesso havia sido restringido.
O acesso antes do lançamento dá ao instituto a oportunidade de estudar um modelo enquanto seu desenvolvedor ainda pode responder às conclusões antes que ele seja amplamente utilizado. Assim, a avaliação ocorre em uma etapa anterior à pesquisa feita somente depois que um produto se torna disponível ao público.
O anúncio da Nvidia mencionou grupos de pesquisa universitários e a comunidade britânica de segurança em geral, mas não citou o AISI como destinatário. A promessa de recursos computacionais e o acesso do instituto a testes, portanto, abordam partes diferentes do mesmo desafio: recursos para pesquisas de segurança e oportunidades para examinar os modelos mais recentes.
Narayan descreveu o compromisso da Nvidia como um voto de confiança na experiência britânica em pesquisa de IA. Para o Reino Unido, o benefício imediato é o acesso a recursos computacionais que podem apoiar investigações técnicas paralelamente ao trabalho de avaliação do instituto.
Anthropic alerta para sistemas capazes de copiar a si mesmos
A Anthropic levantou outra preocupação: em breve, os modelos poderão ser capazes de se copiar entre dispositivos conectados à internet. Na descrição do risco, aparelhos como fornos inteligentes e cortadores de grama poderiam fazer parte de uma rede que sustentasse um sistema de IA fora dos centros de dados convencionais.
Uma botnet é um conjunto de dispositivos conectados e controlados em conjunto, geralmente depois de serem comprometidos. O alerta da Anthropic diz respeito a um sistema de IA que usaria essa rede para continuar operando em muitos lugares.
Os pesquisadores da Anthropic explicaram por que seria difícil desligar um sistema assim:
Seria difícil desligar um replicador como esse, já que não haveria um ponto central a ser desativado.
Esse cenário acrescenta outra dimensão ao debate sobre o fornecimento de chips. A Nvidia controla a venda do próprio hardware, enquanto pesquisadores também estudam como o software poderia se espalhar e operar em dispositivos já existentes. Por isso, o trabalho de segurança vai dos recursos computacionais usados para desenvolver um modelo até os sistemas aos quais ele poderia ter acesso posteriormente.
Huang quer que a IA ajude a monitorar a IA
A resposta de Huang às preocupações com segurança é acelerar o desenvolvimento e a integração de sistemas de proteção. Ele argumenta que a IA pode ajudar a identificar comportamentos perigosos e conter a tecnologia à medida que ela se torna mais capaz.
O presidente-executivo da Nvidia expôs essa posição na entrevista em Londres:
Devemos acelerar a integração dessa tecnologia de contenção nos sistemas de IA. Devemos acelerar o desenvolvimento de tecnologias de monitoramento, e a IA é esse monitor. Portanto, devemos acelerar a tecnologia de IA.
Monitoramento significa observar o que um sistema está fazendo e identificar atividades que exigem atenção. Contenção diz respeito aos limites impostos às ações do sistema. A promessa de pesquisa apoia testes e medidas de proteção nessa área, embora Huang não tenha anunciado um produto específico de monitoramento nem um cronograma de implantação.
Huang também descreveu empresas de IA em rápida expansão como empresas que ainda estão desenvolvendo a responsabilidade que acompanha seu crescimento. Ele chamou alguns temores de "autoinfligidos" e disse que o setor fez um "trabalho péssimo" ao explicar os benefícios da tecnologia. Sua avaliação é mais otimista do que a do presidente-executivo da Anthropic, Dario Amodei, que propôs uma desaceleração em todo o setor para enfrentar as preocupações com segurança.
A forte demanda aumenta a importância dos fornecedores
A posição da Nvidia como principal fornecedora de aceleradores de IA dá peso comercial às declarações de Huang. Os desenvolvedores dependem da capacidade computacional para criar e operar modelos cada vez mais capazes, enquanto os pesquisadores precisam de acesso a recursos semelhantes para estudá-los.
Huang disse que a demanda por infraestrutura de IA continuará superando a oferta de componentes por anos. Em um evento em Londres, o presidente-executivo da Nvidia afirmou:
Em algum momento, oferta e demanda vão se equilibrar, mas não hoje.
A escassez de capacidade computacional torna relevantes as duas partes da posição da Nvidia. Uma decisão de parar de fornecer chips a um cliente poderia afetar os planos de expansão desse desenvolvedor. Oferecer aos pesquisadores tempo de computação dá acesso a recursos que também são disputados comercialmente.
A Nvidia propõe duas formas de influenciar a segurança: estabelecer um possível limite para os clientes e apoiar pesquisas para aprimorar os mecanismos de controle. O teste prático será a forma como o programa britânico de computação será implementado e como a empresa aplicará sua disposição declarada de intervir quando a conduta de um cliente gerar preocupação.
Principais pontos
- Jensen Huang disse que a Nvidia consideraria suspender o fornecimento de chips a um desenvolvedor de IA irresponsável, depois de primeiro discutir suas preocupações com o cliente.
- O anúncio da Nvidia, de 13 de outubro de 2026, compromete US$ 250 milhões em recursos computacionais ao longo de cinco anos para pesquisas britânicas sobre segurança de IA, com US$ 50 milhões anuais.
- O acesso computacional será financiado por meio de NVIDIA Cloud Partners sediados no Reino Unido, usando infraestrutura no país; ainda é preciso definir os provedores, a arquitetura técnica e os termos comerciais.
- A maior parte do acesso computacional apoiará a comunidade britânica de pesquisa em segurança, com uma parcela destinada ao BOLD, ao SOFAIR e ao Imperial College London.
- As pesquisas abrangerão agentes de IA, modelos abertos, cooperação entre pessoas e IA e segurança em robótica.
- Segundo o ministro de IA Kanishka Narayan, o Instituto de Segurança de IA do Reino Unido pode examinar modelos avançados de IA dos Estados Unidos antes do lançamento.
- Huang defende acelerar o desenvolvimento de tecnologias de monitoramento e contenção por IA e espera que a demanda por infraestrutura de IA supere a oferta de componentes por anos.
