Xiaomi MiMo atinge 1.000 tokens por segundo em GPUs convencionais, sem chips personalizados

Um novo recorde de velocidade em inteligência artificial

Em 8 de junho de 2026, a Xiaomi lançou o MiMo V2.5 Pro UltraSpeed, um modo de inferência que faz um modelo de linguagem com um trilhão de parâmetros ultrapassar 1.000 tokens por segundo em unidades gráficas de processamento (GPUs) convencionais de nuvem. O feito marca a primeira vez que um modelo dessa escala supera esse patamar sem depender de silício personalizado ou hardware especializado. Demonstrações internas mostram uma taxa de processamento de pico próxima de 1.200 tokens por segundo, sustentada em um único nó convencional equipado com oito GPUs.

Para entender a importância do feito, basta comparar os benchmarks públicos atuais. O GPT 5.5, da OpenAI, gera cerca de 68 tokens por segundo. O Claude Opus 4.6 opera a aproximadamente 71 tokens por segundo, enquanto o Google Gemini Flash chega a 192. O modo UltraSpeed da Xiaomi oferece uma velocidade de geração cerca de quinze vezes maior que a experiência padrão do ChatGPT, em um modelo que já compete com os sistemas de ponta em avaliações de engenharia de software.

O modelo por trás dessa velocidade é o MiMo V2.5 Pro, uma arquitetura Mixture of Experts com 1,02 trilhão de parâmetros e uma janela de contexto de um milhão de tokens. Diferentemente de muitos concorrentes, o sistema processa nativamente texto, imagens, áudio e vídeo em um único modelo. A Xiaomi disponibilizou o checkpoint subjacente sob uma licença de código aberto MIT, permitindo que desenvolvedores hospedem o modelo por conta própria, façam ajuste fino e o implantem comercialmente sem pagar taxas de licenciamento.

A ascensão improvável da Xiaomi na inteligência artificial

A maioria dos consumidores associa a Xiaomi a smartphones acessíveis, patinetes elétricos e, cada vez mais, veículos elétricos. A empresa vendeu 33,8 milhões de aparelhos no primeiro trimestre de 2026 e entregou mais de 30 mil veículos elétricos somente em maio. Mas, por trás desses produtos de consumo, há uma divisão dedicada à inteligência artificial que desenvolve grandes modelos de linguagem desde abril de 2025, quando lançou um modelo compacto de raciocínio com 7 bilhões de parâmetros.

Nos 14 meses seguintes, a família MiMo se tornou uma das linhas de modelos com pesos abertos mais competitivas disponíveis. O atual modelo de ponta, MiMo V2.5 Pro, estreou em 22 de abril de 2026. Seu desempenho em tarefas de engenharia de software se aproxima do Claude Opus 4.6, mas o custo por token é cerca de oito vezes menor. O preço padrão do modelo básico é de 0,025 yuan por milhão de tokens em acertos de cache, 3 yuan por milhão em falhas de cache para entradas e 6 yuan por milhão para saídas.

O anúncio de 8 de junho acrescenta o UltraSpeed como um modo de atendimento de alto desempenho aplicado diretamente ao modelo existente. Em vez de alterar os pesos ou a arquitetura do modelo, os ganhos de velocidade vêm inteiramente da otimização da inferência, um avanço de software que desafia as suposições sobre o que o hardware convencional é capaz de fazer.

O custo da velocidade na IA moderna

A velocidade de inferência se tornou um campo de disputa crucial para os grandes modelos de linguagem. O ritmo de geração de tokens determina não apenas a rapidez com que os usuários recebem respostas, mas também quais aplicações são viáveis do ponto de vista econômico e técnico. Um modelo que gera 68 tokens por segundo funciona bem em interfaces de conversa, nas quais as pessoas leem no próprio ritmo. Mas não atende a tarefas sensíveis à latência, como detecção de fraudes em tempo real, sinais de negociação de alta frequência ou agentes autônomos de programação que precisam percorrer várias etapas de raciocínio em segundos.

Para superar esse gargalo, várias startups construíram empresas inteiras em torno de chips personalizados. A Cerebras projetou um chip do tamanho aproximado de um prato, com 44 gigabytes de memória integrada para eliminar as limitações de largura de banda que tornam mais lenta a inferência em GPUs convencionais. Esse sistema alcançou cerca de 969 tokens por segundo no Llama 3.1 405B, da Meta, um modelo com menos da metade dos parâmetros do MiMo V2.5 Pro. A Groq desenvolveu uma arquitetura personalizada de unidade de processamento de linguagem capaz de atingir de 300 a 750 tokens por segundo, dependendo do modelo. Nenhuma das duas plataformas funciona em hardware disponível nos serviços convencionais de aluguel de nuvem.

A abordagem da Xiaomi rejeita essa corrida armamentista de hardware. Ao otimizar em conjunto o software e o projeto do modelo, a empresa alcançou velocidades comparáveis em GPUs convencionais que podem ser alugadas. Em tese, qualquer desenvolvedor com acesso a um nó padrão de oito GPUs pode reproduzir o resultado, uma mudança que pode deslocar a vantagem competitiva dos fabricantes de chips especializados para a inovação algorítmica.

Compactar a inteligência com quantização FP4

O primeiro pilar do UltraSpeed é a compressão numérica agressiva chamada quantização FP4. A inferência de modelos padrão costuma armazenar pesos com precisão de 16 ou 8 bits. Cada parâmetro exige uma certa largura de banda de memória e, na escala de um trilhão de parâmetros, simplesmente mover esses pesos da memória para os núcleos de processamento cria um congestionamento que limita a velocidade de geração.

A solução da Xiaomi aplica precisão de 4 bits de forma seletiva. A arquitetura Mixture of Experts contém muitas camadas de especialistas, que concentram a grande maioria dos parâmetros e são mais tolerantes à redução de precisão. A Xiaomi comprimiu apenas essas camadas para o formato MXFP4, mantendo os demais módulos do modelo em precisão mais alta, identificada como FP8. Essa abordagem seletiva reduz o uso de memória sem degradar a qualidade das respostas, porque o treinamento ciente de quantização integrou a compressão ao processo de aprendizado do modelo. Os benchmarks mostram que a variante quantizada tem desempenho essencialmente equivalente ao da versão original em precisão total.

Como as camadas de especialistas representam a maior parte do modelo, essa compressão seletiva reduz drasticamente a quantidade de dados que precisa trafegar pela memória a cada etapa de geração. A economia de largura de banda se traduz diretamente em maior taxa de processamento.

Fazer previsões em paralelo com a decodificação especulativa DFlash

O segundo pilar aborda a natureza sequencial da geração de linguagem. Normalmente, os modelos produzem tokens um de cada vez, e cada novo token depende de todos os anteriores. A decodificação especulativa oferece um atalho: um modelo auxiliar menor prevê rapidamente vários tokens seguintes, e o modelo-alvo, maior, verifica todas as previsões em paralelo. Quando elas estão corretas, o sistema economiza tempo. Ainda assim, na decodificação especulativa tradicional, o modelo auxiliar precisa gerar as previsões sequencialmente, o que limita os ganhos.

O DFlash, um método desenvolvido pela comunidade de pesquisa e aprimorado pela Xiaomi, elimina por completo essa restrição sequencial. Em vez de prever tokens um por um, o modelo auxiliar preenche um bloco inteiro de posições mascaradas em uma única passagem direta. A Xiaomi ajustou esse processo com o otimizador de segunda ordem Muon e a autodestilação do modelo. O modelo auxiliar usa exclusivamente a atenção de janela deslizante, garantindo que o custo computacional de cada previsão permaneça constante, independentemente do crescimento da conversa.

Em tarefas de programação, o sistema alcança uma média de 6,3 tokens aceitos por rodada de verificação, em blocos com tamanho máximo de 8. Isso significa que o modelo maior confirma seis ou sete tokens em uma única etapa, em vez de gerá-los individualmente. Como a amostragem por rejeição garante que somente tokens válidos sejam aceitos, a saída permanece matematicamente idêntica à da decodificação padrão. O ganho de velocidade não reduz a qualidade.

Eliminar intervalos de microssegundos com o TileRT

O terceiro pilar mira um gargalo invisível que só aparece em velocidades extremas. Quando a inferência ultrapassa 1.000 tokens por segundo, cada operador matemático é executado em poucos microssegundos. Os sistemas tradicionais de atendimento executam os operadores um após o outro, com pequenos intervalos entre cada inicialização. Em velocidades normais, esses intervalos são insignificantes. Nos níveis do UltraSpeed, eles interrompem o fluxo de execução e se tornam o principal gargalo.

O TileRT, desenvolvido em conjunto com a parceira de inferência TileRT, resolve o problema com um kernel de mecanismo persistente que permanece continuamente residente na GPU. Em vez de iniciar e interromper operações, o kernel usa especialização de warps para atribuir funções coordenadas a threads específicos do hardware, responsáveis pela movimentação de dados, computação e comunicação. Até operações pequenas, como RMSNorm, embeddings posicionais rotativos e gravações no cache KV, que normalmente geram atrasos de microssegundos, são executadas sem interrupções.

O sistema foi projetado junto com as escolhas de FP4 e DFlash, e não acrescentado depois. Essa codesign extrema entre modelo e sistema garante o alinhamento preciso das três camadas. A Xiaomi afirma explicitamente que nenhuma das três técnicas, isoladamente, alcança 1.000 tokens por segundo. O resultado recorde só é possível quando elas são executadas em conjunto.

Impacto no mundo real e contexto empresarial

O patamar de 1.000 tokens muda quais aplicações de modelos de ponta fazem sentido. O raciocínio paralelo se torna prático, permitindo que os sistemas executem dezenas de trajetórias de raciocínio Best of N ou de busca em árvore no mesmo tempo que um modelo mais lento levaria para executar apenas uma. Os agentes de programação se beneficiam porque a geração mais rápida reduz o tempo de espera entre etapas autônomas. Ciclos de decisão em tempo real para geração de sinais de negociação, interceptação de fraudes e sistemas de diálogo ao vivo se tornam viáveis quando a latência cai abaixo do limiar da percepção humana.

A Xiaomi demonstrou o efeito prático com demonstrações públicas. Um jogo Snake totalmente funcional foi gerado em aproximadamente dez segundos. Um protótipo de interface para macOS apareceu em cerca de um minuto. São tarefas limitadas pela taxa de processamento, nas quais a velocidade bruta de geração de tokens é o principal fator restritivo.

O acesso ao UltraSpeed será feito por meio de um teste limitado da API, sujeito a inscrição, de 9 a 23 de junho de 2026. O preço é três vezes maior que a tarifa padrão do MiMo V2.5 Pro, o equivalente a cerca de US$ 1,29 por milhão de tokens de entrada e US$ 2,61 por milhão de tokens de saída, segundo os cálculos cambiais atuais. A Xiaomi promete uma velocidade de geração aproximadamente dez vezes maior por esse preço. O serviço de assinatura Token Plan não se aplica ao UltraSpeed. Os usuários aprovados recebem duas semanas de acesso gratuito ao Chat, com limites diários: dez entradas na fila por conta, sessões de até 30 minutos e liberação automática de recursos após cinco minutos de inatividade.

Apesar desses avanços técnicos, os mercados financeiros reagiram com indiferença. As ações da Xiaomi fecharam a € 2,91 em 11 de junho, apenas 1,75% acima da mínima de 52 semanas e com queda acumulada de 35% no ano. A empresa continua diversificando suas operações: lançou o smartphone premium 17T na Índia no mesmo dia do lançamento do assistente MiMo Code e avança na expansão de veículos elétricos em parceria com a cidade de Changchun. A capacidade de o impulso operacional reverter o desempenho das ações dependerá dos próximos resultados financeiros.

Lançamento de código aberto e a questão da verificação

A Xiaomi disponibilizou no Hugging Face, sob licença de código aberto, o checkpoint FP4 DFlash do MiMo V2.5 Pro, incluindo pesos quantizados e parâmetros do DFlash. A TileRT publicou módulos selecionados no GitHub. Essa transparência permite testes independentes pela comunidade, que serão cruciais porque todas as alegações atuais de velocidade vêm de benchmarks internos da Xiaomi. Até o momento, nenhuma verificação independente por terceiros foi publicada.

Os testes da comunidade vão avaliar várias questões em aberto. Primeiro, se a marca de 1.000 tokens por segundo se mantém em instâncias de GPU comuns, fora do ambiente de teste controlado da Xiaomi. Segundo, se surgem perdas de qualidade em tarefas de conversa aberta, nas quais as taxas de aceitação da decodificação especulativa são atualmente menores do que em tarefas estruturadas de programação. Terceiro, se a abordagem de kernel persistente do TileRT pode ser integrada às pilhas de atendimento padrão já implantadas em ambientes de produção.

Se testes independentes confirmarem as alegações, a Xiaomi terá alcançado por meio de software o que concorrentes tentaram obter investindo centenas de milhões de dólares em silício personalizado. O resultado indicaria que a codesign algorítmica pode liberar níveis de desempenho que antes se acreditava exigirem hardware especializado, redirecionando potencialmente os investimentos em todo o setor de inteligência artificial.

Pontos principais

• O MiMo V2.5 Pro UltraSpeed, da Xiaomi, tornou-se o primeiro modelo com um trilhão de parâmetros a ultrapassar 1.000 tokens por segundo em GPUs convencionais quando foi lançado, em 8 de junho de 2026.
• A velocidade resulta da combinação de três técnicas: quantização FP4 das camadas de especialistas, decodificação especulativa em blocos DFlash e o ambiente de execução persistente para GPU TileRT.
• O modelo MiMo V2.5 Pro, que serve de base ao sistema, tem desempenho próximo ao do Claude Opus 4.6 em tarefas de programação e custa cerca de oito vezes menos por token.
• Diferentemente de concorrentes como Cerebras e Groq, a Xiaomi bateu o recorde sem silício personalizado, usando um nó padrão de oito GPUs disponível em provedores de nuvem.
• O checkpoint FP4 DFlash do MiMo V2.5 Pro está disponível sob licença de código aberto MIT no Hugging Face, e módulos do TileRT estão no GitHub.
• Um teste limitado da API ocorre de 9 a 23 de junho de 2026, com preço três vezes maior que a tarifa padrão e velocidade de geração aproximadamente dez vezes superior.
• As ações da Xiaomi continuam próximas das mínimas de 52 semanas apesar do avanço técnico, com queda acumulada de 35% no ano até meados de junho de 2026.