DeepSeek OCR comprime texto em imagens para reduzir custos de IA e ampliar o contexto

Uma nova forma de compactar documentos longos no contexto da IA

A DeepSeek lançou o DeepSeek-OCR, um sistema de visão e linguagem que comprime longos trechos de texto ao convertê-los em imagens e, depois, recupera o conteúdo quando o modelo precisa dele. A abordagem reduz de sete a vinte vezes o número de tokens que um modelo de linguagem grande precisa processar, dependendo das configurações e do tipo de documento, mantendo alta precisão com compressão moderada. A DeepSeek afirma que o sistema atinge cerca de 97% de precisão na decodificação com uma taxa de compressão de aproximadamente dez vezes, e ainda produz resultados úteis com taxas mais altas. O projeto inclui código e pesos, está disponível para desenvolvedores e mira um dos pontos mais onerosos da IA moderna: lidar com contextos longos a um custo razoável.

O sistema funciona em duas etapas. Um codificador visual chamado DeepEncoder transforma páginas de texto, tabelas, gráficos e outros layouts em um conjunto compacto de tokens visuais. Em seguida, um modelo de linguagem leve, o DeepSeek3B MoE A570M, decodifica esses tokens de volta para texto estruturado. Essa configuração preserva layouts e formatação quando necessário, oferece suporte a vários idiomas e pode gerar texto simples ou resultados estruturados, como tabelas em Markdown.

A importância disso está nos tokens, as unidades básicas que os modelos de linguagem leem e escrevem. Mais tokens significam maior uso de memória e latência, o que eleva os custos. Os modelos também têm limites rígidos para a quantidade de contexto que conseguem processar de uma só vez. Ao armazenar o contexto como imagens e retomá-lo por meio de tokens visuais, o DeepSeek-OCR oferece uma camada de memória mais barata para sessões longas e documentos extensos, com potencial para ampliar a janela de contexto efetiva muito além do que o texto sozinho permite.

A escala é uma das principais promessas. O treinamento usou cerca de 30 milhões de páginas de PDF em quase 100 idiomas, além de dados sintéticos adicionais para gráficos, fórmulas e figuras. Em termos operacionais, a equipe informa que uma única GPU Nvidia A100 consegue processar mais de 200 mil páginas por dia. Um cluster de 20 servidores semelhantes pode chegar a cerca de 33 milhões de páginas diárias. Esses números apontam para fluxos rápidos de digitalização de documentos e geração de dados de treinamento em larga escala.

Como converter texto em imagens reduz o número de tokens

Os modelos de linguagem leem a entrada como tokens, não como palavras ou caracteres. Um artigo ou relatório típico pode se transformar em milhares de tokens. Os mecanismos de atenção presentes na maioria dos transformers comparam muitos pares de tokens, e esse trabalho cresce rapidamente à medida que as sequências ficam mais longas. Contextos extensos aumentam o uso de memória e o tempo de processamento e, em grande escala, isso se torna um problema de orçamento.

O que são tokens e janelas de contexto

Tokens são fragmentos de linguagem que os modelos entendem. Uma palavra curta pode corresponder a um token, enquanto uma palavra mais longa pode ser dividida em vários; a pontuação também conta. O número máximo de tokens que o modelo consegue considerar de uma só vez é a janela de contexto. Muitos arquivos usados no mundo real ultrapassam esse limite, então os usuários precisam truncar documentos ou pagar caro por modelos especiais com contexto longo.

Por que pixels podem ser mais baratos do que texto para armazenamento

Codificadores visuais transformam uma imagem em uma grade menor de blocos e, em seguida, comprimem essa grade em um conjunto de tokens visuais. O codificador da DeepSeek usa um bloco de compressão para reduzir a quantidade de tokens antes de enviar os recursos ao decodificador. Um exemplo nas notas técnicas descreve uma imagem de 1.024 por 1.024 pixels que começaria com 4.096 tokens de blocos e depois cairia para 256 tokens comprimidos antes de seguir para a arquitetura de visão e linguagem. Se esses 256 tokens capturarem a essência de uma página densa que, de outro modo, exigiria 1.500 tokens de texto ou mais, a economia é imediata.

A troca é simples. Em vez de armazenar contextos longos como tokens de texto, o sistema guarda instantâneos como tokens visuais compactos e reconstrói o significado quando necessário. Isso mantém os limites de memória sob controle, ajuda a preservar layouts e diagramas e evita algumas peculiaridades dos tokenizadores de texto. O custo está nas etapas adicionais de codificação e decodificação e na perda gradual de precisão com taxas de compressão muito altas.

Por dentro do modelo: DeepEncoder e o decodificador

O DeepEncoder combina duas ideias conhecidas: percepção local e compreensão global. Ele aplica uma arquitetura baseada no Segment Anything Model para detectar regiões e contornos com detalhes e um módulo no estilo CLIP para captar o layout semântico mais amplo. Entre os dois há um compressor convolucional que reduz drasticamente o número de tokens visuais antes de enviá-los à arquitetura de linguagem. O codificador oferece vários modos de resolução, permitindo que os usuários ajustem o orçamento de tokens à complexidade de cada página. Slides simples podem usar poucos tokens. Páginas de notícias carregadas ou figuras científicas densas podem exigir mais.

O decodificador é um modelo de linguagem do tipo Mixture of Experts, baseado em uma arquitetura de três bilhões de parâmetros, com cerca de 570 milhões de parâmetros ativos por token. O roteamento entre especialistas ajuda o modelo a se concentrar em diferentes tipos de conteúdo sem ativar todos os três bilhões de parâmetros para cada token. Isso reduz o processamento sem comprometer a qualidade. O sistema pode gerar texto simples, preservar a estrutura em Markdown e até extrair dados de tabelas e gráficos em formatos legíveis por máquinas. Ele oferece OCR multilíngue e consegue interpretar diagramas, estruturas químicas e figuras geométricas.

As configurações predefinidas incluem Tiny, Small, Base e Large, além de um modo dinâmico para páginas muito complexas. As opções equilibram o tamanho da imagem e a quantidade de tokens. A DeepSeek recomenda começar com Small para páginas típicas e aumentar a configuração apenas quando o conteúdo for denso ou o layout for desafiador.

O que mostram os benchmarks e os números de precisão

A compressão só é útil se o decodificador conseguir recuperar o texto com alta fidelidade. Com taxas de compressão inferiores a dez vezes, a DeepSeek relata cerca de 97% de precisão nos testes de decodificação. Esse índice cai para aproximadamente 60% com uma compressão de cerca de vinte vezes. A equipe também mostra exemplos em que 100 tokens visuais representam documentos que teriam consumido de 700 a 800 tokens de texto, mantendo a precisão em torno de 97% em um benchmark específico. Esses números são compatíveis com a alegação de que a compressão moderada oferece o melhor equilíbrio entre economia e precisão.

No OmniDocBench, um teste conhecido de compreensão de documentos, o modelo supera sistemas de OCR conhecidos usando menos tokens. A necessidade de tokens varia conforme a categoria do documento. Slides e folhetos simples podem precisar de cerca de 64 tokens visuais por página. Revistas ou jornais com muitas colunas e imagens podem exigir várias centenas. O sistema pode preservar a formatação ou removê-la, conforme as configurações do usuário.

As métricas operacionais são ambiciosas. A equipe cita mais de 200 mil páginas processadas por dia em uma única placa Nvidia A100 e cerca de 33 milhões de páginas por dia em um cluster de 20 servidores. O código de treinamento e inferência, além dos pesos do modelo, estão disponíveis sob uma licença permissiva. Essa combinação favorece experimentações rápidas em ambientes de pesquisa e produção.

O que isso pode mudar nos custos, na memória e no design de produtos de IA

Muitos produtos de IA esbarram em limites quando as conversas ou sequências de documentos ficam longas. Armazenar o contexto anterior como tokens visuais oferece aos modelos uma camada de memória mais barata. Um sistema pode resumir ou comprimir interações antigas em imagens e depois decodificar os detalhes apenas quando necessário. Isso mantém enxuto o contexto de texto ativo sem abrir mão da capacidade de recuperar fatos, citações e layouts de etapas anteriores. Também ajuda os modelos a lidar com páginas que contêm tabelas complexas ou cálculos matemáticos, que os tokenizadores tradicionais processam mal.

Para os usuários, isso viabiliza fluxos de trabalho práticos. Um assistente pode processar PDFs completos, contratos e planilhas, manter uma memória compacta e, quando solicitado, recuperar trechos exatos com sua estrutura. Copiar linhas de uma tabela ou extrair a legenda de uma figura fica mais simples porque o decodificador reconstrói a estrutura, não apenas os caracteres brutos. Isso também aponta para sistemas eficientes de busca corporativa que indexam instantâneos de páginas comprimidos e decodificam trechos sob demanda.

Para desenvolvedores e pesquisadores, a capacidade de processamento é importante. O sistema pode gerar grandes conjuntos de dados de treinamento para modelos de linguagem e visão, produzindo centenas de milhares de páginas por GPU por dia. Essa velocidade ajuda a criar dados supervisionados a um custo menor. Setores que dependem de gráficos e formulários, como finanças, saúde e ciência, podem contar com processos de digitalização mais rápidos e que preservem melhor a estrutura. Ainda é preciso ter cuidado ao usar resultados comprimidos em treinamentos futuros, pois pequenos erros de decodificação podem gerar rótulos ruidosos em larga escala.

Limitações, riscos e questões em aberto

Uma compressão maior reduz o orçamento de tokens, mas diminui a fidelidade. Com cerca de vinte vezes de compressão, a precisão informada cai para aproximadamente 60%. Muitas tarefas toleram pequenos erros. Outras, como a identificação de nomes, números e cláusulas jurídicas, exigem uma recuperação quase perfeita. Os usuários precisarão de políticas que encaminhem páginas críticas para modos de menor compressão e reservem a compressão mais agressiva para contextos que não exigem reprodução exata.

Também há uma questão sobre o raciocínio. Os modelos raciocinam bem com tokens de texto porque foram treinados dessa forma. Tokens visuais têm vieses indutivos diferentes. Primeiro, o decodificador precisa reconstruir o texto; só então pode raciocinar sobre ele. Essa etapa extra pode afetar tarefas que dependem de longas cadeias de raciocínio. As equipes precisarão testar o raciocínio em várias etapas quando um contexto importante estiver por trás da camada de imagem e considerar alternativas para tarefas que exigem precisão crítica.

Latência e planejamento de infraestrutura continuam sendo relevantes. As etapas extras de codificação e decodificação acrescentam trabalho. A economia aparece quando os documentos são extensos ou as conversas, longas. As implantações devem comparar tempo total de execução, memória e custo em vários tipos de documento para definir quando comprimir e quando enviar o texto bruto. Os formatos de armazenamento também mudam. Imagens ou tensores semelhantes a imagens substituem arquivos de texto bruto, o que pode afetar sistemas de recuperação e processos de conformidade.

Privacidade e segurança merecem atenção. Comprimir arquivos confidenciais em imagens ou tokens visuais não elimina os riscos. Controles de acesso, criptografia e registros de auditoria também precisam se aplicar ao conteúdo comprimido. Alguns documentos, como digitalizações em baixa resolução ou com escrita à mão ilegível, ainda serão um desafio para o modelo. A seleção dinâmica de modos e a revisão humana continuam sendo medidas prudentes em fluxos de trabalho críticos.

Como experimentar o DeepSeek OCR hoje

A página do projeto no Hugging Face oferece cartões dos modelos, instruções para começar e downloads. O código e os pesos também estão no GitHub, sob uma licença permissiva que abrange usos acadêmicos e comerciais. Desenvolvedores podem começar por aqui: página do modelo no Hugging Face e aqui: repositório no GitHub.

A configuração de referência indica Python 3.12.9 e CUDA 11.8, com dependências que incluem PyTorch, Transformers, Tokenizers, Einops, Addict, Easydict e Flash Attention. Recomenda-se uma GPU Nvidia para obter mais velocidade. Os modos predefinidos permitem trocar detalhes por economia. Para documentos comerciais padrão, o modo Small é um ponto de partida razoável. Páginas científicas ou jurídicas densas podem se beneficiar de uma resolução maior ou do modo dinâmico.

Um fluxo de trabalho típico converte um PDF em imagens de cada página, envia cada página ao DeepEncoder com uma resolução escolhida e, então, decodifica os tokens visuais resultantes com o modelo de linguagem. As saídas podem ser texto simples para buscas ou Markdown que preserva tabelas e títulos de seção. O repositório no GitHub inclui scripts para processamento em lote e dicas para aumentar a capacidade de processamento. As equipes devem monitorar a precisão ao elevar a taxa de compressão e manter páginas críticas em configurações conservadoras.

Principais pontos

• O DeepSeek-OCR comprime textos longos armazenando-os como imagens e recupera o conteúdo sob demanda com um decodificador.
• O uso de tokens cai cerca de sete a vinte vezes, dependendo das configurações e da complexidade do documento.
• A precisão de decodificação informada é de aproximadamente 97% com uma compressão próxima de dez vezes e cerca de 60% com compressão próxima de vinte vezes.
• A arquitetura combina o DeepEncoder com um decodificador Mixture of Experts que ativa cerca de 570 milhões de parâmetros por token.
• Os modos vão de Tiny a Large, além de uma opção dinâmica para páginas muito complexas, permitindo que os usuários definam orçamentos explícitos de tokens.
• Os benchmarks mostram resultados sólidos no OmniDocBench, com menos tokens do que os sistemas de OCR populares usados como referência.
• As alegações de capacidade de processamento incluem mais de 200 mil páginas por dia em uma GPU Nvidia A100 e cerca de 33 milhões de páginas por dia em um cluster de 20 servidores.
• As saídas estruturadas incluem tabelas em Markdown e dados de gráficos, com suporte a diagramas, fórmulas e vários idiomas.
• O código aberto e os pesos estão disponíveis no Hugging Face e no GitHub sob uma licença permissiva.
• Entre os melhores casos de uso estão a memória de contexto longo a um custo menor, a digitalização de documentos em larga escala e a geração de dados de treinamento, com configurações cuidadosas para tarefas que exigem precisão crítica.