Samsung amplia estratégia de memória para IA com HBM5, pool de memória da AMD e armazenamento mais rápido

Samsung coloca capacidade de memória ao lado da velocidade de processamento

A Samsung Electronics está ampliando sua estratégia de infraestrutura de IA para além da memória de alta largura de banda, combinando HBM5 e memória personalizada com uma colaboração com a AMD em tecnologias de memória compartilhada para servidores e de armazenamento que transferem parte do processamento de dados para SSDs. A empresa apresentou essa abordagem na OCP Global Summit 2026, programada para ocorrer de 12 a 15 de outubro no San Jose McEnery Convention Center, na Califórnia.

As alegações de desempenho mais concretas dizem respeito a tecnologias que ocupam outras posições na hierarquia de memória. A Samsung informa uma redução de até 38% no tempo até a geração do primeiro token por um modelo de IA com alocação elástica de memória CXL, desempenho de inferência até três vezes maior com processamento em memória LPDDR5X e leituras sequenciais de SSD de até 28,4 GB/s. Esses resultados vêm de avaliações ou demonstrações específicas e não são garantias para toda instalação de IA.

A página oficial da cúpula organiza a estratégia em torno de velocidade, expansão de memória e persistência. Entre os produtos em destaque estão HBM4E, LPDDR5X-PIM, o módulo de memória CMM-D MD310, a memória para servidores SOCAMM2 e os SSDs PM1763 e BM1773.

Hojun Shim, identificado pela Samsung como vice-presidente corporativo e chefe da equipe de engenharia de aplicações da divisão de memória, estava programado para apresentar as três prioridades em uma sessão executiva em 12 de outubro. Segundo relatos, a apresentação marca o início de um esforço mais amplo para otimizar processadores, memória e armazenamento em conjunto, em vez de aprimorar cada componente separadamente.

Essa distinção importa durante a inferência, quando um modelo treinado gera respostas. Mesmo um acelerador rápido pode perder tempo aguardando dados, ficar sem memória à medida que as conversas se prolongam ou enfrentar atrasos ao recuperar informações do armazenamento. A Samsung propõe tecnologias diferentes para cada uma dessas limitações.

HBM5 lidera uma estratégia de velocidade mais ampla

Relatos sobre a exposição apontam HBM5, descrita como memória de alta largura de banda de oitava geração, HBM personalizada e zHBM entre as iniciativas de velocidade da Samsung. A memória de alta largura de banda fornece grandes volumes de dados a um acelerador por meio de muitas conexões paralelas. As versões personalizadas buscam atender aos requisitos de sistemas de cada cliente.

A lista oficial de produtos menciona HBM4E, não HBM5. Outros relatos descrevem maquetes conceituais de HBM4E e HBM5 na exposição. Essa diferença é importante: uma exposição ou apresentação conceitual não comprova que um produto esteja sendo comercializado, e a página da cúpula da Samsung não informa uma data de lançamento comercial nem especificações detalhadas de desempenho para a HBM5.

As evidências numéricas mais fortes sobre velocidade de processamento vêm da LPDDR5X-PIM. O processamento em memória realiza parte dos cálculos dentro do dispositivo de memória, reduzindo transferências repetidas entre a memória e um processador separado. A Samsung afirma que seu projeto integra unidades de processamento a cada banco de memória.

Em uma avaliação com o Llama 3.1 8B no acelerador Samsung Edge AI Accelerator, a empresa informa largura de banda efetiva até oito vezes maior que a da LPDDR5X convencional, até três vezes mais tokens gerados por segundo e tempo de execução até 2,2 vezes menor. Esses números dizem respeito a esse acelerador e modelo, não à HBM5 nem à demonstração de memória da AMD.

Outro produto em destaque, o SOCAMM2, é um módulo de memória para servidores baseado em LPDDR. Em conjunto, os itens expostos mostram que a estratégia de velocidade da Samsung inclui tanto memória para aceleradores quanto tecnologias de memória de menor consumo de energia, embora a página da cúpula não apresente resultados comparáveis de benchmarks para todos os produtos.

Colaboração com a AMD mira capacidade flexível de memória

Samsung e AMD demonstraram a expansão de memória CXL usando a tecnologia CMM-D da Samsung. CXL, sigla de Compute Express Link, conecta processadores e outros dispositivos a memória adicional, permitindo que os sistemas ampliem a capacidade além da memória instalada diretamente neles.

CMM-D é um módulo de memória DRAM baseado em CXL. Em uma configuração em pool, vários sistemas podem utilizar a capacidade dos recursos de memória conectados, em vez de deixá-la permanentemente atribuída a servidores individuais. A Samsung afirma que a colaboração com a AMD validou o CXL como forma de ampliar a capacidade e a largura de banda da memória, reduzindo os períodos em que os núcleos da CPU aguardam dados.

O problema se torna mais urgente à medida que agentes de IA executam vários modelos ou tarefas. Segundo a descrição oficial da Samsung, as cargas de trabalho de agentes podem elevar acentuadamente o uso da CPU enquanto a capacidade de memória não acompanha o número de núcleos do processador.

Uma demonstração separada de pool CMM-D usou alocação elástica em várias instâncias de modelos de linguagem de grande porte em um servidor com GPU. A Samsung informa uma redução de até 38% no tempo até o primeiro token, ou TTFT, e uma capacidade de processamento útil até 3,3 vezes maior que a da alocação estática. O TTFT mede a espera até o início de uma resposta; a capacidade de processamento útil mede o trabalho efetivamente realizado segundo os critérios da avaliação.

Esses resultados não devem ser tratados como resultados numéricos da própria demonstração com a AMD. A página oficial descreve separadamente a validação com a AMD e o benchmark de alocação elástica. Ela também não fornece detalhes suficientes para determinar como os ganhos mudariam com outros modelos, configurações de servidor ou metas de serviço.

Cache KV conecta expansão de memória e armazenamento

Um elo central entre os planos de memória e armazenamento da Samsung é o cache de chave e valor, geralmente chamado de cache KV. Ele armazena informações intermediárias geradas durante o processamento de texto por um modelo de linguagem, permitindo que o modelo reutilize o trabalho em vez de recalculá-lo a cada novo token.

Conversas longas, contextos maiores e vários usuários simultâneos podem fazer esses caches consumirem muita memória. A Samsung propõe uma hierarquia em que a memória CXL amplia a capacidade disponível e os SSDs armazenam dados do cache que não precisam permanecer na camada de memória mais rápida.

A página oficial da cúpula descreve uma implementação em produção no campus da Samsung Semiconductor nos EUA, que atende a um agente interno de programação com IA e outras aplicações. A Samsung afirma que a adição de uma camada de memória composável L3.5 por meio da solução AI Memory Node elevou em cinco a sete vezes a utilização do cache KV.

L3.5 é o nome dado a essa camada adicional, não uma afirmação de que todos os servidores compartilhem uma arquitetura de cache idêntica. A implementação envolveu o Memory Solutions Lab da Samsung, a equipe DSA AI Platform Integrations e o SGLang. O resultado de utilização é distinto tanto do benchmark de alocação elástica quanto dos números de desempenho da LPDDR5X-PIM.

A programação da cúpula também incluiu uma sessão em 13 de outubro sobre a combinação de pools CXL e armazenamento SSD para descarregar o cache KV, apresentada pelo arquiteto de sistemas Jinin So e pelo engenheiro principal Youngha Choi. Essa combinação transforma a estratégia em mais do que uma ampliação de capacidade: exige software capaz de posicionar e recuperar dados entre memória e armazenamento sem provocar atrasos excessivos.

SSDs assumem capacidade, refrigeração e posicionamento de dados

A estratégia de persistência da Samsung se concentra em SSDs corporativos e memória flash NAND de alta capacidade. Persistência significa manter dados além do estado temporário de trabalho de um cálculo, permitindo que sistemas de IA recuperem conjuntos de dados, arquivos de modelo e informações salvas em cache quando necessário.

O PM1763 é apresentado como um SSD corporativo PCIe Gen6, com velocidades de leitura sequencial de até 28,4 GB/s e eficiência energética até 1,8 vez maior que a de seu antecessor. Na demonstração de refrigeração líquida da Samsung, a versão E1.S fica em contato direto com uma placa fria para dissipar calor. A página oficial não informa todas as condições de teste da comparação de desempenho.

O BM1773 aparece na lista como um SSD E3.S com 256 TB de armazenamento QLC. QLC, ou célula de quatro níveis, armazena quatro bits em cada célula flash, o que permite alta capacidade. Relatos também descrevem a continuidade do desenvolvimento, pela Samsung, de memória flash QLC de alta capacidade e tecnologia de posicionamento flexível de dados.

A Samsung demonstrou otimizações de cache KV integradas ao LMCache. O posicionamento flexível de dados, ou FDP, ajuda a organizar onde os dados são gravados para reduzir a amplificação de gravação, isto é, as gravações internas adicionais que um SSD realiza além dos dados enviados pelo sistema anfitrião.

A demonstração também usa um tamanho máximo maior de transferência de dados NVMe para reduzir o trabalho da CPU do sistema anfitrião. A Samsung descreve essas técnicas como relevantes tanto para o armazenamento de cache em um único nó quanto para recursos de cache compartilhados por um grupo de servidores. A página do evento não apresenta ganhos numéricos para essas otimizações específicas.

Levar o processamento para mais perto dos dados armazenados

A demonstração de banco de dados vetorial da Samsung oferece outra forma de reduzir a movimentação de dados. Bancos de dados vetoriais armazenam representações numéricas de informações e as comparam para encontrar itens semelhantes, uma etapa comum quando uma aplicação de IA recupera documentos relevantes para uma solicitação.

A prova de conceito NCVS transfere para os SSDs os cálculos de distância entre vetores. Em vez de enviar um vetor de 4 KB ao sistema anfitrião para comparação, o dispositivo retorna um resultado de distância de quatro bytes. A Samsung informa que o tráfego no sistema anfitrião foi até 22 vezes menor do que no processamento convencional feito pelo sistema, e que a taxa de processamento das buscas aumenta à medida que mais SSDs são adicionados.

Os números de quatro bytes e 4 KB descrevem o tamanho de resultados e vetores individuais; não significam que o tráfego de toda a aplicação seja reduzido na mesma proporção. A redução informada de até 22 vezes é a comparação medida mais ampla. A Samsung identifica o NCVS como prova de conceito, não como produto disponível de forma geral.

A demonstração AiSIO trata de entrada e saída de armazenamento por meio de uma interface de software comum para operações iniciadas pela GPU, ponto a ponto e iniciadas pela CPU convencional. A Samsung informa 100 milhões de operações de entrada e saída por segundo e carregamento de modelos de linguagem até dez vezes mais rápido a partir de uma inicialização a frio, usando o OpenDS.

Essas medidas descrevem tarefas diferentes. A velocidade de leitura sequencial diz respeito à transferência contínua de dados, as operações de entrada e saída por segundo contam as solicitações de armazenamento e o carregamento a partir de uma inicialização a frio mede a rapidez com que um modelo fica pronto. Nenhuma delas substitui diretamente um benchmark que mostre quantas solicitações de usuários um serviço completo de IA consegue atender.

Testes com clientes e demonstrações de fundição ampliam a proposta

O Samsung MAX Lab pretende envolver os clientes mais cedo no desenvolvimento. Eles podem testar tecnologias como PIM, CMM-D e SSDs de próxima geração antes da comercialização, em condições realistas de cargas de trabalho de IA, e então incorporar os requisitos dos sistemas ao projeto dos produtos.

Essa abordagem trata de uma questão prática presente nas demonstrações da cúpula: um componente mais rápido só gera valor se o software e o restante do hardware conseguirem aproveitá-lo. A Global Open-ecoSystem Team da Samsung participa do desenvolvimento de código aberto e da padronização do setor, enquanto a agenda do evento inclui sessões sobre estruturas de software, tratamento de comandos de armazenamento e gerenciamento de memória.

A Samsung também demonstrou armazenamento composável com migração em tempo real e gerenciamento de SSDs virtuais por meio do NVMe padrão. A descrição oficial apresenta essa solução como uma forma de compartilhar armazenamento entre vários usuários, com qualidade de serviço garantida, ou seja, controles sobre o serviço recebido por cada carga de trabalho.

A exposição foi além da memória. Relatos descrevem wafers de unidades de processamento de linguagem Groq fabricados no processo de 4 nm da Samsung Foundry, um sistema Groq 3 LPX que vários relatos descrevem como um sistema da Nvidia e wafers que usam o processo gate-all-around de 2 nm da Samsung. Essas demonstrações apresentam capacidades de fabricação junto com memória e armazenamento, mas não comprovam novos contratos de produção nem volumes de remessa.

Parceria desenvolvida ao longo de vários meses

A demonstração com a AMD dá continuidade a uma cooperação anterior, não é um esforço isolado. Relatos mencionam um memorando de entendimento assinado em março sobre tecnologias de computação e memória para IA de próxima geração, seguido de conversas durante a visita de Lisa Su, CEO da AMD, à Coreia do Sul em 7 de outubro.

A sequência dos acontecimentos relatados e das sessões programadas para a cúpula é:

• Março de 2026: Samsung e AMD assinaram o memorando de cooperação; a Samsung também apresentou tecnologias na Nvidia GTC.
• Junho e agosto de 2026: a Samsung fez apresentações na COMPUTEX e na conferência Future of Memory and Storage, respectivamente.
• 7 de outubro de 2026: Lisa Su visitou a Coreia do Sul e se reuniu com Jeon Young-hyun, vice-presidente do conselho da divisão DS da Samsung, para discutir a cooperação em memória e computação; relatos também mencionam conversas sobre fundição.
• 12 de outubro de 2026: a cúpula começou, com a apresentação executiva de Shim programada para esse dia.
• De 13 a 15 de outubro de 2026: a programação da Samsung incluiu sessões sobre organização em camadas do cache KV, otimização de armazenamento e arquitetura de memória CXL compartilhada.

A Samsung participou como patrocinadora Diamante. Os relatos divergem sobre datar o anúncio da estratégia em 12 de outubro, no horário local, ou em uma declaração da empresa publicada em 13 de outubro. As datas podem corresponder a diferentes momentos do mesmo evento. Um relato situa a cúpula em San Francisco, enquanto a programação oficial da Samsung indica o centro de convenções de San Jose.

Escala de mercado não comprova prontidão comercial

Pesquisas do setor citadas em relatos colocam a Samsung em primeiro lugar no segundo trimestre de 2026, com 39% da receita global de DRAM e 29,3% do mercado de memória flash NAND. A Counterpoint Research é indicada como fonte do número de DRAM, e a TrendForce, do número de NAND. Essas são medidas de participação de mercado, não de participação nos mercados emergentes de CXL ou processamento em memória.

A Omdia é citada como fonte de uma previsão segundo a qual a Samsung terá a maior produção de wafers de DRAM e NAND do setor durante o ano. Outra estimativa situa a capacidade anual de DRAM da empresa em aproximadamente 8,175 milhões de wafers equivalentes a wafers de 300 mm. Capacidade não é o mesmo que produção efetiva, e nenhum dos números revela quanto da produção será destinado às tecnologias apresentadas na OCP.

Um relato também apresenta números preliminares excepcionalmente altos para o terceiro trimestre, datados de 8 de outubro: receita de 195 trilhões de won e lucro operacional de 107,4 trilhões de won, com alta de 782,5% no lucro em relação ao ano anterior. Esses números não são comprovados por uma divulgação financeira oficial aqui e não devem ser tratados como evidência estabelecida de ganhos com as tecnologias apresentadas na cúpula.

A concorrência também está avançando para além da HBM. Relatos descrevem o Memory-Centric AI Rack System, ou MARS, da SK hynix como um pool de memória CXL compartilhado por um rack. A proposta é semelhante ao esforço da Samsung para disponibilizar memória ociosa entre sistemas, embora não haja benchmarks comparáveis que permitam determinar qual abordagem tem melhor desempenho.

A ambição declarada pela Samsung é fortalecer sua competitividade em HBM, DDR5 para servidores e SSDs corporativos. Entre os detalhes comerciais ainda indefinidos estão a disponibilidade da HBM5, os preços, a adoção mais ampla por clientes e a confirmação independente das alegações de desempenho. A programação da cúpula informa datas de demonstrações e discussões, não prazos firmes de lançamento para todas as tecnologias.

Principais pontos

• A estratégia da Samsung para a OCP 2026 combina memória mais rápida, expansão de capacidade com CXL e armazenamento persistente em SSDs.
• A colaboração com a AMD usa a tecnologia de memória CMM-D para atender à crescente demanda de memória da IA.
• Uma demonstração separada de pools com alocação elástica registra redução de até 38% no tempo até o primeiro token e capacidade de processamento útil 3,3 vezes maior.
• Os resultados da avaliação da LPDDR5X-PIM incluem desempenho de inferência até três vezes maior no acelerador Samsung Edge AI Accelerator.
• O armazenamento PM1763, a otimização do cache KV e o processamento dentro dos SSDs visam diferentes limitações na movimentação de dados.
• As divulgações da cúpula não estabelecem datas de envio da HBM5 nem sua ampla disponibilidade comercial.