A Nova Memória 3D da d-Matrix Pode Tornar o HBM uma Realidade para Jogadores

A startup de IA d-Matrix desenvolveu uma nova arquitetura de memória 3D chamada 3DIMC, que afirma poder ser um divisor de águas para lidar com cargas de trabalho de inteligência artificial.

O processo de execução de uma rede neural treinada, conhecido como inferência, representa a maior parte da carga computacional para os servidores das grandes empresas. É aqui que os engenheiros da d-Matrix identificam um gargalo de hardware: enquanto a memória HBM é a campeã indiscutível para o treinamento de modelos de IA, ela é menos ideal para o uso diário, consumindo muita energia e criando restrições de largura de banda.

A solução da d-Matrix é uma reformulação radical de como os chips são montados. Sua tecnologia, chamada Digital In-Memory Compute (DIMC), utiliza uma abordagem de empilhamento 3D. Chiplets de computação especializados são colocados em cima de dies de memória LPDDR5, conectados através de um interposer. Isso permite que os cálculos ocorram dentro da própria matriz de memória, reduzindo drasticamente o movimento de dados, a latência e o consumo de energia.

Um primeiro chip de teste, chamado Pavehawk, já está em funcionamento nos laboratórios da empresa. Mas a d-Matrix está olhando mais adiante e anunciou sua arquitetura de próxima geração, codinome Raptor. A empresa promete que o Raptor irá cumprir todo o potencial da tecnologia: um aumento de dez vezes na velocidade de inferência enquanto reduz o consumo de energia em 90% em comparação com a HBM convencional.

Do ponto de vista econômico, uma alternativa viável à HBM está chegando em um momento perfeito. O mercado é atualmente dominado por apenas três gigantes: SK hynix, Samsung e Micron, o que naturalmente mantém os preços dos produtos altos. Se a 3DIMC da d-Matrix ou memória especializada semelhante tiver uma adoção generalizada na indústria de IA, a HBM de alto desempenho pode, de fato, se tornar muito mais acessível para usuários comuns e para o segmento de jogos.

A principal razão é uma simples mudança na demanda. Se os maiores clientes mudarem para essas novas soluções mais eficientes em inferência, os principais fabricantes de HBM serão forçados a encontrar novos mercados para sua capacidade de produção. Isso pode levar a um excesso de oferta e, consequentemente, a uma queda significativa nos preços da HBM. No final, o que agora é um componente exclusivo e caro reservado para aceleradores de IA de alto nível e GPUs profissionais pode finalmente se tornar acessível para placas gráficas de jogos de alto desempenho.