Samsung estende o poder de processamento In-Memory
A Samsung Electronics aproveitou a conferência Hot Chips deste ano para mostrar seus mais recentes avanços com processamento em memória (PIM) tecnologia.
A Samsung demonstrou a primeira integração bem-sucedida de sua High Bandwidth Memory (HBM-PIM) habilitada para PIM em um sistema acelerador comercializado e ampliou os aplicativos PIM para adotar módulos DRAM e memória móvel que acelera a transição em direção à convergência de memória e lógica.
HBM-PIM incorpora a função de processamento de AI para aprimorar o processamento de dados de alta velocidade em supercomputadores e aplicativos de AI e foi testado no acelerador Xilinx Virtex Ultrascale + (Alveo) AI, onde entregou um ganho de desempenho de sistema de quase 2.5X, bem como mais de um corte de 60% no consumo de energia.
“HBM-PIM é a primeira solução de memória sob medida para IA da indústria sendo testada em sistemas aceleradores de IA de clientes, demonstrando um enorme potencial comercial”, disse Nam Sung Kim, vice-presidente sênior de Produto e Tecnologia DRAM da Samsung Electronics. “Por meio da padronização da tecnologia, os aplicativos se tornarão numerosos, expandindo para HBM3 para supercomputadores de próxima geração e aplicativos de IA, e até mesmo em memória móvel para IA no dispositivo, bem como para módulos de memória usados em centros de dados.”
O Acceleration DIMM (AXDIMM) traz processamento para a DRAM módulo em si, minimizando a grande movimentação de dados entre a CPU e a DRAM para aumentar a eficiência energética dos sistemas aceleradores de IA.
Com um mecanismo de IA embutido no chip de buffer, o AXDIMM pode realizar o processamento paralelo de várias classificações de memória (conjuntos de chips DRAM) em vez de acessar apenas uma classificação por vez, melhorando muito o desempenho e a eficiência do sistema.
Uma vez que o módulo pode manter seu formato DIMM tradicional, o AXDIMM facilita a substituição imediata sem a necessidade de modificações no sistema.
Atualmente sendo testado em servidores de clientes, o AXDIMM pode oferecer aproximadamente o dobro do desempenho em aplicativos de recomendação baseados em IA e uma redução de 40% no uso de energia em todo o sistema.
A tecnologia de memória móvel LPDDR5-PIM da Samsung pode fornecer recursos de IA independentes sem conectividade com data center. Os testes de simulação mostraram que o LPDDR5-PIM pode mais do que dobrar o desempenho enquanto reduz o uso de energia em mais de 60% quando usado em aplicativos como reconhecimento de voz, tradução e chatbot.
A Samsung planeja expandir seu portfólio de memória AI trabalhando com outros líderes do setor para concluir a padronização da plataforma PIM no primeiro semestre de 2022.