Samsung étend la puissance de traitement en mémoire

Samsung Electronics a profité de la conférence Hot Chips de cette année pour présenter ses dernières avancées en matière de traitement en mémoire (PIM). sans souci.

Samsung a démontré la première intégration réussie de sa mémoire à large bande passante compatible PIM (HBM-PIM) dans un système d'accélérateur commercialisé, et a élargi les applications PIM pour inclure les modules DRAM et la mémoire mobile qui accélèrent le mouvement vers la convergence de la mémoire et de la logique.

HBM-PIM intègre la fonction de traitement de l'IA pour améliorer le traitement des données à grande vitesse dans les superordinateurs et les applications d'IA et il a été testé dans l'accélérateur d'IA Xilinx Virtex Ultrascale+ (Alveo), où il a fourni un gain de performances système de près de 2.5 fois ainsi que plus qu'une réduction de 60 % de la consommation d'énergie.

« HBM-PIM est la première solution de mémoire sur mesure de l'industrie à être testée dans les systèmes d'accélérateurs d'IA des clients, démontrant un énorme potentiel commercial », a déclaré Nam Sung Kim, vice-président senior de DRAM Product & Technology chez Samsung Electronics. "Grâce à la standardisation de la technologie, les applications deviendront nombreuses, s'étendant au HBM3 pour les supercalculateurs et les applications d'IA de nouvelle génération, et même à la mémoire mobile pour l'IA sur l'appareil ainsi que pour les modules de mémoire utilisés dans les centres de données."

Le DIMM d'accélération (AXDIMM) apporte le traitement à la DRAM module lui-même, minimisant les mouvements de données importants entre le processeur et la DRAM pour améliorer l'efficacité énergétique des systèmes d'accélérateur d'IA.

Avec un moteur AI intégré à la puce tampon, l'AXDIMM peut effectuer un traitement parallèle de plusieurs rangs de mémoire (ensembles de puces DRAM) au lieu d'accéder à un seul rang à la fois, améliorant considérablement les performances et l'efficacité du système.

Étant donné que le module peut conserver son facteur de forme DIMM traditionnel, l'AXDIMM facilite le remplacement sans modification du système.

En cours de test sur les serveurs des clients, l'AXDIMM peut offrir environ deux fois les performances des applications de recommandation basées sur l'IA et une réduction de 40 % de la consommation d'énergie à l'échelle du système.

La technologie de mémoire mobile LPDDR5-PIM de Samsung peut fournir des capacités d'IA indépendantes sans connectivité au centre de données. Des tests de simulation ont montré que le LPDDR5-PIM peut plus que doubler les performances tout en réduisant la consommation d'énergie de plus de 60 % lorsqu'il est utilisé dans des applications telles que la reconnaissance vocale, la traduction et le chatbot.

Samsung prévoit d'étendre son portefeuille de mémoires IA en travaillant avec d'autres leaders du secteur pour achever la normalisation de la plate-forme PIM au cours du premier semestre 2022.