Samsung breidt In-Memory verwerkingskracht uit

Samsung Electronics heeft de Hot Chips-conferentie van dit jaar gebruikt om de nieuwste ontwikkelingen op het gebied van processing-in-memory (PIM) te demonstreren technologie.

Samsung demonstreerde de eerste succesvolle integratie van zijn PIM-enabled High Bandwidth Memory (HBM-PIM) in een gecommercialiseerd acceleratorsysteem, en heeft PIM-toepassingen verbreed met DRAM-modules en mobiel geheugen die de overgang naar de convergentie van geheugen en logica versnellen.

HBM-PIM bevat de AI-verwerkingsfunctie om de snelle gegevensverwerking in supercomputers en AI-toepassingen te verbeteren en het is getest in de Xilinx Virtex Ultrascale+ (Alveo) AI-versneller, waar het een bijna 2.5X systeemprestatiewinst opleverde, evenals meer dan 60% minder energieverbruik.

"HBM-PIM is de eerste AI-op maat gemaakte geheugenoplossing die wordt getest in AI-acceleratorsystemen van klanten, met een enorm commercieel potentieel", zegt Nam Sung Kim, senior vice president van DRAM Product & Technology bij Samsung Electronics. "Door standaardisatie van de technologie zullen er tal van toepassingen komen, die zich uitbreiden naar HBM3 voor supercomputers en AI-toepassingen van de volgende generatie, en zelfs naar mobiel geheugen voor AI op het apparaat en voor geheugenmodules die in datacenters worden gebruikt."

De Acceleration DIMM (AXDIMM) brengt verwerking naar de DRAM module zelf, waardoor grote gegevensbewegingen tussen de CPU en DRAM worden geminimaliseerd om de energie-efficiëntie van AI-acceleratorsystemen te vergroten.

Met een AI-engine die in de bufferchip is ingebouwd, kan de AXDIMM parallelle verwerking van meerdere geheugenrangen (sets van DRAM-chips) uitvoeren in plaats van slechts één rang tegelijk te gebruiken, waardoor de systeemprestaties en efficiëntie aanzienlijk worden verbeterd.

Omdat de module zijn traditionele DIMM-vormfactor kan behouden, vergemakkelijkt de AXDIMM drop-in vervanging zonder systeemaanpassingen.

De AXDIMM wordt momenteel getest op klantservers en kan ongeveer twee keer de prestaties bieden in op AI gebaseerde aanbevelingstoepassingen en een vermindering van 40% in het systeembrede energieverbruik.

Samsung's LPDDR5-PIM mobiele geheugentechnologie kan onafhankelijke AI-mogelijkheden bieden zonder datacenterconnectiviteit. Simulatietests hebben aangetoond dat de LPDDR5-PIM de prestaties meer dan kan verdubbelen en het energieverbruik met meer dan 60% kan verminderen bij gebruik in toepassingen zoals spraakherkenning, vertaling en chatbot.

Samsung is van plan zijn AI-geheugenportfolio uit te breiden door samen te werken met andere marktleiders om de standaardisatie van het PIM-platform in de eerste helft van 2022 te voltooien.