삼성, 메모리 내 처리 능력 확장

삼성전자는 올해 핫칩스 컨퍼런스를 통해 PIM(Processing-In-Memory) 기술의 최신 기술을 선보였습니다. technology.

삼성은 PIM 지원 고대역폭 메모리(HBM-PIM)를 상용화된 가속기 시스템에 최초로 성공적으로 통합한 것을 시연했으며 메모리와 로직의 융합을 가속화하는 DRAM 모듈과 모바일 메모리를 수용하도록 PIM 애플리케이션을 확장했습니다.

HBM-PIM은 AI 처리 기능을 통합하여 슈퍼컴퓨터 및 AI 애플리케이션에서 고속 데이터 처리를 향상시키며 Xilinx Virtex Ultrascale+(Alveo) AI 가속기에서 테스트를 거쳐 거의 2.5배에 달하는 시스템 성능 향상과 그 이상을 제공했습니다. 에너지 소비를 60% 이상 줄였습니다.

김남성 삼성전자 DRAM 제품 및 기술 상무는 “HBM-PIM은 고객 AI 가속기 시스템에서 테스트 중인 업계 최초의 AI 맞춤형 메모리 솔루션으로 엄청난 상업적 잠재력을 보여주고 있다”고 말했다. 기술 표준화를 통해 차세대 슈퍼컴퓨터 및 AI 애플리케이션을 위한 HBM3, 온디바이스 AI를 위한 모바일 메모리 및 데이터 센터에 사용되는 메모리 모듈에 이르기까지 애플리케이션이 다양해질 것”이라고 말했다.

Acceleration DIMM(AXDIMM)은 DRAM에 처리 기능을 제공합니다. 모듈 CPU와 DRAM 간의 대규모 데이터 이동을 최소화하여 AI 가속기 시스템의 에너지 효율성을 높입니다.

버퍼 칩 내부에 내장된 AI 엔진을 통해 AXDIMM은 한 번에 하나의 랭크에만 액세스하는 대신 여러 메모리 랭크(DRAM 칩 세트)의 병렬 처리를 수행할 수 있어 시스템 성능과 효율성이 크게 향상됩니다.

모듈은 기존 DIMM 폼 팩터를 유지할 수 있으므로 AXDIMM을 사용하면 시스템 수정 없이 즉시 교체할 수 있습니다.

현재 고객 서버에서 테스트 중인 AXDIMM은 AI 기반 추천 애플리케이션에서 약 40배의 성능을 제공하고 시스템 전체의 에너지 사용량을 XNUMX% 줄일 수 있습니다.

삼성의 LPDDR5-PIM 모바일 메모리 기술은 데이터 센터 연결 없이 독립적인 AI 기능을 제공할 수 있습니다. 시뮬레이션 테스트에 따르면 LPDDR5-PIM은 음성 인식, 번역 및 챗봇과 같은 애플리케이션에서 사용할 때 에너지 사용량을 60% 이상 줄이는 동시에 성능을 두 배 이상 높일 수 있습니다.

삼성은 2022년 상반기 PIM 플랫폼 표준화를 완료하기 위해 다른 업계 리더들과 협력하여 AI 메모리 포트폴리오를 확장할 계획입니다.