サムスンはインメモリ処理能力を拡張します

Samsung Electronics は、今年の Hot Chips カンファレンスを利用して、メモリ内処理 (PIM) に関する最新の進歩を紹介しました。 テクノロジー.

サムスンは、PIM対応の高帯域幅メモリ（HBM-PIM）を商用化されたアクセラレータシステムに初めて統合することに成功し、メモリとロジックの統合に向けた動きを加速するDRAMモジュールとモバイルメモリを採用するようにPIMアプリケーションを拡大しました。

HBM-PIMは、スーパーコンピューターおよびAIアプリケーションでの高速データ処理を強化するAI処理機能を組み込んでおり、ザイリンクスVirtex Ultrascale +（Alveo）AIアクセラレーターでテストされており、システムパフォーマンスが約2.5倍向上しました。エネルギー消費量を60％削減しました。

サムスン電子のDRAM製品およびテクノロジー担当シニアバイスプレジデントであるナムソンキムは、次のように述べています。 「テクノロジーの標準化により、アプリケーションは数多くなり、次世代のスーパーコンピューターやAIアプリケーション向けのHBM3にまで拡大し、さらにはオンデバイスAI向けのモバイルメモリやデータセンターで使用されるメモリモジュールにも拡大します。」

アクセラレーション DIMM (AXDIMM) は DRAM に処理をもたらします モジュール これにより、CPU と DRAM 間の大規模なデータの移動が最小限に抑えられ、AI アクセラレータ システムのエネルギー効率が向上します。

バッファチップ内にAIエンジンが組み込まれているため、AXDIMMは、一度にXNUMXつのランクにアクセスするのではなく、複数のメモリランク（DRAMチップのセット）の並列処理を実行できるため、システムのパフォーマンスと効率が大幅に向上します。

モジュールは従来のDIMMフォームファクターを保持できるため、AXDIMMはシステムの変更を必要とせずにドロップイン交換を容易にします。

現在、お客様のサーバーでテストされているAXDIMMは、AIベースの推奨アプリケーションで約40倍のパフォーマンスを提供し、システム全体のエネルギー使用量をXNUMX％削減できます。

サムスンのLPDDR5-PIMモバイルメモリテクノロジーは、データセンターに接続しなくても独立したAI機能を提供できます。 シミュレーションテストでは、LPDDR5-PIMは、音声認識、翻訳、チャットボットなどのアプリケーションで使用した場合、エネルギー使用量を60％以上削減しながら、パフォーマンスをXNUMX倍以上にできることが示されています。

サムスンは、他の業界リーダーと協力して2022年前半にPIMプラットフォームの標準化を完了することにより、AIメモリポートフォリオを拡大することを計画しています。