Samsung meluaskan kuasa pemprosesan In-Memory

Samsung Electronics telah menggunakan persidangan Hot Chips tahun ini untuk mempamerkan kemajuan terkininya dengan pemprosesan dalam ingatan (PIM) teknologi.

Samsung menunjukkan kejayaan pertama penggabungan Memori Jalur Lebar Berkemampuan PIM (HBM-PIM) yang berjaya ke dalam sistem pemecut yang dikomersialkan, dan telah memperluas aplikasi PIM untuk merangkumi modul DRAM dan memori mudah alih yang mempercepat langkah menuju penumpuan memori dan logik.

HBM-PIM menggabungkan fungsi pemprosesan AI untuk meningkatkan pemprosesan data berkelajuan tinggi dalam aplikasi superkomputer dan AI dan ia telah diuji dalam akselerator Xilinx Virtex Ultrascale + (Alveo) AI, di mana ia memberikan peningkatan prestasi sistem hampir 2.5X serta lebih banyak lagi daripada pengurangan penggunaan tenaga sebanyak 60%.

"HBM-PIM adalah penyelesaian memori khusus AI pertama di industri yang diuji dalam sistem pemecut AI pelanggan, menunjukkan potensi komersial yang luar biasa," kata Nam Sung Kim, naib presiden kanan Produk & Teknologi DRAM di Samsung Electronics. "Melalui standardisasi teknologi, aplikasi akan menjadi banyak, berkembang menjadi HBM3 untuk superkomputer generasi berikutnya dan aplikasi AI, dan bahkan menjadi memori mudah alih untuk AI pada perangkat dan juga modul memori yang digunakan di pusat data."

Acceleration DIMM (AXDIMM) membawa pemprosesan kepada DRAM modul itu sendiri, meminimumkan pergerakan data yang besar antara CPU dan DRAM untuk meningkatkan kecekapan tenaga sistem pemecut AI.

Dengan mesin AI yang dibina di dalam buffer chip, AXDIMM dapat melakukan pemrosesan selari dari pelbagai peringkat memori (set cip DRAM) dan bukannya hanya mencapai satu peringkat pada satu masa, sangat meningkatkan prestasi dan kecekapan sistem.

Oleh kerana modul dapat mengekalkan faktor bentuk DIMM tradisionalnya, AXDIMM memudahkan penggantian drop-in tanpa memerlukan pengubahsuaian sistem.

Saat ini diuji pada pelayan pelanggan, AXDIMM dapat menawarkan kinerja sekitar dua kali ganda dalam aplikasi rekomendasi berbasis AI dan penurunan 40% dalam penggunaan tenaga di seluruh sistem.

Teknologi memori mudah alih LPDDR5-PIM Samsung dapat memberikan keupayaan AI bebas tanpa sambungan pusat data. Ujian simulasi telah menunjukkan bahawa LPDDR5-PIM dapat melipatgandakan prestasi sekaligus mengurangkan penggunaan tenaga lebih dari 60% ketika digunakan dalam aplikasi seperti pengecaman suara, terjemahan dan chatbot.

Samsung merancang untuk mengembangkan portfolio memori AI dengan bekerjasama dengan pemimpin industri lain untuk menyelesaikan standardisasi platform PIM pada separuh pertama tahun 2022.