Samsung memperluas kekuatan pemrosesan dalam Memori
Samsung Electronics telah menggunakan konferensi Hot Chips tahun ini untuk memamerkan kemajuan terbarunya dalam pemrosesan dalam memori (PIM) teknologi.
Samsung mendemonstrasikan integrasi pertama yang berhasil dari High Bandwidth Memory (HBM-PIM) berkemampuan PIM ke dalam sistem akselerator komersial, dan telah memperluas aplikasi PIM untuk merangkul modul DRAM dan memori seluler yang mempercepat langkah menuju konvergensi memori dan logika.
HBM-PIM menggabungkan fungsi pemrosesan AI untuk meningkatkan pemrosesan data berkecepatan tinggi di superkomputer dan aplikasi AI dan telah diuji dalam akselerator AI Xilinx Virtex Ultrascale+ (Alveo), yang menghasilkan peningkatan kinerja sistem hampir 2.5X serta lebih dari pengurangan 60% dalam konsumsi energi.
“HBM-PIM adalah solusi memori yang disesuaikan dengan AI pertama di industri yang diuji dalam sistem akselerator AI pelanggan, menunjukkan potensi komersial yang luar biasa,” kata Nam Sung Kim, wakil presiden senior Produk & Teknologi DRAM di Samsung Electronics. “Melalui standarisasi teknologi, aplikasi akan menjadi banyak, berkembang menjadi HBM3 untuk superkomputer generasi berikutnya dan aplikasi AI, dan bahkan ke memori seluler untuk AI di perangkat serta untuk modul memori yang digunakan di pusat data.”
Akselerasi DIMM (AXDIMM) menghadirkan pemrosesan ke DRAM modul sendiri, meminimalkan pergerakan data dalam jumlah besar antara CPU dan DRAM untuk meningkatkan efisiensi energi sistem akselerator AI.
Dengan mesin AI yang dibangun di dalam chip buffer, AXDIMM dapat melakukan pemrosesan paralel beberapa peringkat memori (set chip DRAM) alih-alih mengakses hanya satu peringkat pada satu waktu, sangat meningkatkan kinerja dan efisiensi sistem.
Karena modul dapat mempertahankan faktor bentuk DIMM tradisional, AXDIMM memfasilitasi penggantian drop-in tanpa memerlukan modifikasi sistem.
Saat ini sedang diuji di server pelanggan, AXDIMM dapat menawarkan kinerja sekitar dua kali lipat dalam aplikasi rekomendasi berbasis AI dan penurunan 40% dalam penggunaan energi di seluruh sistem.
Teknologi memori seluler LPDDR5-PIM Samsung dapat memberikan kemampuan AI independen tanpa konektivitas pusat data. Tes simulasi telah menunjukkan bahwa LPDDR5-PIM dapat meningkatkan kinerja lebih dari dua kali lipat sekaligus mengurangi penggunaan energi hingga lebih dari 60% saat digunakan dalam aplikasi seperti pengenalan suara, terjemahan, dan chatbot.
Samsung berencana untuk memperluas portofolio memori AI-nya dengan bekerja sama dengan para pemimpin industri lainnya untuk menyelesaikan standarisasi platform PIM pada paruh pertama tahun 2022.