Samsung เพิ่มพลังการประมวลผลในหน่วยความจำ

Samsung Electronics ใช้การประชุม Hot Chips ในปีนี้เพื่อแสดงความก้าวหน้าล่าสุดด้วยการประมวลผลในหน่วยความจำ (PIM) เทคโนโลยี.

Samsung แสดงให้เห็นถึงความสำเร็จครั้งแรกในการรวมหน่วยความจำแบนด์วิดท์สูง (HBM-PIM) ที่เปิดใช้งาน PIM เข้ากับระบบเร่งความเร็วเชิงพาณิชย์ และได้ขยายแอปพลิเคชัน PIM เพื่อโอบรับโมดูล DRAM และหน่วยความจำมือถือที่เร่งการบรรจบกันของหน่วยความจำและตรรกะ

HBM-PIM รวมเอาฟังก์ชันการประมวลผล AI เพื่อปรับปรุงการประมวลผลข้อมูลความเร็วสูงในซูเปอร์คอมพิวเตอร์และแอปพลิเคชัน AI และได้รับการทดสอบในตัวเร่ง AI Xilinx Virtex Ultrascale + (Alveo) ซึ่งให้ประสิทธิภาพที่เพิ่มขึ้นของระบบเกือบ 2.5 เท่า และอีกมากมาย กว่า 60% ลดการใช้พลังงาน

“HBM-PIM เป็นโซลูชันหน่วยความจำที่ปรับแต่งด้วย AI ตัวแรกของอุตสาหกรรม ซึ่งได้รับการทดสอบในระบบเร่งความเร็ว AI ของลูกค้า ซึ่งแสดงให้เห็นถึงศักยภาพทางการค้ามหาศาล” Nam Sung Kim รองประธานอาวุโสฝ่ายผลิตภัณฑ์และเทคโนโลยี DRAM ของ Samsung Electronics กล่าว “ด้วยมาตรฐานของเทคโนโลยี แอพพลิเคชั่นจะมีจำนวนมาก โดยขยายไปสู่ ​​HBM3 สำหรับซูเปอร์คอมพิวเตอร์รุ่นต่อไปและแอพพลิเคชั่น AI และแม้แต่ในหน่วยความจำมือถือสำหรับ AI บนอุปกรณ์รวมถึงโมดูลหน่วยความจำที่ใช้ในศูนย์ข้อมูล”

Acceleration DIMM (AXDIMM) นำการประมวลผลมาสู่ DRAM โมดูล โดยลดการเคลื่อนที่ของข้อมูลขนาดใหญ่ระหว่าง CPU และ DRAM เพื่อเพิ่มประสิทธิภาพการใช้พลังงานของระบบเร่งความเร็ว AI

ด้วยเอ็นจิ้น AI ที่สร้างขึ้นภายในชิปบัฟเฟอร์ AXDIMM จึงสามารถประมวลผลระดับหน่วยความจำหลายระดับ (ชุดชิป DRAM) แบบขนาน แทนที่จะเข้าถึงทีละระดับ ซึ่งช่วยเพิ่มประสิทธิภาพและประสิทธิภาพของระบบได้อย่างมาก

เนื่องจากโมดูลสามารถคงฟอร์มแฟกเตอร์ DIMM ดั้งเดิมไว้ได้ AXDIMM จึงอำนวยความสะดวกในการเปลี่ยนแบบดรอปอินโดยไม่ต้องทำการปรับเปลี่ยนระบบ

ขณะนี้อยู่ระหว่างการทดสอบบนเซิร์ฟเวอร์ของลูกค้า AXDIMM สามารถให้ประสิทธิภาพเพิ่มขึ้นประมาณสองเท่าในแอปพลิเคชันคำแนะนำที่ใช้ AI และการใช้พลังงานทั่วทั้งระบบลดลง 40%

เทคโนโลยีหน่วยความจำมือถือ LPDDR5-PIM ของ Samsung สามารถมอบความสามารถ AI อิสระโดยไม่ต้องเชื่อมต่อศูนย์ข้อมูล การทดสอบการจำลองแสดงให้เห็นว่า LPDDR5-PIM มีประสิทธิภาพมากกว่าสองเท่าในขณะที่ลดการใช้พลังงานลงกว่า 60% เมื่อใช้งานในแอปพลิเคชัน เช่น การจดจำเสียง การแปล และแชทบ็อต

Samsung วางแผนที่จะขยายพอร์ตโฟลิโอหน่วยความจำ AI โดยทำงานร่วมกับผู้นำในอุตสาหกรรมอื่นๆ เพื่อสร้างมาตรฐานให้กับแพลตฟอร์ม PIM ในครึ่งแรกของปี 2022