Samsung mở rộng sức mạnh xử lý trong bộ nhớ

Samsung Electronics đã tận dụng hội nghị Hot Chips năm nay để giới thiệu những tiến bộ mới nhất của mình với bộ xử lý trong bộ nhớ (PIM) công nghệ.

Samsung đã lần đầu tiên trình diễn việc tích hợp thành công Bộ nhớ băng thông cao hỗ trợ PIM (HBM-PIM) vào một hệ thống tăng tốc thương mại hóa và đã mở rộng các ứng dụng PIM để bao gồm các mô-đun DRAM và bộ nhớ di động nhằm tăng tốc quá trình tiến tới sự hội tụ của bộ nhớ và logic.

HBM-PIM kết hợp chức năng xử lý AI để tăng cường xử lý dữ liệu tốc độ cao trong siêu máy tính và ứng dụng AI và nó đã được thử nghiệm trong bộ tăng tốc AI Xilinx Virtex Ultrascale + (Alveo), nơi nó mang lại hiệu suất hệ thống gần gấp 2.5 lần cũng như hơn thế nữa giảm 60% mức tiêu thụ năng lượng.

“HBM-PIM là giải pháp bộ nhớ phù hợp với AI đầu tiên của ngành đang được thử nghiệm trong các hệ thống tăng tốc AI của khách hàng, thể hiện tiềm năng thương mại to lớn”, Nam Sung Kim, Phó chủ tịch cấp cao về Sản phẩm & Công nghệ DRAM tại Samsung Electronics cho biết. “Thông qua tiêu chuẩn hóa công nghệ, các ứng dụng sẽ trở nên nhiều hơn, mở rộng thành HBM3 cho các siêu máy tính và ứng dụng AI thế hệ tiếp theo, và thậm chí vào bộ nhớ di động cho AI trên thiết bị cũng như cho các mô-đun bộ nhớ được sử dụng trong trung tâm dữ liệu.”

DIMM tăng tốc (AXDIMM) mang lại khả năng xử lý cho DRAM mô-đun chính nó, giảm thiểu sự di chuyển dữ liệu lớn giữa CPU và DRAM để tăng hiệu quả sử dụng năng lượng của các hệ thống tăng tốc AI.

Với một công cụ AI được tích hợp bên trong chip đệm, AXDIMM có thể thực hiện xử lý song song nhiều cấp bộ nhớ (bộ chip DRAM) thay vì chỉ truy cập một cấp tại một thời điểm, giúp tăng cường đáng kể hiệu suất và hiệu quả của hệ thống.

Vì mô-đun có thể giữ lại hệ số dạng DIMM truyền thống của nó, AXDIMM tạo điều kiện thay thế thả vào mà không yêu cầu sửa đổi hệ thống.

Hiện đang được thử nghiệm trên các máy chủ của khách hàng, AXDIMM có thể cung cấp hiệu suất xấp xỉ gấp đôi trong các ứng dụng đề xuất dựa trên AI và giảm 40% mức sử dụng năng lượng trên toàn hệ thống.

Công nghệ bộ nhớ di động LPDDR5-PIM của Samsung có thể cung cấp khả năng AI độc lập mà không cần kết nối trung tâm dữ liệu. Các thử nghiệm mô phỏng đã chỉ ra rằng LPDDR5-PIM có thể tăng gấp đôi hiệu suất trong khi giảm mức sử dụng năng lượng hơn 60% khi được sử dụng trong các ứng dụng như nhận dạng giọng nói, dịch thuật và chatbot.

Samsung có kế hoạch mở rộng danh mục bộ nhớ AI của mình bằng cách làm việc với các nhà lãnh đạo ngành khác để hoàn thành tiêu chuẩn hóa nền tảng PIM vào nửa đầu năm 2022.