סמסונג מרחיבה את כוח העיבוד In-Memory

Samsung Electronics השתמשה בכנס Hot Chips השנה כדי להציג את ההתקדמות האחרונה שלה עם עיבוד בזיכרון (PIM) טֶכנוֹלוֹגִיָה.

סמסונג הדגימה את האינטגרציה המוצלחת הראשונה של זיכרון רוחב הפס הגבוה שלה (PB) המאפשר PIM למערכת מאיצים ממוסחרת, והרחיבה את יישומי PIM לאמץ מודולי DRAM וזיכרון נייד המאיץ את המהלך לקראת התכנסות הזיכרון וההיגיון.

HBM-PIM משלבת את פונקציית עיבוד AI לשיפור עיבוד נתונים במהירות גבוהה במחשבי-על ויישומי AI והיא נבדקה במאיץ ה- AI של Xilinx Virtex Ultrascale+ (Alveo), שם היא סיפקה רווח של ביצועים מערכתיים כמעט פי 2.5 כמו גם יותר קיצוץ של 60% בצריכת האנרגיה.

"HBM-PIM הוא פתרון הזיכרון הראשון המותאם AI בתעשייה הנבדק במערכות מאיץ AI של לקוחות, מה שמדגים פוטנציאל מסחרי אדיר", אמר נאם סונג קים, סמנכ"ל בכיר ב- DRAM Product & Technology ב- Samsung Electronics. "באמצעות סטנדרטיזציה של הטכנולוגיה, יישומים יהפכו למספר רב, ויתרחבו ל- HBM3 לדור הבא של מחשבי על ויישומי AI, ואפילו לזיכרון נייד עבור AI במכשיר, כמו גם עבור מודולי זיכרון המשמשים במרכזי נתונים."

ה-Acceleration DIMM (AXDIMM) מביא עיבוד ל-DRAM מודול עצמו, מזעור תנועת נתונים גדולה בין ה-CPU ל-DRAM כדי להגביר את יעילות האנרגיה של מערכות מאיץ בינה מלאכותית.

עם מנוע AI מובנה בתוך שבב החיץ, ה- AXDIMM יכול לבצע עיבוד מקביל של דרגות זיכרון מרובות (קבוצות של שבבי DRAM) במקום לגשת לדירוג אחד בכל פעם, ולשפר מאוד את ביצועי המערכת ויעילותה.

מכיוון שהמודול יכול לשמור על גורם הטופס המסורתי של DIMM, ה- AXDIMM מאפשר החלפת ירידה ללא צורך בשינויי מערכת.

AXDIMM, הנבדק כעת בשרתי לקוחות, יכול להציע כפליים מהביצועים ביישומי המלצה מבוססי AI וירידה של 40% בצריכת האנרגיה ברחבי המערכת.

טכנולוגיית הזיכרון הנייד LPDDR5-PIM של סמסונג יכולה לספק יכולות AI עצמאיות ללא קישוריות מרכז נתונים. בדיקות סימולציה הראו כי LPDDR5-PIM יכול להכפיל את הביצועים תוך הפחתת צריכת האנרגיה ביותר מ -60% בעת שימוש ביישומים כגון זיהוי קולי, תרגום וצ'אט בוט.

סמסונג מתכננת להרחיב את תיק זיכרונות הבינה המלאכותית שלה על ידי עבודה עם מנהיגי תעשייה אחרים להשלמת התקינה של פלטפורמת ה- PIM במחצית הראשונה של 2022.