Samsung, Bellek İçi İşleme Gücünü Artırıyor

Samsung Electronics, bellekte işleme (PIM) ile ilgili en son gelişmeleri sergilemek için bu yılki Hot Chips konferansını kullandı teknoloji.

Samsung, PIM özellikli Yüksek Bant Genişlikli Belleğinin (HBM-PIM) ticarileştirilmiş bir hızlandırıcı sisteme ilk başarılı entegrasyonunu sergiledi ve PIM uygulamalarını, bellek ve mantığın yakınsamasına doğru ilerlemeyi hızlandıran DRAM modüllerini ve mobil belleği kapsayacak şekilde genişletti.

HBM-PIM, süper bilgisayarlarda ve yapay zeka uygulamalarında yüksek hızlı veri işlemeyi geliştirmek için yapay zeka işleme işlevini içerir ve Xilinx Virtex Ultrascale+ (Alveo) yapay zeka hızlandırıcıda test edilmiş ve burada neredeyse 2.5 kat daha fazla sistem performansı kazancı sağlamıştır. enerji tüketiminde %60'tan fazla azalma.

Samsung Electronics'in DRAM Ürün ve Teknolojisinden sorumlu kıdemli başkan yardımcısı Nam Sung Kim, "HBM-PIM, müşterilerin yapay zeka hızlandırıcı sistemlerinde test edilen ve muazzam bir ticari potansiyel gösteren, endüstrinin ilk yapay zekaya özel bellek çözümüdür" dedi. "Teknolojinin standartlaştırılmasıyla uygulamalar çok sayıda hale gelecek ve yeni nesil süper bilgisayarlar ve yapay zeka uygulamaları için HBM3'e, hatta cihaz içi yapay zeka için mobil belleğe ve veri merkezlerinde kullanılan bellek modüllerine kadar genişleyecek."

Hızlandırma DIMM'i (AXDIMM), işlemeyi DRAM'e getirir modül AI hızlandırıcı sistemlerinin enerji verimliliğini artırmak için CPU ile DRAM arasındaki büyük veri hareketini en aza indirir.

Tampon çipin içine yerleştirilmiş bir yapay zeka motoruyla AXDIMM, tek seferde yalnızca bir seviyeye erişmek yerine birden fazla bellek kademesinin (DRAM çip setleri) paralel işlenmesini gerçekleştirebilir, bu da sistem performansını ve verimliliğini büyük ölçüde artırır.

Modül geleneksel DIMM form faktörünü koruyabildiğinden AXDIMM, sistem değişikliği gerektirmeden anında değiştirmeyi kolaylaştırır.

Şu anda müşteri sunucularında test edilen AXDIMM, yapay zeka tabanlı öneri uygulamalarında yaklaşık iki kat daha fazla performans ve sistem genelinde enerji kullanımında %40 azalma sunabiliyor.

Samsung'un LPDDR5-PIM mobil bellek teknolojisi, veri merkezi bağlantısı olmadan bağımsız yapay zeka yetenekleri sağlayabilir. Simülasyon testleri, LPDDR5-PIM'in ses tanıma, çeviri ve chatbot gibi uygulamalarda kullanıldığında enerji kullanımını %60'ın üzerinde azaltırken performansı iki kattan fazla artırabildiğini göstermiştir.

Samsung, 2022'nin ilk yarısında PIM platformunun standardizasyonunu tamamlamak için diğer sektör liderleriyle birlikte çalışarak AI bellek portföyünü genişletmeyi planlıyor.