Ancak artık bazı şeylerin değişmesi gereken bir noktadayız. Öneri motorları, görüntü sınıflandırma ve doğal dil işleme gibi yapay zeka tabanlı uygulamalar her yerde; telefonlarda, akıllı hoparlörlerde, araçlarda, giyilebilir cihazlarda ve evlerde. Ve bu sadece yapay zeka. Makine öğrenimi, sanal gerçeklik, yeni nesil oyunlar ve diğer yoğun uygulamalar kalıcı olarak burada.
Tüm bu uygulamalar, artık bu yeni teknolojilerin ihtiyaç duyduğu hızda gelişmeye devam edemeyecek olan HBM'ye benzeri görülmemiş talepler yüklüyor. Bu uygulamaların yalnızca büyük veri yığınlarını işlemesi gerekmiyor, aynı zamanda bunu daha hızlı ve daha iyi yapmaları gerekiyor ve iyileştirmelerin hızlı bir şekilde gerçekleşmesi gerekiyor. Algoritmalar büyük veri kapasitelerine yüksek erişim oranları gerektirir.
Geleneksel sistemlerde bellek bant genişliği ve güç tüketimi, sonuçta yapay zeka ve makine öğrenimi uygulamalarının performansını ve yeteneklerini sınırlıyor. Peki sektörün gelecek nesilleri desteklemek için buradan sonra ne yapması gerekiyor? teknoloji?
PIM kurtarmaya geliyor
Bellekte işleme (PIM) teknolojisini HBM ile kullanma fikri, 30 yılı aşkın süredir teknik kısıtlamaların üstesinden gelmenin bir yolu olarak konuşuluyor.
HBM-PIM, her bellek bankasının (bir depolama alt birimi) içine DRAM için optimize edilmiş bir yapay zeka motoru yerleştirerek, verilerin tam olarak depolandığı yere işlem gücü ekler; böylece verilerin yapması gereken seyahat miktarını azaltırken paralel işlemenin önünü açar. .
BT yöneticileri, veri merkezi sistem mimarları ve GPU mimarları için bu tür bir mimari harika bir fırsatı temsil ediyor. Örneğin yazılım mühendisleri, yerelleştirilmiş tekrarlanan iş yüklerinin hızını artırmak amacıyla HBM-PIM'in programlanabilir bilgi işlem biriminden yararlanmak için basit komutlar yazabilirler.
Daha da geniş olan HBM-PIM, geleneksel HBM'nin sistem performansının iki katından fazlasını sunarken aynı zamanda enerji kullanımını da %60'ın üzerinde azaltır. Ve ekstra bir avantaj olarak, HBM-PIM'in herhangi bir donanım veya yazılım ayarına ihtiyacı yoktur, bu da mühendislerin onu mevcut sistemlere sorunsuz bir şekilde yerleştirebileceği anlamına gelir.
Bu bariz faydalara rağmen endüstri için inşa edilmesi kolay bir mimari olmadı. Yakın zamana kadar, birkaç yıl önce çip üreticilerinin teknik zorlukların üstesinden gelmek için harcaması gereken iş çok fazlaydı ve bunun sonucunda ilerleme yıllar geçtikçe yavaşladı.
Neden? PIM teknolojisiyle ilgili sorun, belleği ve mantığı birbirine bağlama şekli nedeniyle mühendislerin, belleği optimize edilmiş bir süreçte depolama yoğunluğu ile depolama yoğunluğu arasında her zaman bir dengeyle karşı karşıya kalmalarıdır. Transistor Mantık açısından optimize edilmiş bir süreçte performans.
Sonuç olarak, PIM cihazlarının performansı ve yeteneği, entegrasyonun teknik engeli ve maliyetiyle karşılaştırıldığında düşük tarafta kaldı. Ve bu nedenle, milyonlarca karmaşık veri işleme görevini gerçekleştirmek için ayrı işlemci ve bellek birimleri kullanan geleneksel von Neumann mimarisi galip geldi. Ancak sinir bozucu bir şekilde, bu sıralı işleme yaklaşımı, verileri sürekli olarak ileri geri hareket ettirerek, giderek artan miktardaki verileri işlerken darboğazlara neden olur.
Ama iyi haberler var. Yapay zeka ve makine öğrenimi uygulamalarının yaygınlaşması, PIM teknolojisine yapılan yatırımı ve bu teknolojinin gelişimini yeniden canlandırdı; çünkü bu teknolojiler kalıcıdır ve hafızanın, tam tersi yerine bunlara uyum sağlayacak şekilde uyum sağlaması gerekir.
Ve bu mantıklı. PIM teknolojisi, yüksek performanslı bir belleğin (paralel) bankalarında eşzamanlı işleme için veri erişimlerini yüksek derecede uzamsal ve zamansal konumla eşleyerek veri hareketini azaltan optimize edilmiş çekirdeklere sahip, AI ve ML iş yüklerini yönetmek için mükemmel bir teknolojidir. cihaz. PIM, bu şekilde çalışarak CPU/GPU bellek bant genişliğinin tipik darboğazını gidererek AI ve ML uygulamasının performansını ve genel kapasitesini artırır.
Pazar atılımları
PIM teknolojisine yapılan yatırımların artması ve geliştirilmesi nedeniyle pazar, yüksek performansı, paralel veri işlemeyi ve DRAM'i aynı silikon parçasında birleştiren türünün ilk tamamen programlanabilir HBM-PIM'ini 2021'de görüyor.
JEDEC standardı HBM2 spesifikasyonunu temel alan ve PIM mimarisiyle geliştirilmiş bu yeni HBM-PIM'ler, yapay zeka uygulamalarının taleplerini karşılamada halihazırda oldukça başarılı olduğunu kanıtlıyor ve bunun sonucunda üreticiler, gelecekteki HBM3 teknolojisine PIM teknolojisini dahil etmeyi planlıyor. .
Zaman çizelgesinde Yarıiletken Yenilik sayesinde, dünya nihayet bant genişliğinin yapay zeka ve makine öğrenimi performansında ana sınırlayıcı faktör olduğu noktayı geçmiş gibi görünüyor. Artık bu inanılmaz teknolojilerin gerçekten geliştiğini görmeye başlayabiliriz.
Richard Walsh, Samsung'un bellek bölümünde çalışıyor Yarıiletken Avrupa son 25 yıldır diğer teknolojilerin yanı sıra DRAM, NAND ve NOR flash'ı da kapsıyor. Limerick Üniversitesi'nden Elektronik, Bilgisayar Donanımı ve Yazılım alanında Mühendislik Lisans derecesine sahiptir.
Ayrıca bakınız: Yapay zekanın geleceğine güç veren teknolojiler