لكننا الآن في مرحلة يجب أن تتغير فيها الأمور. التطبيقات القائمة على الذكاء الاصطناعي مثل محركات التوصية وتصنيف الصور ومعالجة اللغة الطبيعية موجودة في كل مكان - في الهواتف ومكبرات الصوت الذكية والمركبات والأجهزة القابلة للارتداء والمنازل. وهذا مجرد ذكاء اصطناعي. التعلم الآلي والواقع الافتراضي والألعاب من الجيل التالي والتطبيقات المكثفة الأخرى موجودة لتبقى.
كل هذه التطبيقات تضع الآن طلبات غير مسبوقة على HBM ، والتي ببساطة لا يمكنها الاستمرار في التحسين بالوتيرة التي تحتاجها هذه التقنيات الجديدة. لا تحتاج هذه التطبيقات إلى معالجة مساحات ضخمة من البيانات فحسب ، بل تحتاج أيضًا إلى القيام بذلك بشكل أسرع وأفضل ، ويجب أن تأتي التحسينات بسرعة. تتطلب الخوارزميات معدلات وصول عالية إلى سعة بيانات كبيرة.
في الأنظمة التقليدية، يحد النطاق الترددي للذاكرة واستهلاك الطاقة في نهاية المطاف من أداء وقدرات تطبيقات الذكاء الاصطناعي والتعلم الآلي. إذن ما الذي يتعين على الصناعة فعله من هنا لدعم الجيل القادم من التكنلوجيا?
PIM للإنقاذ
تم الحديث عن فكرة استخدام تقنية المعالجة في الذاكرة (PIM) مع HBM كطريقة للتغلب على القيود التقنية لأكثر من 30 عامًا.
من خلال وضع محرك AI مُحسّن للذاكرة الحيوية داخل كل بنك ذاكرة (وحدة تخزين فرعية) ، يضيف HBM-PIM قوة معالجة بالضبط حيث يتم تخزين البيانات - مما يمهد الطريق للمعالجة المتوازية مع تقليل مقدار السفر الذي تحتاجه البيانات للقيام به .
بالنسبة لمديري تكنولوجيا المعلومات ومهندسي أنظمة مركز البيانات ومهندسي GPU ، يمثل هذا النوع من الهندسة فرصة رائعة. على سبيل المثال ، يمكن لمهندسي البرمجيات كتابة أوامر بسيطة للاستفادة من وحدة الحوسبة القابلة للبرمجة في HBM-PIM لتحسين سرعة أعباء العمل المتكررة المترجمة.
على نطاق أوسع ، يوفر HBM-PIM أكثر من ضعف أداء نظام HBM التقليدي مع تقليل استخدام الطاقة بنسبة تزيد عن 60٪. وكمكافأة إضافية رائعة ، لا يحتاج HBM-PIM إلى أي تعديلات على الأجهزة أو البرامج ، مما يعني أنه يمكن للمهندسين تضمينه بسهولة في الأنظمة الحالية.
على الرغم من هذه الفوائد الواضحة ، لم يكن من السهل بناء هذه الصناعة. حتى وقت قريب ، كانت الشركات المصنعة لشرائح العمل التي كان يتعين عليها التغلب على التحديات التقنية قبل بضع سنوات كثيرة للغاية - ونتيجة لذلك ، كان التقدم بطيئًا على مر السنين.
لماذا ا؟ تكمن مشكلة تقنية PIM في أنه نظرًا للطريقة التي تربط بها الذاكرة بالمنطق ، واجه المهندسون دائمًا مفاضلة بين كثافة التخزين في عملية تحسين الذاكرة و الترانزستور الأداء في عملية منطقية الأمثل.
نتيجة لذلك ، كان أداء وقدرة أجهزة PIM في الجانب المنخفض مقارنة بالعقبة الفنية وتكلفة التكامل. وبالتالي سادت بنية von Neumann التقليدية ، والتي تستخدم وحدات معالج وذاكرة منفصلة لتنفيذ الملايين من مهام معالجة البيانات المعقدة. ولكن الأمر المحبط هو أن أسلوب المعالجة المتسلسلة هذا يحرك نقل البيانات ذهابًا وإيابًا باستمرار ، مما يتسبب في اختناقات عند التعامل مع أحجام متزايدة باستمرار من البيانات.
ولكن هناك أخبار جيدة. أدى انتشار تطبيقات الذكاء الاصطناعي والتعلم الآلي إلى تنشيط الاستثمار في تقنية PIM وتطويرها - وذلك ببساطة لأن هذه التقنيات موجودة لتبقى ، وتحتاج الذاكرة إلى التكيف لاستيعابها ، بدلاً من العكس.
وهذا منطقي. تقنية PIM هي تقنية مثالية للتعامل مع أعباء عمل AI و ML ، مع نواة محسّنة تقلل من حركة البيانات عن طريق تعيين وصول إلى البيانات بدرجة عالية من المكان المكاني والزماني للمعالجة المتزامنة في البنوك (الموازية) لذاكرة عالية الأداء جهاز. من خلال العمل بهذه الطريقة ، يعالج PIM عنق الزجاجة النموذجي للنطاق الترددي لذاكرة CPU / GPU ، مما يحسن أداء تطبيق AI و ML وقدرته الإجمالية.
اختراقات السوق
نظرًا لزيادة الاستثمار وتطوير تقنية PIM ، فإن السوق الآن في عام 2021 يشهد أول HBM-PIM قابل للبرمجة بالكامل من نوعه يجمع بين الأداء العالي ومعالجة البيانات المتوازية والذاكرة الحيوية كلها على نفس قطعة السيليكون.
أثبتت HBM-PIMs الجديدة ، المستندة إلى مواصفات HBM2 المعيارية من JEDEC والمعززة بهندسة PIM ، نجاحًا كبيرًا في تلبية متطلبات تطبيقات الذكاء الاصطناعي - ونتيجة لذلك ، يخطط المصنعون بالفعل لتضمين تقنية PIM في تقنية HBM3 المستقبلية .
على الجدول الزمني ل أشباه الموصلات الابتكار ، يبدو أن العالم قد تجاوز أخيرًا النقطة التي يكون فيها النطاق الترددي هو العامل المحدد الرئيسي في أداء الذكاء الاصطناعي والتعلم الآلي. الآن يمكننا حقًا أن نبدأ في رؤية هذه التقنيات المذهلة تزدهر.
يعمل ريتشارد والش في قسم الذاكرة في سامسونج أشباه الموصلات أوروبا على مدار الـ 25 عامًا الماضية، والتي تغطي DRAM وNAND وNOR flash، من بين تقنيات أخرى. وهو حاصل على درجة البكالوريوس في الهندسة في الإلكترونيات وأجهزة الكمبيوتر والبرمجيات من جامعة ليمريك.
انظر أيضا: التقنيات التي تحرك مستقبل الذكاء الاصطناعي