تقترح Semidynamics بنية RISC-V المعيارية لمعالجة الذكاء الاصطناعي القابلة للتطوير

سيميديناميكس الكل في واحد الذكاء الاصطناعي

بدلاً من وجود وحدة معالجة مركزية متعددة النواة على نفس الدائرة المتكاملة، ووحدة معالجة رسومات متعددة النواة لمعالجة المتجهات ومعالج عصبي متعدد النواة لمعالجة الموتر، فإنها تدعم مثيلات متعددة لكتلة تتكون من RISC واحد خارج الترتيب 64 بت -V وحدة المعالجة المركزية، ووحدة ناقل RVV1.0 خارج الترتيب (تشبه وحدة معالجة الرسومات) مع 4 إلى 32 وحدة فرعية FMAC، ووحدة موتر واحدة (تشبه NPU) لقياس بيانات BF16 وFP16 وINT8 بين 0.25 و 2Top/s (8 بت).

قال روجر إسباسا، الرئيس التنفيذي لشركة Semidynamics: "البيانات موجودة في سجلات المتجهات ويمكن استخدامها بواسطة وحدة المتجهات أو وحدة الموتر حيث ينتظر كل جزء بدوره للوصول إلى نفس الموقع حسب الحاجة". "وبالتالي، لا يوجد زمن انتقال للاتصالات ويتم تقليل ذاكرة التخزين المؤقت."

لهذا يضيف الحافلة الخاصة به التكنلوجيا قادر على الوصول المستمر إلى DRAM "يتجاوز 50 بايت / دورة".

"توفر وحدة الموتر قدرة مضاعفة المصفوفة للتلافيف، في حين أن وحدة المتجهات، مع قابليتها للبرمجة العامة، يمكنها معالجة أي من طبقات التنشيط الحالية بالإضافة إلى أي شيء يمكن لمجتمع برمجيات الذكاء الاصطناعي أن يحلم به في المستقبل"، وفقًا للشركة. "يمكن تجميع العديد من عناصر المعالجة هذه المطلوبة لتلبية احتياجات التطبيق معًا على شريحة واحدة. يوجد فقط مورد IP واحد ومجموعة تعليمات RISC-V واحدة وسلسلة أدوات واحدة.

ترى أن البنية تتدرج بين 0.25Top/s ومئات من Top/s، وقالت إنها تسجل 33.03 إطار/ثانية على معيار Yolo بسرعة 1 جيجاهرتز مع أحد نوى ATV4 RISC-V الخاصة بالشركة، بالإضافة إلى وحدة متجهة، بالإضافة إلى وحدة الموتر bf16

تتوفر أداة "التكوين" لاقتراح توازن مناسب بين وحدات الموتر والمتجه.

كيف يمكن تقسيم المهام عبر وحدات معالجة متعددة؟

وقالت الشركة لـ Electronics Weekly: "بالنسبة لمهام الذكاء الاصطناعي، فإن ONNX RunTime قادر على تقسيم الحساب عبر العديد من عناصر الذكاء الاصطناعي". "بالنسبة للمجالات الأخرى، مثل الحوسبة عالية الأداء، يمكن استخدام تقنية موازية المترجم القياسي - openMP أو MPI - لتقسيم العمل."

سيكون دعم Hypervisor متاحًا للنقل بالحاويات ومعالجة التشفير.

احصل على مزيد من التفاصيل حول الجناح 5-337 في Embedded World الأسبوع المقبل في نورمبرغ.