NXP und NVIDIA arbeiten zusammen, um die KI-Bereitstellung zu beschleunigen

19. März 2024 – NXP Semiconductors NV gab kürzlich eine Zusammenarbeit mit NVIDIA bekannt, die es ermöglicht, die trainierten KI-Modelle von NVIDIA über die eIQ®-Entwicklungsumgebung für maschinelles Lernen auf dem breiten Portfolio an Edge-Processing-Geräten von NXP bereitzustellen. Diese spannende Möglichkeit bietet Entwicklern die Möglichkeit, die Entwicklung in der zunehmend wettbewerbsintensiven Welt der KI zu beschleunigen, ermöglicht durch die funktionale Integration des NVIDIA TAO Toolkits in die eIQ-Entwicklungsumgebung für maschinelles Lernen von NXP. NXP ist der Erste Halbleiter Anbieter ermöglicht die direkte Integration der NVIDIA TAO-APIs in ein KI-Aktivierungsangebot, um Entwicklern die Bereitstellung geschulter KI-Modelle am Edge zu erleichtern.

Die Vereinfachung des Trainings und Einsatzes von KI-Modellen ist eine der größten Herausforderungen für heutige KI-Entwickler. Um dieser Herausforderung zu begegnen, arbeitete NXP mit NVIDIA zusammen, um die NVIDIA TAO-APIs direkt in die eIQ-Entwicklungsumgebung für maschinelles Lernen von NXP zu integrieren. Das NVIDIA TAO Low-Code-KI-Framework erleichtert die Nutzung trainierter KI-Modelle und deren Feinabstimmung für bestimmte Anwendungen durch Transferlernen, während die eIQ-Entwicklungsumgebung von NXP die Bereitstellung dieser Modelle am Rande durch eine Kombination aus Software, Inferenz-Engines und Compiler für neuronale Netze und optimierte Bibliotheken. Durch diese Integration profitieren Kunden von einer beschleunigten KI-Entwicklung, Zugriff auf eine Bibliothek vorab getesteter KI-Modelle und der Möglichkeit, diese auf dem breiten Portfolio an Edge-Prozessoren von NXP bereitzustellen.

„KI-Innovationen werden die Zukunft der intelligent vernetzten Welt bestimmen. Durch die Kombination der Expertise von NVIDIA im Training und Testen von KI-Modellen mit der langen Geschichte von NXP im Bereich Industrie- und IoT-Edge-Innovationen entsteht eine Synergie, die es unseren Kunden ermöglicht, ihre KI-Modelle schnell und einfach auf den Markt zu bringen“, sagte Charles Dachs, Senior Vice President und General Manager, Industrial und IoT Edge bei NXP.

„NVIDIA TAO vereinfacht die Erstellung und Bereitstellung von KI-Modellen, einschließlich hochmoderner generativer KI-Modelle, erheblich. „Diese Zusammenarbeit bringt hochpräzise, ​​optimierte KI-Modelle hervor, die mit NVIDIA TAO abgestimmt und nahtlos in die eIQ-Entwicklungsumgebung von NXP integriert sind, um Edge-KI-Bereitstellungen zu beschleunigen“, sagte Deepu Talla, Vizepräsident für Robotik und Edge Computing bei NVIDIA

Die NXP eIQ-Softwareentwicklungsumgebung für maschinelles Lernen ermöglicht die Verwendung von KI-Algorithmen auf dem breiten Portfolio an Mikrocontrollern und Mikroprozessoren von NXP. Es ist vollständig in die Entwicklungsumgebungen MCUXpresso SDK und Yocto Project Linux von NXP integriert, sodass Entwickler problemlos komplette Anwendungen auf Systemebene entwickeln können.

Die eIQ-Entwicklungsumgebung für maschinelles Lernen wird NVIDIA TAO-APIs direkt integrieren und so eine einzige Plattform für Modell-KI-Training, -Optimierung und -Bereitstellung bereitstellen. NVIDIA TAO bietet einen API-gesteuerten Workflow, der eine Sammlung vorab trainierter Modelle und Transferlernen nutzt, um Benutzern die Erstellung benutzerdefinierter KI-Modelle zu ermöglichen. NVIDIA TAO bietet mehrere Optimierungen, wie z. B. Modellbereinigung, die den Inferenzdurchsatz erhöhen.