NeuReality onthult een nieuw AI-gericht platform
NeuReality, een Israëlische AI-start-up die hoogwaardige AI-rekenplatforms ontwikkelt voor clouddatacenters en edge-knooppunten, heeft NR1-P onthuld, een nieuw AI-gericht inferentieplatform.
NeuReality heeft gezegd dat het de huidige verouderde AI-systeemarchitectuur wil herdefiniëren door een AI-centrisch inferentieplatform te ontwikkelen op basis van een nieuw type System-on-Chip (SoC).
NR1-P is NeuReality's eerste implementatie van deze nieuwe AI-centrische architectuur, en andere implementaties zullen volgen. Dit prototypeplatform valideert de technologie en stelt klanten in staat het te integreren in georkestreerde datacenters en andere faciliteiten
Het bedrijf zei dat het sterk gefocust was op zijn opvolger NR1 SoC, die zijn unieke fusiearchitectuur zal gebruiken om de prestaties per dollar 15x te verbeteren in vergelijking met de beschikbare GPU's en ASIC's die worden aangeboden door leveranciers van deep learning-accelerators.
Het prototypeplatform is bedoeld om de groei van real-life AI-toepassingen zoals openbare veiligheid, e-commerce, sociale netwerken, medische use-cases, digitale assistenten, aanbevelingssystemen en natuurlijke taalverwerking (NLP) te versnellen.
De NR1-P-oplossing richt zich op cloud- en enterprise-datacenters, naast carriers, telecomoperators en andere near-edge computing-oplossingen en NeuReality zei dat het verwacht dat deze zakelijke klanten schaalbaarheid en kostenbarrières zullen treffen snel na het voltooien van hun verschuiving van pilots naar productie-implementatie van hun AI. use cases.
De NR1-P van NeuReality is gebouwd in een 4U-serverchassis uitgerust met zestien Xilinx Versal Adaptive Compute Acceleration Platform (ACAP) -kaarten, sterk geïntegreerde en volledig softwareprogrammeerbare rekenplatforms die zich kunnen aanpassen aan evoluerende en diverse algoritmen en veel verder gaan dan traditionele FPGA's. De NR1-P SoC maakt gebruik van deze mogelijkheden om de AI-centrische compute-engine te implementeren, terwijl unieke systeemfuncties worden gecombineerd met datapadfuncties en de neurale netwerkverwerkingsfunctie. Al deze komen samen om kritieke AI-inferentiestromen te optimaliseren en systeemknelpunten weg te nemen.
Volgens Moshe Tanach, oprichter en CEO van NeuReality, “hebben datacenter-eigenaren en AI as-a-service-klanten al te lijden onder de operationele kosten van hun ultra-schaal gebruik van computer- en opslaginfrastructuur. Dit probleem zal nog erger worden wanneer hun op AI gebaseerde functies in de productie worden geïmplementeerd en op grote schaal worden gebruikt. Voor deze klanten is onze technologie de enige manier om hun gebruik van deep learning op te schalen tegen redelijke kosten.
“Onze missie was om de verouderde systeemarchitectuur opnieuw te definiëren door AI-centrische platforms te ontwikkelen op basis van een nieuw type System-on-Chip. Onze platforms bieden ideale rekenoplossingen voor deze nieuwe soorten AI-gebruiksscenario's. Met NR1-P kunnen klanten eindelijk dit nieuwe type oplossing ervaren, het gebruiken in hun oplossingen en zich voorbereiden om ons aanstaande NR1-product te integreren zodra het in productie is ”.
Volgens NeuReality's eigen benchmarktests levert het NR1-P-prototypeplatform meer dan 2x een verbetering op van de totale eigendomskosten (TCO) in vergelijking met NVIDIA's CPU-centrische platforms met een gedesaggregeerde deep learning-service. De huidige prestatie maakt ook de weg vrij voor aanvullende dramatische verbeteringen die zullen worden geïntegreerd in NR1, het vlaggenschipproduct van NeuReality.
“Onze technologie zorgt voor een enorme vermindering van zowel CAPEX als OPEX voor eigenaren van infrastructuur. Klanten die gebruik maken van grootschalige gebruiksscenario's van beeldverwerking, zoals objectdetectie of gezichtsherkenning, kunnen al 50% besparen op de kosten van de technologie of tweemaal de capaciteit voor dezelfde prijs bij gebruik van NR1-P, ”voegt Tanach toe.
NeuReality kwam in februari 2021 uit stealth tevoorschijn, met $ 8 miljoen aan seed-investeringen van Cardumen Capital, OurCrowd en Varana Capital, en de benoeming van AI-uitblinker Dr. Naveen Rao, voormalig General Manager van Intel's AI Products Group, in de raad van bestuur van NeuReality.