NeuReality presenta una novedosa plataforma centrada en la inteligencia artificial
NeuReality, una start-up israelí de IA que está desarrollando plataformas informáticas de IA de alto rendimiento para centros de datos en la nube y nodos de borde, ha presentado NR1-P, una nueva plataforma de inferencia centrada en IA.
NeuReality ha dicho que está buscando redefinir la arquitectura de sistema de IA obsoleta de hoy mediante el desarrollo de una plataforma de inferencia centrada en IA basada en un nuevo tipo de System-on-Chip (SoC).
NR1-P es la primera implementación de NeuReality de esta nueva arquitectura centrada en IA, a la que seguirán otras implementaciones. Este prototipo de plataforma valida la la tecnología y permite a los clientes integrarlo en centros de datos orquestados y otras instalaciones
La compañía dijo que estaba muy concentrada en su NR1 SoC de seguimiento, que aprovechará su arquitectura de fusión única para brindar una mejora 15 veces mayor en el rendimiento por dólar en comparación con las GPU y ASIC disponibles que ofrecen los proveedores de aceleradores de aprendizaje profundo.
La plataforma prototipo tiene como objetivo acelerar el crecimiento de las aplicaciones de inteligencia artificial de la vida real, como la seguridad pública, el comercio electrónico, las redes sociales, los casos de uso médico, los asistentes digitales, los sistemas de recomendación y el procesamiento del lenguaje natural (NLP).
La solución NR1-P apunta a centros de datos empresariales y en la nube, junto con operadores, operadores de telecomunicaciones y otras soluciones informáticas cercanas al borde, y NeuReality dijo que espera que estos clientes empresariales alcancen las barreras de escalabilidad y costos poco después de completar su cambio de proyectos piloto a la implementación de producción de su inteligencia artificial. casos de uso.
El NR1-P de NeuReality está construido en un chasis de servidor 4U equipado con dieciséis tarjetas Xilinx Versal Adaptive Compute Acceleration Platform (ACAP), plataformas de cómputo altamente integradas y totalmente programables por software que pueden adaptarse a algoritmos diversos y en evolución y van mucho más allá de los FPGA tradicionales. El NR1-P SoC aprovecha estas capacidades para implementar el motor de cómputo centrado en AI mientras fusiona funciones únicas del sistema con funciones de ruta de datos y la función de procesamiento de red neuronal. Todos estos se combinan para optimizar los flujos críticos de inferencia de IA y, al mismo tiempo, eliminar los cuellos de botella del sistema.
Según Moshe Tanach, fundador y director ejecutivo de NeuReality, “los propietarios de centros de datos y los clientes de inteligencia artificial como servicio ya están sufriendo el costo operativo de su uso a gran escala de la infraestructura de computación y almacenamiento. Este problema se agravará aún más cuando sus funciones basadas en IA se implementen en producción y se utilicen ampliamente. Para estos clientes, nuestra tecnología será la única forma de escalar su uso del aprendizaje profundo y, al mismo tiempo, mantener un costo razonable.
“Nuestra misión era redefinir la arquitectura del sistema obsoleta mediante el desarrollo de plataformas centradas en IA basadas en un nuevo tipo de System-on-Chip. Nuestras plataformas brindan soluciones informáticas ideales para estos nuevos tipos de casos de uso de IA. Con NR1-P, los clientes finalmente pueden experimentar este nuevo tipo de solución, aprovecharlo en sus soluciones y prepararse para integrar nuestro próximo producto NR1 una vez que esté en producción ”.
Según las propias pruebas de referencia de NeuReality, la plataforma prototipo NR1-P ofrece una mejora de más del doble en el costo total de propiedad (TCO) en comparación con las plataformas centradas en CPU de NVIDIA que ejecutan un servicio de aprendizaje profundo desagregado. El logro actual también allana el camino hacia mejoras dramáticas adicionales que se integrarán en NR2, el producto estrella de NeuReality.
“Nuestra tecnología proporciona una gran reducción tanto en CAPEX como en OPEX para los propietarios de infraestructura. Los clientes que utilizan casos de uso de procesamiento de imágenes a gran escala, como la detección de objetos o el reconocimiento facial, ya pueden obtener un 50% de ahorro en el costo de la tecnología o el doble de capacidad por el mismo precio cuando usan NR1-P ”, agregó Tanach.
NeuReality surgió del sigilo en febrero de 2021, con una inversión inicial de $ 8 millones de Cardumen Capital, OurCrowd y Varana Capital, y el nombramiento del Dr. Naveen Rao, exdirector general del grupo de productos de inteligencia artificial de Intel, para la junta directiva de NeuReality.