NeuReality ra mắt nền tảng mới lấy AI làm trung tâm
NeuReality, một công ty khởi nghiệp về AI của Israel đang phát triển các nền tảng tính toán AI hiệu suất cao cho các trung tâm dữ liệu đám mây và các nút biên, đã tiết lộ NR1-P, một nền tảng suy luận mới lấy AI làm trung tâm.
NeuReality đã nói rằng họ đang tìm cách xác định lại kiến trúc hệ thống AI lỗi thời hiện nay bằng cách phát triển một nền tảng suy luận lấy AI làm trung tâm dựa trên một loại Hệ thống trên chip (SoC) mới.
NR1-P là triển khai đầu tiên của NeuReality cho kiến trúc lấy AI làm trung tâm mới này, cùng với các triển khai khác sau đó. Nền tảng nguyên mẫu này xác nhận công nghệ và cho phép khách hàng tích hợp nó vào các trung tâm dữ liệu được điều phối và các cơ sở khác
Công ty cho biết họ tập trung cao độ vào NR1 SoC tiếp theo của mình, sẽ tận dụng kiến trúc hợp nhất độc đáo của mình để mang lại hiệu suất trên mỗi đô la cải thiện gấp 15 lần so với các GPU và ASIC có sẵn do các nhà cung cấp máy gia tốc học sâu cung cấp.
Nền tảng nguyên mẫu nhằm mục đích đẩy nhanh sự phát triển của các ứng dụng AI trong cuộc sống thực như an toàn công cộng, thương mại điện tử, mạng xã hội, ca sử dụng y tế, trợ lý kỹ thuật số, hệ thống khuyến nghị và Xử lý ngôn ngữ tự nhiên (NLP).
Giải pháp NR1-P nhắm mục tiêu đến các trung tâm dữ liệu doanh nghiệp và đám mây, cùng với các nhà cung cấp dịch vụ, nhà khai thác viễn thông và các giải pháp tính toán gần kề khác và NeuReality cho biết họ hy vọng những khách hàng doanh nghiệp này sẽ sớm đạt được các rào cản về khả năng mở rộng và chi phí sau khi hoàn thành việc chuyển đổi từ thí điểm sang triển khai sản xuất AI của họ trường hợp sử dụng.
NR1-P của NeuReality được xây dựng trong khung máy chủ 4U được trang bị mười sáu thẻ Xilinx Versal Adaptive Compute Acceleration Platform (ACAP), các nền tảng máy tính có thể lập trình phần mềm được tích hợp cao và hoàn toàn có thể thích ứng với các thuật toán đa dạng và phát triển cũng như vượt xa các FPGA truyền thống. NR1-P SoC tận dụng những khả năng này để triển khai công cụ tính toán lấy AI làm trung tâm trong khi kết hợp các chức năng hệ thống duy nhất với các chức năng đường dữ liệu và chức năng xử lý mạng thần kinh. Tất cả những điều này kết hợp với nhau để tối ưu hóa các luồng suy luận quan trọng của AI đồng thời loại bỏ các nút thắt của hệ thống.
Theo Moshe Tanach, Người sáng lập và Giám đốc điều hành của NeuReality, “Các chủ sở hữu trung tâm dữ liệu và khách hàng sử dụng dịch vụ AI đã phải chịu chi phí vận hành của việc sử dụng cơ sở hạ tầng máy tính và lưu trữ quy mô cực lớn. Vấn đề này sẽ trở nên trầm trọng hơn khi các tính năng dựa trên AI của họ sẽ được triển khai trong sản xuất và sử dụng rộng rãi. Đối với những khách hàng này, công nghệ của chúng tôi sẽ là cách duy nhất để mở rộng quy mô sử dụng học sâu của họ trong khi vẫn giữ chi phí hợp lý.
“Nhiệm vụ của chúng tôi là xác định lại kiến trúc hệ thống đã lỗi thời bằng cách phát triển các nền tảng lấy AI làm trung tâm dựa trên một loại Hệ thống trên chip mới. Nền tảng của chúng tôi cung cấp các giải pháp máy tính lý tưởng cho các loại trường hợp sử dụng AI mới này. Với NR1-P, khách hàng cuối cùng có thể trải nghiệm loại giải pháp mới này, tận dụng nó trong các giải pháp của họ và chuẩn bị tích hợp sản phẩm NR1 sắp tới của chúng tôi khi nó được đưa vào sản xuất ”.
Theo thử nghiệm điểm chuẩn của chính NeuReality, nền tảng nguyên mẫu NR1-P mang lại sự cải thiện hơn 2 lần về Tổng chi phí sở hữu (TCO) so với các nền tảng lấy CPU làm trung tâm của NVIDIA chạy dịch vụ học sâu tách biệt. Thành tựu hiện tại cũng mở đường cho những cải tiến mạnh mẽ bổ sung sẽ được tích hợp vào NR1, sản phẩm chủ lực của NeuReality.
“Công nghệ của chúng tôi giúp giảm đáng kể cả CAPEX và OPEX cho các chủ sở hữu cơ sở hạ tầng. Khách hàng sử dụng các trường hợp xử lý hình ảnh quy mô lớn như phát hiện đối tượng hoặc nhận dạng khuôn mặt đã có thể tiết kiệm 50% chi phí công nghệ hoặc gấp đôi dung lượng với cùng một mức giá khi sử dụng NR1-P, ”Tanach nói thêm.
NeuReality nổi lên từ sự tàng hình vào tháng 2021 năm 8, với khoản đầu tư XNUMX triệu đô la Mỹ từ Cardumen Capital, OurCrowd và Varana Capital, đồng thời bổ nhiệm Tiến sĩ Naveen Rao, cựu Tổng giám đốc Nhóm Sản phẩm AI của Intel, vào Hội đồng quản trị của NeuReality.