Yole cho biết Broadcom vẫn là nhà cung cấp CPO cuối cùng.
Doanh thu do thị trường CPO tạo ra đạt khoảng 38 triệu USD vào năm 2022 và dự kiến sẽ đạt 2.6 tỷ USD vào năm 2033, với tốc độ CAGR 46% trong giai đoạn 2022-2033.
Các dự đoán về kích thước tập dữ liệu đào tạo đang tăng lên nhanh chóng cho thấy rằng dữ liệu sẽ trở thành nút thắt chính trong việc mở rộng quy mô các mô hình ML và do đó, tiến độ AI có thể bị chậm lại.
Sử dụng I/O quang trong phần cứng ML có thể giúp giải quyết các vấn đề liên quan đến sự tăng trưởng dữ liệu bùng nổ.
Để tăng tốc độ di chuyển dữ liệu trong thiết bị AI/ML là động lực chính cho việc áp dụng kết nối quang học cho các hệ thống HPC thế hệ tiếp theo.
Martin Vallo của Yole cho biết: “Các hệ số dạng có thể cắm sẽ bị hạn chế ở khả năng hỗ trợ công suất 6.4T và 12.8T về mật độ điện và quang cần thiết, quản lý nhiệt và hiệu quả năng lượng,” Martin Vallo của Yole cho biết, “do việc triển khai thiết bị điện rời rạc, sự tiêu hao năng lượng và quản lý nhiệt đang trở thành những yếu tố hạn chế đối với hệ thống quang học có thể cắm được trong tương lai. Đồng đóng gói bằng cách sử dụng quang tử silicon công nghệ nền tảng nhằm mục đích vượt qua các thách thức”.
Quang học đang ngày càng đến gần hơn với chipset. Đưa dữ liệu sử dụng ánh sáng đến điểm xử lý tập trung là một trong những mục tiêu chính của các nhà thiết kế kiến trúc.
Xu hướng này bắt đầu từ một thập kỷ trước với các thiết kế độc quyền cho các cụm quang học gắn trên PCB.
Ý tưởng về các EOI (Kết nối quang nhúng) này đã được tiếp tục trong COBO (Hiệp hội quang học trên bo mạch), đã phát triển các thông số kỹ thuật để cho phép sử dụng các mô-đun quang gắn trên bo mạch trong sản xuất thiết bị mạng.
CPO là một phương pháp đổi mới mang hệ thống quang học và bộ chuyển mạch ASIC lại gần nhau hơn. Vì công nghệ ngày nay gặp khó khăn trong việc bao quanh chip chuyển mạch 50T với 16 mô-đun quang 3.2Tbps.
NPO (Quang học gần đóng gói) giải quyết vấn đề này bằng cách sử dụng chất nền PCB hiệu suất cao – bộ chuyển đổi – đặt trên bo mạch chủ, trái ngược với CPO, trong đó các mô-đun bao quanh chip trên nhiều chip mô-đun chất nền.
Bộ chuyển đổi NPO rộng rãi hơn, giúp việc định tuyến tín hiệu giữa chip và mô-đun quang dễ dàng hơn trong khi vẫn đáp ứng yêu cầu về tính toàn vẹn tín hiệu.
Ngược lại, CPO giới hạn các mô-đun và máy chủ ASIC gần nhau hơn nhiều với mức mất kênh và mức tiêu thụ điện năng thấp hơn.
Eric Mounier của Yole cho biết: “Phần cứng mạng đang có nhiều thành phần phổ biến hơn khi tiến bộ công nghệ cho phép tích hợp chặt chẽ hơn các công nghệ truyền thông và điện toán trong các hệ thống thương mại”. Hơn nữa, các mô hình AI đang phát triển về quy mô với tốc độ chưa từng thấy và khả năng của các kiến trúc truyền thống. – các kết nối điện dựa trên đồng – dành cho chip-to-chip hoặc board-to-board sẽ trở thành nút thắt cổ chai chính cho việc mở rộng quy mô học máy”.
Kết quả là, các kết nối quang tầm rất ngắn mới đã xuất hiện cho HPC và kiến trúc phân tách mới của nó. Thiết kế phân tách giúp phân biệt các thành phần điện toán, bộ nhớ và lưu trữ có trên thẻ máy chủ và gộp chúng một cách riêng biệt.
Sử dụng công nghệ I/O quang tiên tiến trong gói để kết nối các xPU, cụ thể là CPU, DPU, GPU, FPGA và ASIC, với bộ nhớ và bộ lưu trữ có thể giúp đạt được tốc độ truyền và băng thông cần thiết.
Xem thêm : Mô-đun IGBT | Màn hình LCD | Linh kiện điện tử