Chiplet은 다양한 공정 노드와 재료의 이기종 통합을 통해 성능을 극대화합니다. UCIe는 높은 대역폭, 낮은 대기 시간, 전력 효율성 및 비용 효율적인 칩렛 간 연결을 위한 새로운 다이-다이 상호 연결 표준입니다. UCIe는 또한 광 링크와 호환되는 인터페이스를 포함하는 최초의 사양이기도 합니다.
인공 지능(AI) 및 기계 학습(ML)과 같은 고성능 컴퓨팅(HPC) 애플리케이션을 지원하는 데 필요한 대규모 컴퓨팅 시스템을 구축하는 것이 점점 더 어려워지고 있습니다. 기존 아키텍처에서는 컴퓨팅 및 메모리 리소스의 밀도가 증가하여 대역폭 병목 현상과 상호 연결 문제가 발생합니다. 하드웨어 밀도가 높으면 전력 및 냉각 문제도 발생합니다.
분리 및 광 상호 연결
광 상호 연결은 구리에 비해 훨씬 더 높은 대역폭을 지원할 수 있습니다. 이를 통해 컴퓨팅 및 메모리 리소스를 분리 및 분산할 수 있어 유연하고 동적인 리소스 할당과 향상된 전력 및 열 성능을 지원할 수 있습니다.
그러나 그것은 단기적인 해결책일 뿐이다. 대역폭 병목 현상은 데이터 센터 및 랙 수준에서 개별 칩렛으로 마이그레이션될 것으로 예상됩니다. 오늘날 더 넓은 시스템과의 칩렛 연결을 지원하려면 광학 상호 연결이 필요합니다. 다음으로, 구리 상호 연결은 칩렛 내부에 충분하지 않으며 광학 솔루션으로 교체해야 합니다.
Chiplet은 설계자에게 다양한 이기종 코어와 3D 스택 메모리를 지원하여 더 높은 성능에 대한 요구를 처리할 수 있는 새로운 도구를 제공합니다(그림 1). 훌륭하지만 고대역폭, 낮은 대기 시간, 전력 효율성 및 비용 효율적인 상호 연결에 대한 수요도 높아집니다.
컴퓨팅 익스프레스 링크
UCIe는 상위 계층 CXL(Compute Express Link) 프로토콜을 보완합니다. CXL은 PCIe 물리적 계층에서 실행되고 랙 및 데이터 센터 연결을 지원하도록 설계되었습니다. UCIe 물리 계층과 함께 작동하도록 확장되었습니다. 이는 광 상호 연결을 지원하기 위해 UCIe 리머를 사용하여 랙 수준 이상에서 오프칩 연결을 지원하기 위한 것입니다. CXL과 UCIe 광 인터커넥트의 결합은 활성 광 케이블 및 이더넷을 사용하여 달성할 수 있는 것보다 더 낮은 전력, 더 낮은 대기 시간 및 더 높은 대역폭을 지원할 것으로 예상됩니다.
UCIe 및 CXL 그룹은 광학 관련 I/O 사양을 확장하기 위해 노력하고 있습니다. 예를 들어, UCIe는 PCIe/CXL I/O 칩을 사용하는 블레이드 서버 내 데이터 센터 또는 UCIe를 통합하는 광학 칩을 사용하는 랙 간 리소스 풀링 또는 집계를 지원합니다.
어떤 경우에는 UCIe와 호환되는 맞춤형 인터페이스 버스를 사용하는 광 I/O 칩렛이 개발되었으며 칩렛에서 차세대 HPC 컴퓨팅 아키텍처를 지원하도록 설계되었습니다. 이 솔루션에는 패키지 내 광학 I/O(OIO) 칩렛과 UCIe 호환 플랫폼에 적합한 레이저 광원이 포함되어 있습니다. 각 OIO 칩렛은 2개의 PCIe Gen64 레인에 해당하는 최대 5Tbps의 대역폭을 지원합니다.
칩렛용 광학 상호 연결의 또 다른 예에서는 마이크로 LED 어레이가 실리콘 감지기를 묶는 CMOS 인터페이스 IC에 3D로 적층되었습니다. 이 새로운 광 상호 연결 아키텍처는 1pJ/비트 미만, 최대 10m 도달 범위의 저전력 링크를 가능하게 합니다. 상호 연결의 병렬 아키텍처는 CPU, GPU, 대형 ASIC과 같은 장치의 광범위한 내부 버스 아키텍처와 일치하도록 설계되어 전력 소모가 큰 SerDes(직렬화-역직렬화) 인터페이스가 필요하지 않습니다. GPU와 고대역폭 메모리(HBM) 같은 장치를 분리할 수 있어 HPC 시스템의 열 성능이 향상됩니다(그림 2).
요약
UCIe는 칩렛 통합 요구 사항을 충족하기 위해 개발되었습니다. 여기에는 칩렛 내부의 구리 및 광학 상호 연결에 적합한 인터페이스가 포함되어 있습니다. CXL 프로토콜과 결합하면 데이터 센터의 랙과 같은 외부 시스템으로 광 연결을 확장할 수 있습니다. UCIe를 기반으로 한 초기 OIO 플랫폼은 고급 설계를 위해 등장하기 시작했습니다.
참고자료
메모리 대역폭으로 제한되는 AI 및 LLM, Avicena
새로운 UCIe 표준을 사용한 광 상호 연결 활성화, Ayer Labs
광 상호 연결이 데이터 센터 분리를 활성화하는 방법, Synopsys
AI의 완전한 잠재력을 발휘하기 위해 광학 칩 간 연결을 활용하는 Edge AI + Vision Alliance
멀티다이 SoC, UCIe·시놉시스 출시로 더욱 강세
두 스타트업이 파이버를 프로세서인 IEEE Spectrum에 도입하고 있습니다.