De enorme groei die de datacenter-GPU- en AI ASIC-markt in 2023 doormaakte, zal zich naar verwachting in 2024 voortzetten voordat deze zich in 2025 stabiliseert.
De opkomst van generatieve AI sinds eind 2022 heeft de vraag naar snelle geheugentechnologieën doen toenemen, waaronder DDR5 DRAM, GDDR6 DRAM, enz., evenals HBM.
Dankzij het sterke momentum in GPU's en ASIC's voor AI-computing bloeit de HBM-markt. De verwachting is dat de bitleveringen de komende vijf jaar krachtig zullen blijven groeien, met een CAGR van 48% tussen 2023 en 2029.
De explosie van generatieve AI heeft ook gevolgen voor het verpakkingsmarktsegment: volgens Yole zal dit groeien tot 333 miljoen dollar in 2029.
De leveringen van datacenterprocessors voor AI-versnelling groeiden sterk in 2023, en deze trend zal zich naar verwachting in 2024 en 2025 voortzetten. Yole verwacht dat de GPU-markt voor datacenters in 162 zal groeien tot 2029 miljard dollar, wat neerkomt op een CAGR van bijna 26% tussen 2023 en 2029.
Van deze datacenter-GPU's zal naar verwachting het vlaggenschipsegment met GPU's zoals Nvidia H100, B100 en AMD MI300, die voornamelijk worden gebruikt voor generatieve AI-training en gevolgtrekkingen, groeien.
AI ASIC's groeien ook sterk naar een markt van $71 miljard in 2029, wat neerkomt op een CAGR van 35%.
“De beslissing om het effect van AI diepgaand te onderzoeken werd ingegeven door de ongekende investeringen van grote hyperscalers in GPU en AI ASIC, die onze aanvankelijke prognoses ruimschoots overtroffen”, zegt Emilie Jolivet van Yole. “Deze stijging van de investeringen werd weerspiegeld in de opmerkelijke inkomsten groei, met cijfers voor 2023 die meer dan het dubbele zijn van die van 2022. Bij Yole Group verwachten we een vergelijkbaar groeipercentage voor 2024, wat wijst op een potentieel aanhoudende trend die de sector waarschijnlijk zal blijven hervormen.”
De impact van deze trend reikt verder dan de financiële aspecten en heeft een aanzienlijke invloed op de halfgeleider bevoorradingsketen. De toegenomen vraag naar geavanceerde chipsets die zijn geoptimaliseerd voor AI-workloads heeft gevolgen voor de bestaande toeleveringsketen, wat tot potentiële knelpunten en tekorten leidt.
Bovendien leidt de verschuiving naar AI-specifieke hardware tot een behoefte aan nieuwe productieprocessen en technologieën, waardoor de industrie nog verder wordt uitgedaagd.
Nvidia is koploper in de generatieve AI-markt, aangedreven door zijn vlaggenschip-GPU's en ervaart een substantiële groei in zijn datacenter-businesslijn.
Ondertussen wint AMD's MI300 terrein. Grote spelers als Google, Amazon en het Chinese BATX gaan vooruit met de ontwikkeling van AI ASIC's die zijn afgestemd op aangepaste chips voor intern gebruik en clouddiensten. Hun doel is om de afhankelijkheid van datacenter-GPU's van fabelloze bedrijven te verminderen, de kosten te verlagen en processors te benutten die speciaal voor hun vereisten zijn ontworpen.
Deze opkomst van AI ASIC’s zorgt voor aanzienlijke concurrentie voor Nvidia. Intel's Gaudi en verschillende startups met uiteenlopende benaderingen betreden ook de markt.
“Samsung, SK hynix en Micron breiden hun wafercapaciteit voor HBM-productie uit om te profiteren van de kansen op de AI-markt”, zegt Adrien Sanchez van Yole, “terwijl SK hynix momenteel de HBM-markt leidt, wordt de concurrentie steeds heviger door de betrokkenheid van Samsung.”
Op het gebied van geavanceerde verpakkingen: Intel, Samsung en TSMC lopen voorop als het gaat om innovatie in de hoogwaardige verpakkingsmarkt.
Ondanks de uitdagingen waarmee IC-substraatfabrikanten te maken krijgen, komt het optimisme voort uit recente investeringen, capaciteitsuitbreidingen en vooruitgang op het gebied van glasvezelsubstraattechnologieën.