TrendForce集邦咨詢指出,GB200的前一代為GH200,皆為CPU+GPU方案,主要搭載NVIDIA Grace CPU及H200 GPU,但以GH200而言,出貨量估僅占整體NVIDIA高端GPU約5%。目前供應(yīng)鏈對(duì)NVIDIA GB200寄予厚望,預(yù)估2025年出貨量有機(jī)會(huì)突破百萬(wàn)顆,占NVIDIA高端GPU近4~5成。5f5esmc
NVIDIA雖計(jì)劃在今年下半年推出GB200及B100等產(chǎn)品,但上游晶圓封裝方面須進(jìn)一步采用更復(fù)雜高精度需求的CoWoS-L技術(shù),驗(yàn)證測(cè)試過(guò)程將較為耗時(shí)。此外,針對(duì)AI服務(wù)器整機(jī)系統(tǒng),B系列也需耗費(fèi)更多時(shí)間優(yōu)化,如網(wǎng)通、散熱的運(yùn)轉(zhuǎn)效能,預(yù)期GB200及B100等產(chǎn)品要等到今年第四季,至2025年第一季較有機(jī)會(huì)正式放量。5f5esmc
CoWoS方面,由于NVIDIA的B系列包含GB200、B100、B200等將耗費(fèi)更多CoWoS產(chǎn)能,臺(tái)積電(TSMC)亦提升2024全年CoWoS產(chǎn)能需求,預(yù)估至年底每月產(chǎn)能將逼近40k,相較2023年總產(chǎn)能提升逾150%;2025年規(guī)劃總產(chǎn)能有機(jī)會(huì)幾近倍增,其中NVIDIA需求占比將逾半數(shù)。而Amkor、Intel等目前主力技術(shù)尚為CoWoS-S,主攻NVIDIA H系列,短期內(nèi)技術(shù)較難突破,故近期擴(kuò)產(chǎn)計(jì)劃較為保守,除非未來(lái)能夠拿下更多NVIDIA以外的訂單,如云端服務(wù)業(yè)者(CSP)自研ASIC芯片,擴(kuò)產(chǎn)態(tài)度才可能轉(zhuǎn)為積極。5f5esmc
5f5esmc
NVIDIA及AMD AI發(fā)展將加速,HBM3e 于下半年成為市場(chǎng)主流5f5esmc
HBM方面,從NVIDIA及AMD近期主力GPU產(chǎn)品進(jìn)程及搭載HBM規(guī)格規(guī)劃變化來(lái)看,TrendForce集邦咨詢認(rèn)為2024年后將有三大趨勢(shì)。5f5esmc
其一,「HBM3進(jìn)階到HBM3e」,預(yù)期NVIDIA將于今年下半年開(kāi)始擴(kuò)大出貨搭載HBM3e的H200,取代H100成為主流,隨后GB200及B100等亦將采用HBM3e。AMD則規(guī)劃年底前推出MI350新品,期間可能嘗試先推MI32x等過(guò)渡型產(chǎn)品,與H200相抗衡,均采HBM3e。5f5esmc
其二,「HBM搭載容量持續(xù)擴(kuò)增」,為了提升AI服務(wù)器整體運(yùn)算效能及系統(tǒng)頻寬,將由目前市場(chǎng)主要采用的NVIDIA H100(80GB),至2024年底后將提升往192~288GB容量發(fā)展;AMD亦從原MI300A僅搭載128GB,GPU新品搭載HBM容量亦將達(dá)288GB。5f5esmc
其三,「搭載HBM3e的GPU產(chǎn)品線,將從8hi往12hi發(fā)展」,NVIDIA的B100、GB200主要搭載8hi HBM3e,達(dá)192GB,2025年則將推出B200,搭載12hi HBM3e,達(dá)288GB;AMD將于今年底推出的MI350或2025年推出的MI375系列,預(yù)計(jì)均會(huì)搭載12hi HBM3e,達(dá)288G。5f5esmc
責(zé)編:Elaine