TrendForce集邦咨詢觀察到始自2018年新興應(yīng)用題材的帶領(lǐng)下,包含自動(dòng)駕駛汽車、AIoT與邊緣運(yùn)算,諸多大型云端業(yè)者開(kāi)始大量投入AI相關(guān)的設(shè)備建設(shè),截至2022年為止,預(yù)估搭載GPGPU(General Purpose GPU)的AI服務(wù)器年出貨量占整體服務(wù)器比重近1%,而2023年預(yù)估在ChatBot相關(guān)應(yīng)用加持下,可望再度刺激AI相關(guān)領(lǐng)域的活絡(luò),預(yù)估出貨量年成長(zhǎng)可達(dá)8%;2022~2026年復(fù)合成長(zhǎng)率將達(dá)10.8%。pPCesmc
pPCesmc
據(jù)TrendForce集邦咨詢統(tǒng)計(jì),2022年AI服務(wù)器采購(gòu)占比以北美四大云端業(yè)者Google、AWS、Meta、Microsoft合計(jì)占66.2%為最,而中國(guó)近年來(lái)隨著國(guó)產(chǎn)化力道加劇,AI建設(shè)浪潮隨之增溫,以ByteDance的采購(gòu)力道最為顯著,年采購(gòu)占比達(dá)6.2%,其次緊接在后的則是Tencent、Alibaba與Baidu,分別約為2.3%、1.5%與1.5%。pPCesmc
pPCesmc
借AI優(yōu)化自家搜尋引擎,AI需求持續(xù)帶動(dòng)HBM存儲(chǔ)器成長(zhǎng)
在看好AI發(fā)展的前景下,Microsoft更是大舉投資OpenAI,除了于今年2月推出自家搜尋引擎Bing的強(qiáng)化版,其中融合ChatGPT技術(shù)以及與OpenAI合作開(kāi)發(fā)大型語(yǔ)言模型「Prometheus」;Baidu亦于2023年2月宣布將推出相關(guān)服務(wù)「文心一言(ERNIE Bot)」,初期將以獨(dú)立軟件呈現(xiàn),后續(xù)也將導(dǎo)入搜尋引擎。 pPCesmc
以運(yùn)算規(guī)格來(lái)看,ChatGPT主要以NVIDIA A100為主,獨(dú)家使用Microsoft Azure云服務(wù)資源。若合并其他Microsoft應(yīng)用而計(jì),全年Microsoft AI服務(wù)器年需求為25,000臺(tái)。Baidu文心一言采用NVIDIA A800,合并其他應(yīng)用,Baidu AI服務(wù)器年需求約為2,000臺(tái)。pPCesmc
TrendForce集邦咨詢分析,以AI運(yùn)算所需要的server GPU而言,其市場(chǎng)以NVIDIA H100、A100、A800以及AMD MI250、MI250X系列為主,而NVIDIA與AMD的Server GPU占比約8:2。pPCesmc
若聚焦于這些GPU規(guī)格,其中因應(yīng)高頻寬運(yùn)算而使用的HBM(High Bandwidth Memory)更受到市場(chǎng)矚目。以位元計(jì)算,HBM占整個(gè)DRAM市場(chǎng)比重約1.5%,供應(yīng)商以三星(Samsung)、SK海力士(SK hynix)與美光(Micron)為主。但以NVIDIA使用的HBM3,SK海力士是目前唯一量產(chǎn)的廠商,因此在該規(guī)格主導(dǎo)市場(chǎng),由于生產(chǎn)技術(shù)門檻高,對(duì)原廠而言屬于高毛利產(chǎn)品。pPCesmc
2020-2021年疫情期間由于擔(dān)心供應(yīng)鏈缺料,超額備料下使得HBM年需求成長(zhǎng)率特別亮眼,而自2023年起需求成長(zhǎng)率在物料調(diào)節(jié)下有所收斂。pPCesmc
TrendForce集邦咨詢預(yù)估,2023~2025年HBM市場(chǎng)年復(fù)合成長(zhǎng)率有望成長(zhǎng)至40~45%以上。整體而言,伴隨全球云端業(yè)者逐年增加AI服務(wù)器的投入,盡管大環(huán)境受高通脹、經(jīng)濟(jì)增長(zhǎng)放緩沖擊,企業(yè)、組織對(duì)于IT支出轉(zhuǎn)趨保守,但在ChatBot與搜尋引擎應(yīng)用的帶動(dòng)下,AI相關(guān)轉(zhuǎn)型布局仍被視為云端業(yè)者投入資本支出的優(yōu)先項(xiàng)目。pPCesmc
責(zé)編:Elaine