HBM之后,SSD有望成為AI時代下存儲市場發(fā)展新動能。cMoesmc
SSD:AI時代擔當重任cMoesmc
AI大模型催生海量存儲需求,SSD與HDD皆有望從中受益。其中,基于速度、低延遲、耐用性和節(jié)能等優(yōu)勢,業(yè)界普遍看好SSD在AI時代下的發(fā)展。cMoesmc
無論是AI訓(xùn)練還是推理環(huán)節(jié),SSD皆有機會擔當重任。cMoesmc
全球市場研究機構(gòu)TrendForce集邦咨詢最新調(diào)查顯示,在AI模型訓(xùn)練過程中,SSD不僅負責(zé)儲存模型參數(shù),包含不斷更新的權(quán)重和偏差,而且可以創(chuàng)建檢查點(check point),以定期保存AI模型訓(xùn)練進度,即使訓(xùn)練中斷也能從特定點恢復(fù)。上述功能都相當依賴高速傳輸以及寫入耐用度,因此客戶主要選擇使用4TB/8TB TLC(三層單元閃存) SSD產(chǎn)品,以滿足嚴苛的訓(xùn)練過程需求。cMoesmc
AI推理環(huán)節(jié)中,SSD可在推理過程中協(xié)助調(diào)整、優(yōu)化AI模型,尤其SSD可以實時更新數(shù)據(jù),以便微調(diào)推理模型結(jié)果。AI推理主要提供檢索增強生成(RAG, Retrieval-Augmented Generation)和大型語言模型(LLM, Large Language Model)服務(wù),而SSD可以儲存RAG和LLM參考的相關(guān)文檔和知識庫,以生成含有更豐富信息的響應(yīng)。cMoesmc
隨著更多生成信息是以影片或相片顯示,其數(shù)據(jù)存儲量也相應(yīng)增加,因此,TLC/QLC(四層單元閃存) 16TB以上等大容量SSD便成為AI推理主要采用的產(chǎn)品。cMoesmc
TrendForce集邦咨詢預(yù)估,今年AI相關(guān)SSD采購容量將超過45EB,未來幾年,AI服務(wù)器有望推動SSD需求年增率平均超過60%,而AI SSD需求在整個NAND Flash(閃存)的占比有機會自2024年的5%,上升至2025年的9%。cMoesmc
cMoesmc
AI促進SSD創(chuàng)新與發(fā)展cMoesmc
AI帶來海量存儲需求的同時,也對存儲產(chǎn)品提出了新要求,高性能、大容量成為“剛需”,促進SSD產(chǎn)品持續(xù)迭代升級,創(chuàng)新發(fā)展。cMoesmc
SSD一般由硬件組件與固件兩大部分組成,硬件組件包括主控芯片、存儲芯片(DRAM、NAND Flash)。其中主控芯片承擔數(shù)據(jù)的讀取、寫入。由于AI應(yīng)用對數(shù)據(jù)處理速度、準確性、能效比以及安全性的高要求,相比傳統(tǒng)SSD,AI SSD對主控芯片的要求更為嚴格與復(fù)雜。cMoesmc
以高性能為例,AI SSD主控芯片應(yīng)具備極高的連續(xù)讀寫速度和隨機訪問性能。當前AI SSD以支持PCIe 5.0為主流,未來將支持更高版本的接口,以及高帶寬的NAND閃存通道,以實現(xiàn)高達數(shù)十GB/s的讀寫速度。cMoesmc
存儲芯片中,NAND Flash即閃存顆粒,是數(shù)據(jù)存儲的核心介質(zhì),也是數(shù)據(jù)存儲的載體。當前SSD使用的閃存顆粒包括TLC(三層單元)、QLC(四層單元)等,業(yè)界看好QLC SSD發(fā)展,除了因為其具有更高容量和更快的讀取速度優(yōu)勢外,還因為它具有更優(yōu)的TCO總體擁有成本優(yōu)勢:憑借更高的存儲密度,優(yōu)化服務(wù)器和物理占用空間,并降低能源消耗等優(yōu)勢,在滿足高性能存儲需求的基礎(chǔ)上,QLC SSD可以幫助大規(guī)模數(shù)據(jù)中心降低TCO總擁有成本。cMoesmc
存儲廠商卷技術(shù),多款創(chuàng)新產(chǎn)品亮相cMoesmc
今年以來,為持續(xù)滿足AI市場需求,多家大廠推出相關(guān)QLC SSD、PCIe 5.0/6.0等創(chuàng)新產(chǎn)品,AI SSD市場力量進一步壯大。cMoesmc
三星與西部數(shù)據(jù)兩家公司近期展示了高容量QLC企業(yè)級固態(tài)硬盤,容量高達128TB級別。cMoesmc
三星BM1743與上一代產(chǎn)品相比,在I/O性能方面提高了4.1倍,數(shù)據(jù)保留率提高了,連續(xù)寫入的能效也提高了45%。連續(xù)讀取速度為7.5GBps、寫入速度為3GBps、隨機讀取IOPS達到160萬、16KB隨機寫入IOPS達到4.5萬。西部數(shù)據(jù)QLC企業(yè)級SSD基于BiCS 8 閃存打造,容量依賴于QLC技術(shù),特別適用于處理“快速AI數(shù)據(jù)湖和容量密集型性能應(yīng)用”。cMoesmc
美光近日宣布成功開發(fā)業(yè)界首款用于生態(tài)支持的PCIe 6.0數(shù)據(jù)中心固態(tài)硬盤,屬于其9550 NVMe SSD系列。顆粒和主控未知,順序讀取速率達26GB/s,與美光9550系列PCIe 5.0數(shù)據(jù)中心固態(tài)硬盤(14GB/s)相比,提升了85.7%。cMoesmc
今年6月,SK海力士宣布開發(fā)完成支持PCIe5.0 x8接口的“PCB01”固態(tài)硬盤,將于今年內(nèi)開始量產(chǎn)并向市場推出。該款產(chǎn)品面向AI PC,與上一代產(chǎn)品相比,PCB01的功耗效率提升了30%以上,可大幅提升大規(guī)模AI計算的穩(wěn)定性。同時,SK海力士在該產(chǎn)品上應(yīng)用了SLC緩存(SLC Caching)技術(shù)。該技術(shù)使部分NAND閃存存儲單元能夠以高速的SLC模式運行,其不僅有助于提升AI應(yīng)用的速度,還能提高普通PC的工作速度。cMoesmc
Microchip、慧榮科技等公司則對外展示了PCIe 5.0 SSD主控芯片。cMoesmc
Microchip Flashtec NVMe 5016配備16條獨立閃存通道,兼容從SLC到QLC的各種NAND閃存,支持至高3200MT/s閃存接口速率,外置緩存方面則支持到4 Ranks的DDR5-5200。該主控可實現(xiàn)14GB/s的順序讀取速率,隨機讀取也高達3500K IOPS,同時僅需1W功率即可支持超過2.5GB/s的傳輸速率,能以更低能耗提供更高帶寬。cMoesmc
慧榮科技SM2508采用臺積電6納米EUV工藝,專為AI PC和游戲主機設(shè)計,支持八條NAND通道,每通道速率高達3600MT/s,提供高達14.5 GB/s的順序讀寫速度和2.5M IOPS的隨機性能。據(jù)悉相較于PCIe Gen 4產(chǎn)品,其性能提升達2倍,同時功耗控制在7W以內(nèi),預(yù)計將于今年第四季度開始量產(chǎn)。cMoesmc
責(zé)編:Elaine