在CFMS2024閃存峰會上，慧榮科技CAS業(yè)務(wù)群資深副總段喜亭(Nelson Duann)以“存儲一直就存在于AI生態(tài)圈，AI缺少了存儲無法動起來，因?yàn)樗袛?shù)據(jù)都保存在存儲里”一席話，打破了許多人的固有觀念。9Cmesmc

他還在媒體采訪環(huán)節(jié)，針對此前的并購事件做了澄清，“當(dāng)初是MaxLinear主動找的我們，我們從一開始就沒有想要賣掉公司……”同時，他還分享了車規(guī)存儲主控和AI存儲解決方案，且針對存儲接下來的漲勢給出了新的預(yù)判。9Cmesmc

9Cmesmc

慧榮科技CAS業(yè)務(wù)群資深副總段喜亭9Cmesmc

AI落地邊緣端帶來存儲新挑戰(zhàn)

從去年下半年到今年Q1，半導(dǎo)體領(lǐng)域最火的幾個行業(yè)，一個是人工智能(AI)行業(yè)，另一個是存儲行業(yè)。AI像是行業(yè)萬金油，誰想要探尋新的發(fā)展思路，就讓AI來“賦能”一下。雖然自去年生成式AI爆火以來，就出現(xiàn)了“大模型訓(xùn)練引爆存儲需求”的說法，但是存儲與AI的關(guān)系并非靠著“硬蹭”得來。9Cmesmc

現(xiàn)在，大家談?wù)摰腁I應(yīng)用主要還是集中在云端，要想讓AI能夠在具有更大商機(jī)的邊緣端落地，最重要的是要降低它的部署成本。以已經(jīng)實(shí)現(xiàn)商用的ChatGPT為例，它在OpenAI GPT 3.0基礎(chǔ)上優(yōu)化而來，GPT 3.0有1,746億個參數(shù)，可用于文本生成、對話系統(tǒng)等。9Cmesmc

據(jù)國盛證券估算，GPT-3的單次訓(xùn)練成本約為140萬美元，體量更大的大語言模型(LLM)的單次訓(xùn)練成本，約在200萬美元至1,200萬美元之間。假設(shè)ChatGPT的每日獨(dú)立訪客平均數(shù)為1,300萬人，其對應(yīng)芯片需求為3萬多片英偉達(dá)A100 GPU，初始投入成本約為8億美元，每日電費(fèi)在5萬美元左右。9Cmesmc

邊緣測的智能手機(jī)、個人PC等廠商，幾乎不會考慮這樣大規(guī)模的成本投入。不過，既然大家對“AI+行業(yè)”有需求，那么市場上就會出現(xiàn)各種解決方案。為了能讓AI下沉到邊緣端，當(dāng)前業(yè)內(nèi)的共識是“語言模型朝著輕薄化的方向發(fā)展”。具體的做法是，在通用模型基礎(chǔ)上輕量化模型，從而訓(xùn)練出適合不同行業(yè)的專用模型，這些專用模型需要的參數(shù)量將大大縮減，就此可解決AI在邊緣測落地的成本限制問題。9Cmesmc

雖然邊緣測LLM會經(jīng)過輕薄化的處理，但是它對設(shè)備仍提出了較高的要求。段喜亭指出：“AI向邊緣端的落地也給存儲帶來了變革，要從被動式存儲進(jìn)階到主動式存儲，為了更好地適用AI設(shè)備的需求，需考慮如何迅速、有效地把DRAM、HBM內(nèi)置于GPU、TPU。”9Cmesmc

未來，AI推理會從云端逐漸轉(zhuǎn)移到邊緣端，這樣可以降低云端傳數(shù)據(jù)輸?shù)膲毫?。把推理移動到邊緣端之后，它能進(jìn)一步縮短延遲、加強(qiáng)個人隱私。但把AI帶到邊緣也面臨著成本挑戰(zhàn)，它不僅要求存儲傳輸速率高，還要求容量更大，無論是傳輸速率更高的HBM還是DRAM，它們成本都遠(yuǎn)超Nand Flash，這是AI給邊緣計(jì)算帶來的巨大成本壓力。9Cmesmc

在段喜亭看來，該問題的解決方法依舊有兩點(diǎn)：第一點(diǎn)是LLM必需微型化、輕量化；第二點(diǎn)是借助SSD低價格、低成本優(yōu)勢，讓整體存儲成本下降。“這樣才能把AI普及到所有終端，而不只是局限在高端手機(jī)和汽車中。”9Cmesmc

中、低端智能手機(jī)是一個龐大的長尾市場，中/低端手機(jī)主要采用UFS3.1和UFS2.2存儲，要把AI落地到中低端智能手機(jī)中，必需要進(jìn)一步精簡化語言模型。目前，業(yè)內(nèi)商用的智能手機(jī)端AI模型，參數(shù)量在幾十億至數(shù)百億之間，需要UFS4.0來支持?jǐn)?shù)據(jù)傳輸需求。對消費(fèi)電子產(chǎn)品而言，成本永遠(yuǎn)是第一位，語言模型還需再精簡，以便能落地在中低端機(jī)型中。9Cmesmc

AI對存儲主控也提出新要求

前面有提到AI對存儲的容量和性能提出新要求，而存儲主控芯片作為存儲產(chǎn)品的一部分，它也會隨著AI對存儲要求的提升而提升。首先是速度，AI設(shè)備需要經(jīng)常處理數(shù)據(jù)，它內(nèi)部的SSD需滿足向CPU和GPU快速傳輸大量數(shù)據(jù)的要求，其存儲主控也要支持SSD的高速度、低延遲要求，只有這樣設(shè)備的數(shù)據(jù)處理才能更流暢。作為存儲主控廠商，慧榮怎么助力AI落地？9Cmesmc

9Cmesmc

“數(shù)據(jù)中心應(yīng)用為例，如果一個SSD的速度夠快，就無需把太多數(shù)據(jù)暫存于HBM。數(shù)據(jù)中心只需在必要時，直接把數(shù)據(jù)從SSD上提出來，理論上HBM可以不用太大。SSD往PCIe Gen 5/Gen 6移動，可以帶來更快的傳輸速率，可減少數(shù)據(jù)中心對HBM的依賴，從而降低數(shù)據(jù)中心的成本。”段喜亭介紹說，慧榮的MonTitan™ SM8366企業(yè)級主控芯片，有高達(dá)14GB/s的連續(xù)性能和3M IOPS的隨機(jī)性能，能夠帶來更優(yōu)的SSD傳輸速度。9Cmesmc

此外，慧榮針對邊緣端設(shè)備也提供了全新的主控產(chǎn)品，比如UFS 4.0主控芯片SM2756和PCIe Gen 5主控芯片SM2508，它們均采用臺積電6nm EUV工藝。其中，SM2756提供超過4,300MB/s的順序讀取速度和超過4,000MB/s的順序?qū)懭胨俣?，有助于提升AI手機(jī)、邊緣計(jì)算和汽車應(yīng)用的存儲性能；SM2508連續(xù)讀取性能上達(dá)到15GB/s，工作模式功耗不超過3.5W，可助力PCIe Gen5 SSD不搭載金屬散熱片, 可提升脫機(jī)式AI應(yīng)用及AI PC的存儲性能。9Cmesmc

9Cmesmc

SM2508雖不是業(yè)內(nèi)首個發(fā)布的主控產(chǎn)品，但它采用了臺積電的6納米EUV制程，在芯片功耗方面有明顯優(yōu)勢。“我們相信采用SM2508的SSD，無需再額外裝載散熱片。”段喜亭透露稱，針對SM2508慧榮的目標(biāo)是“在年底前擁有兩個中國一級客戶和兩個美國一級客戶”。9Cmesmc

另外，他還預(yù)計(jì)，2024年智能手機(jī)的成長會超過個人電腦，因此今年公司嵌入式存儲主控的整體營收也會超過SSD主控。9Cmesmc

關(guān)于慧榮的業(yè)務(wù)調(diào)整和并購案內(nèi)幕

對慧榮科技而言，2023年的確是值得紀(jì)念的一年。9Cmesmc

首先是受上半年存儲行業(yè)持續(xù)下行的影響，公司主控業(yè)務(wù)受到一定程度的拖累；再是7月底，MaxLinear(邁凌微電子)突然宣布終止對慧榮科技的并購，慧榮因并購事件面臨了客戶信任危機(jī)，8月慧榮要求MaxLinear賠償經(jīng)濟(jì)性損失；到12月，慧榮宣布調(diào)整組織架構(gòu)，新成立終端與車用存儲(CAS)和企業(yè)級存儲與顯示接口解決方案(ESDI)事業(yè)群。9Cmesmc

CAS業(yè)務(wù)群負(fù)責(zé)消費(fèi)級SSD主控芯片、移動存儲主控芯片、Ferri產(chǎn)品和擴(kuò)展式存儲主控芯片；ESDI業(yè)務(wù)群將負(fù)責(zé)企業(yè)級SSD主控芯片和顯示接口產(chǎn)品。段喜亭指出，CAS BU大約覆蓋了慧榮70%-80%的業(yè)務(wù)。9Cmesmc

據(jù)慧榮科技最新年報數(shù)據(jù)顯示，2023年慧榮的營收為6.3914億美元，同比減少32%。其中，2023年Q4單季營達(dá)2.238億美元，環(huán)比增長17%，同比增長1%?；蹣s總經(jīng)理茍嘉章此前解釋道，“在假期旺季效應(yīng)與渠道庫存水位正常化的帶動下，主要產(chǎn)品線需求呈現(xiàn)連續(xù)增長。”9Cmesmc

為什么2023年Q4業(yè)績?nèi)绱送怀?？段喜亭回?yīng)，當(dāng)初MaxLinear在推動并購慧榮的過程中，讓慧榮的業(yè)績受到了較大的影響。“客戶擔(dān)心我們被這家美國公司收購后，MaxLinear不會延續(xù)我們原本產(chǎn)品策略，再加上那時整個存儲行業(yè)正下行，在所有因素的綜合影響下，2022年到2023年前三季度，我們的業(yè)績一路下跌。”9Cmesmc

“在并購案宣布失敗之后，慧榮花了很多精力向客戶解釋，消解了他們對慧榮的信任危機(jī)。恰好這個時間點(diǎn)，又是存儲行業(yè)觸底反彈時期，所以2023年第四季度，隨著客戶信心逐漸恢復(fù)，我們的業(yè)績也得到了反彈。去年Q4我們的業(yè)績增長，主要包含了兩個綜合因素。沿襲去年Q4的漲勢，我們預(yù)計(jì)2024年Q1的成長依舊強(qiáng)勁。”他補(bǔ)充表示，縱使目前終端需求還未明顯改善，但以上兩大因素已經(jīng)促使慧榮收回了之前丟失的市場份額。9Cmesmc

可能存儲模組廠商會擔(dān)心，MaxLinear并購慧榮的這類事件會再次發(fā)生，針對廠商的這些擔(dān)憂段喜亭一再強(qiáng)調(diào)，這類事件不會再發(fā)生。“當(dāng)初是MaxLinear主動找的我們，我們老板也曾多次澄清，我們從一開始就沒有想要賣掉公司，但因?yàn)槲覀兪羌{斯達(dá)上市企業(yè)，需要遵守相關(guān)的規(guī)章制度。”9Cmesmc

他解釋說，“當(dāng)有人提出一個好Offer時，我們就需要為股東的權(quán)益做考慮， MaxLinear當(dāng)時給了非常豐厚的價格，我們股東大會最終決議接受被并購，但后續(xù)MaxLinear放棄了并購。其實(shí)，光通過中國政府的審批就花了一年多，大家對‘通過審批’這件事不抱期待，相信未來不會再有外資企業(yè)并購這類事件了。”9Cmesmc

“卷”入中國汽車存儲生態(tài)圈

今年1月底，德州儀器、意法半導(dǎo)體等汽車半導(dǎo)體巨頭發(fā)布了悲觀指引，他們都表達(dá)了對2024年全球工業(yè)和汽車芯片成長的擔(dān)憂。對中國汽車芯片企業(yè)而言，是否會面臨不一樣的市場環(huán)境？9Cmesmc

去年12月慧榮組織架構(gòu)的調(diào)整，提升了其車用存儲主控方面的地位，作為終端與車用存儲(CAS)事業(yè)部負(fù)責(zé)人，段喜亭也解讀各地區(qū)不同汽車市場的行情。他指出，TI、ST等公司在汽車芯片上份額非常大，所以他們的觀點(diǎn)的確代表了全球汽車產(chǎn)業(yè)的狀況。9Cmesmc

但對更聚焦在中國汽車市場，且在汽車領(lǐng)域剛起步的存儲廠商來說，公司在汽車業(yè)務(wù)部分的占比還很小，未來的成長空間還有很多，“TI、ST的成長已經(jīng)快接觸到天花板，他們的困境在于——如何進(jìn)一步抬高自己的天花板，而我們還離天花板有很遠(yuǎn)的距離，所以暫時不會受到影響。”9Cmesmc

國內(nèi)造車企業(yè)非常卷，汽車價格也越來越低，這反映了中國造車生態(tài)非常健全，所以才能把價格壓得很低。目前，國內(nèi)外的造車思維還存在差異性，中國車企發(fā)布新車像是在發(fā)布消費(fèi)電子產(chǎn)品，平均一年會推出好幾款新車型，而許多國外汽車巨頭因沿襲傳統(tǒng)思維，發(fā)布新車型的頻次相對更慢。9Cmesmc

由于國內(nèi)新能源汽車市場已經(jīng)相當(dāng)飽和，車企與車企之間也開始做整并，比如小車企被并購、大車企開始往外走，已經(jīng)有一些車企走向了歐洲、東南亞、澳洲等市場。段喜亭認(rèn)為，走向新市場的車企的“天花板”在不斷拉高，“因?yàn)樗麄儠屨家徊糠衷緦儆谌毡?、歐洲、美國車廠的份額，所以他們不會這么快碰到市場‘天花板’。”為了深耕汽車存儲市場，慧榮在過去幾年里堅(jiān)持做車規(guī)認(rèn)證，現(xiàn)在已經(jīng)推出車規(guī)Nand Flash主控產(chǎn)品。9Cmesmc

關(guān)于接下來存儲的漲勢變化

去年10月底，段喜亭曾接受過《國際電子商情》的采訪，當(dāng)時他預(yù)估，DRAM的漲價會持續(xù)到今年上半年，但當(dāng)時還無法預(yù)測其下半年的走向。而閃存的漲價趨勢持續(xù)到今年的年中，到時閃存可能會出現(xiàn)供不應(yīng)求的局面。如今，他針對這一說法有了更新的見解。9Cmesmc

他指出，截至2024年3月下旬，內(nèi)存和Nand Flash的漲價仍在持續(xù)。不過，內(nèi)存的漲勢有稍微變化，但Nand Flash的漲價依舊強(qiáng)勁。9Cmesmc

“我在去年10月底預(yù)估，今年下半年閃存開始供不應(yīng)求，實(shí)際上這個說法偏保守了，閃存供不應(yīng)求的情況，在今年上半年已經(jīng)發(fā)生了。”他進(jìn)一步解釋說，因?yàn)榍澳旰腿ツ辏W存原廠急速減產(chǎn)，他判斷今年下半年，閃存價格可能會拉得很高，但未曾想該趨勢，在今年上半年就開始逐漸浮現(xiàn)，因此他判斷閃存的漲勢，在今年下半年會稍微平緩，然后整體漲勢可能持續(xù)到明年Q1-Q2。而影響內(nèi)存的變數(shù)比較多，預(yù)計(jì)今年下半年漲勢可能放緩，主要是看AI移到終端的速度是否夠快。9Cmesmc

根據(jù)他的觀點(diǎn)，高性能SSD可以減少內(nèi)存的用量，但這不會在今年下半年馬上發(fā)生，所以內(nèi)存的需求量依舊比較大，內(nèi)存的漲價趨勢完全看AI在手機(jī)、PC上，是否有取得巨大成功。目前，這種AI電腦、AI手機(jī)的應(yīng)用趨勢還待觀察。9Cmesmc