此后，“一石激起千層浪”。在黃仁勛強大“帶貨”能力的加持下，DPU概念一炮而紅，吸引業(yè)內(nèi)眾多競爭者紛至沓來。從海外的英特爾、博通、英偉達(dá)、AMD、Marvell，到中科馭數(shù)、芯啟源、云豹智能、云脈芯聯(lián)等30余家國內(nèi)廠商，每一家企業(yè)都在摩拳擦掌，躍躍欲試。J92esmc

有行業(yè)人士甚至表示，未來，用于數(shù)據(jù)中心的DPU量級將達(dá)到和數(shù)據(jù)中心服務(wù)器等量的級別。“每臺服務(wù)器可能沒有GPU，但一定會有一塊或者幾塊DPU/IPU卡，這將是一個千億量級的市場。”J92esmc

“三U一體”，構(gòu)建算力底座

DPU的前身可以追溯到普通網(wǎng)絡(luò)接口卡(NIC)和SmartNIC，但它們彼此間的身份轉(zhuǎn)變并非改改名字這么簡單。DPU是面向數(shù)據(jù)中心的專用處理器，新增了AI、安全、存儲和網(wǎng)絡(luò)等各種加速功能，將成為新一代的重要算力芯片——它能夠完成性能敏感且通用的工作任務(wù)加速，更好地支撐CPU、GPU的上層業(yè)務(wù)，成為整個網(wǎng)絡(luò)的中心節(jié)點。J92esmc

中科馭數(shù)創(chuàng)始人、CEO鄢貴海說如果把CPU比做大腦，那么GPU和DPU就好比是肌肉和神經(jīng)中樞。CPU承載了應(yīng)用生態(tài)，決定了計算系統(tǒng)是否可以通用；GPU提供了高密度各類精度的算力，決定了系統(tǒng)是否有足夠的“力量”；DPU負(fù)責(zé)數(shù)據(jù)在各種CPU和GPU之間高效流通，決定了系統(tǒng)是否能協(xié)同工作。“三U一體”(CPU-GPU-DPU)成為主流算力節(jié)點的發(fā)展趨勢。J92esmc

但當(dāng)前，DPU正面臨著三大關(guān)鍵挑戰(zhàn)：J92esmc

人工智能時代，堪比人腦神經(jīng)元數(shù)量的模型規(guī)模，注定了算力需求必然暴漲。而迭代出的更好的模型對數(shù)據(jù)又會有更大的胃口，更大參數(shù)規(guī)模的模型；更大的算力意味著更高的智能。至此，算力與智能的正循環(huán)徹底啟動了，難以逆轉(zhuǎn)。J92esmc

雖然摩爾定律已然放緩，但是單芯片規(guī)模還在不斷上升，“Super Computer on a single Chip”已經(jīng)成為現(xiàn)實。這就意味著單個芯片的IO性能要求必然更高了，否則，就會面臨“茶壺里面煮餃子——倒不出來”的尷尬。J92esmc

算力的供給方式多樣化與靈活性持續(xù)增強，客戶的算力成本亟待降低，這就要求必須在算力底座核心芯片上面下功夫。J92esmc

關(guān)于這三點其實不難理解，城市擴大了，如果基礎(chǔ)設(shè)施和治理機制跟不上，就會出現(xiàn)“大城市病”。同理，芯片變大了，沒有配套好基礎(chǔ)設(shè)施和治理機制，也會出現(xiàn)“大芯片病”。J92esmc

我們不能采用線性的思維來解決這個問題：城市擴大一倍，所有車道數(shù)量并不能簡單的也擴大一倍，而是需要地鐵、輕軌、立交橋等新型的基礎(chǔ)設(shè)施和相應(yīng)的高效流控機制。同樣的道理，解決“大芯片病”也一樣，也需要技術(shù)創(chuàng)新才有可能解決。J92esmc

因此，不能將DPU簡單視作為單一芯片，而應(yīng)該從三個維度重新定義其價值：第一，架構(gòu)決勝，用最先進(jìn)的芯片架構(gòu)來重新定義DPU芯片架構(gòu)：第二，軟件護城，用最高兼容性來重新定義DPU的軟件系統(tǒng)；第三，平臺上門，用最低的成本讓客戶接入DPU規(guī)?；渴鹋c業(yè)務(wù)驗證。J92esmc

按照Gartner技術(shù)成熟度曲線Hype Cycle的規(guī)律，也就是一項新技術(shù)從創(chuàng)新、發(fā)展、過熱、回歸、沉淀、再進(jìn)入正常規(guī)?；瘧?yīng)用的常規(guī)發(fā)展路徑來看，DPU首次出現(xiàn)在Hype Cycle里是在2021年，即“下一代SmartNICs/DPUs/IPUs”，預(yù)計需要5-10年到達(dá)成熟期，現(xiàn)在距離預(yù)測最早成熟期還有兩年。而AI算力的加速發(fā)展，正在加速DPU的成熟。J92esmc

J92esmc

圖源：中科馭數(shù)J92esmc

清華大學(xué)教授、中國工程院院士鄭緯民在一次活動上曾表示，大數(shù)據(jù)、算法和算力已經(jīng)成為人工智能產(chǎn)業(yè)發(fā)展的三架馬車，“算力是數(shù)字經(jīng)濟的底座，沒有算力，做不了ChatGPT。而芯片是算力的核心，是算力提升的關(guān)鍵所在。”而DPU作為專注于解決算力基礎(chǔ)設(shè)施層各種數(shù)據(jù)流量負(fù)載的芯片，其發(fā)展的主要驅(qū)動力也必然來自于對算力基礎(chǔ)設(shè)施的更高要求——正所謂順勢而為。J92esmc

“搶灘”DPU

短短幾年時間對于一種具備巨大產(chǎn)業(yè)化價值的芯片技術(shù)而言并不算長，但是對于一種新的大類芯片類型，數(shù)家國際國內(nèi)芯片業(yè)巨頭短時間內(nèi)組織研發(fā)力量，并投入巨資“搶灘”式發(fā)布DPU產(chǎn)品也不是常見的現(xiàn)象。J92esmc

NVIDIA于2020年發(fā)布了代號為BlueField 2的DPU產(chǎn)品，并高調(diào)宣稱這是數(shù)據(jù)中心場景下的“第三顆支柱型芯片（原文為the third pillar）”。從當(dāng)時公布的DPU產(chǎn)品路線圖來看，BlueField-3/3X和BlueField-4分別于2022年和2023年問世，屆時，將可提供400TOPS的AI算力和400Gbps的帶寬性能，從而解放GPU，只在單芯片DPU上就可實現(xiàn)網(wǎng)絡(luò)、存儲、安全等關(guān)鍵任務(wù)的加速工作。J92esmc

J92esmc

圖源：NVIDIAJ92esmc

同年，Marvell發(fā)布了采用Neoverse N2 CPU內(nèi)核和臺積電5nm制程工藝的OCTEON 10系列DPU，支持PCIe 5.0 I/O、DDR5內(nèi)存、以及機器學(xué)習(xí)(ML)引擎。次年，芯片巨頭Intel攜全新的重磅產(chǎn)品IPU(Infrastructure Processing Unit)加入了對DPU市場的爭奪。J92esmc

前思科高管創(chuàng)立的科技公司Pensando在2020年HotChips會議上首次披露了其DPU的設(shè)計，主打P4，同時對PCIe設(shè)備虛擬化、存儲、信任根、加解密進(jìn)行了方案的支持，從技術(shù)來看甚至有領(lǐng)先后續(xù)披露DPU產(chǎn)品的行業(yè)巨頭廠商的勢頭(該公司于2022年被AMD高價并購)。J92esmc

在國內(nèi)的DPU產(chǎn)品方面，中科馭數(shù)在6月發(fā)布了第三代DPU芯片K2-Pro，并且在網(wǎng)絡(luò)時延指標(biāo)和吞吐性能都處于業(yè)界同期較為領(lǐng)先的水平。阿里云也發(fā)布了CIPU產(chǎn)品、天翼云、移動云也分別發(fā)布了自研的DPU加速卡產(chǎn)品，還有移動云、天翼、云豹等。J92esmc

當(dāng)然，也有“搶灘”受阻的。例如2020年DPU初創(chuàng)明星企業(yè)Fungible以1.9億美元的低價賣給了微軟；2024年，以色列DPU初創(chuàng)公司Pliops和法國DPU公司Kalray準(zhǔn)備合并，目的顯然是報團取暖，加快DPU的研發(fā)和上市速度；國內(nèi)方面，7月，*ST左江發(fā)布公告，宣布收到深交所關(guān)于公司股票終止上市的決定，標(biāo)志著這家曾號稱對標(biāo)英偉達(dá)DPU，市值最高超過300億元的“史上最貴ST股”落幕。J92esmc

事實上，DPU能否大規(guī)模商業(yè)化取決于兩點：第一是成本，一顆DPU賣5萬塊錢，做得再好也不太可能大規(guī)模商業(yè)化?，F(xiàn)在DPU成本仍然很貴，英偉達(dá)的DPU大約在三四千美金以上，要想達(dá)到比較大規(guī)模的量產(chǎn)，DPU還要進(jìn)一步降低成本。第二是軟硬件成熟度，雖然現(xiàn)在算力基礎(chǔ)設(shè)施從原來“網(wǎng)絡(luò)+交換節(jié)點”這種分布式的系統(tǒng)結(jié)構(gòu)朝著“三U一體”的趨勢演進(jìn)，但是所有趨勢沉淀都需要時間，對于大芯片而言，3-5年就想讓它走向成熟是不現(xiàn)實的，也許可能需要5-10年才能成熟。J92esmc

DPU產(chǎn)業(yè)應(yīng)用落地開花

與CPU、GPU這些通用芯片不同，DPU的發(fā)展與實際業(yè)務(wù)場景是緊密綁定的，不同的應(yīng)用會催生完全不同的DPU架構(gòu)。只有根據(jù)不同場景進(jìn)行有針對性的優(yōu)化，才能最大限度發(fā)揮DPU的優(yōu)勢。J92esmc

而對中國市場來說，最不缺的就是業(yè)務(wù)場景。從目前的落地情況來看，DPU系列產(chǎn)品高效賦能各行各業(yè)，已成功為金融、通信、交通、數(shù)據(jù)中心等眾多領(lǐng)域提供算力底座支持。J92esmc

首先，在云計算方面?；贒PU的方案使得裸金屬服務(wù)的業(yè)務(wù)邏輯發(fā)生了明顯變化，可以大大縮短裸金屬服務(wù)的交付時間，實現(xiàn)了虛擬網(wǎng)絡(luò)功能的全面卸載，也為存算分離相關(guān)的多種存儲技術(shù)提供了統(tǒng)一的接口。數(shù)據(jù)研究預(yù)測，DPU在云計算市場的應(yīng)用需求最大，且市場規(guī)模隨著云計算數(shù)據(jù)中心的迭代而增長，到2025年，僅中國的市場容量都將達(dá)到40億美元的規(guī)模。J92esmc

其次，在智算中心領(lǐng)域。以AIGC應(yīng)用來看，DPU在智算中心中的關(guān)鍵作用與價值主要有支持超大規(guī)模組網(wǎng)算力互連、支持100G+超高帶寬、通過使用RDMA來提供模型訓(xùn)練所需超低時延和抖動、其NVMe- oF技術(shù)可提供更高效的存儲讀取和處理能力等四方面。J92esmc

在5G通信領(lǐng)域。在5G通信網(wǎng)絡(luò)快速發(fā)展的過程中，算力和網(wǎng)絡(luò)融合發(fā)展需要更加綠色高效的數(shù)據(jù)處理硬件加速技術(shù)，亟待DPU提升系統(tǒng)性能。DPU將在高性能數(shù)據(jù)處理、低延遲數(shù)據(jù)傳輸、網(wǎng)絡(luò)管理、存儲，以及安全等基礎(chǔ)設(shè)施底層建設(shè)發(fā)揮關(guān)鍵作用。DPU通過接手CPU不擅長的網(wǎng)絡(luò)協(xié)議處理、數(shù)據(jù)加解密等數(shù)據(jù)處理任務(wù)，不僅可以提高網(wǎng)絡(luò)傳輸效率，而且釋放了CPU算力資源。在新型算力DPU的加持下，能夠提供靈活高效的硬件加速服務(wù)，支持云基礎(chǔ)設(shè)施層功能卸載，云邊協(xié)同、云網(wǎng)一體都將逐步實現(xiàn)。J92esmc

最后，在證券基金行業(yè)。金融信創(chuàng)已步入深水區(qū)，由“邊緣替代”邁向“核心替代”。核心交易系統(tǒng)對網(wǎng)絡(luò)時延的需求從毫秒級提升到微秒甚至納秒，低時延網(wǎng)絡(luò)領(lǐng)域的核心設(shè)備長期被國外廠商Solarflare與Mellanox壟斷，時延和安全問題成了制約銀行、證券、期貨等行業(yè)發(fā)展的難點之一。而自主研發(fā)的低時延網(wǎng)絡(luò)DPU卡構(gòu)建超低時延網(wǎng)絡(luò)，可支撐金融交易核心鏈路從底層硬件到上層應(yīng)用系統(tǒng)具備超低時延、低抖動、完全自主可控等特性，在超低時延網(wǎng)絡(luò)領(lǐng)域真正打破壟斷，實現(xiàn)國產(chǎn)升級替代。J92esmc

國內(nèi)DPU研發(fā)需轉(zhuǎn)變思維定式

工業(yè)和信息化部、中央網(wǎng)信辦、教育部、國家衛(wèi)生健康委、中國人民銀行、國務(wù)院國資委等六部門近日聯(lián)合印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》。該計劃具體規(guī)定了到2025年，算力基礎(chǔ)設(shè)施發(fā)展的主要目標(biāo)、重點任務(wù)和保障措施等，并重點提出針對智能計算、超級計算和邊緣計算等場景，開展DPU等技術(shù)升級與試點應(yīng)用，實現(xiàn)算力中心網(wǎng)絡(luò)高性能傳輸。這是國家層面的文件首次對未來3年的DPU發(fā)展指明了方向。J92esmc

在鄭緯民院士看來，DPU芯片作為重要算力基礎(chǔ)設(shè)施，在實現(xiàn)自主可控方面也具有重要的戰(zhàn)略意義。“國外廠商英偉達(dá)、英特爾、AMD都有推出相應(yīng)的DPU產(chǎn)品。面對新形勢新要求，國產(chǎn)DPU要持續(xù)加強基礎(chǔ)研究，充分利用資源和技術(shù)優(yōu)勢，緊密圍繞產(chǎn)業(yè)創(chuàng)新能力和產(chǎn)業(yè)鏈完整新發(fā)展，深入推進(jìn)核心技術(shù)突破，打造核心技術(shù)制高點。在DPU這一領(lǐng)域我們也要打破國外芯片巨頭的壟斷，助力算力領(lǐng)域的安全自主可控。”J92esmc

芯啟源日前在其公眾號上發(fā)布了一篇題為《揭開網(wǎng)絡(luò)控制器芯片DPU國產(chǎn)替代序幕》的文章。幾位作者在文中指出，隨著數(shù)字化轉(zhuǎn)型的深入和“新基建”的推進(jìn)，網(wǎng)絡(luò)數(shù)據(jù)流量激增，網(wǎng)絡(luò)控制器芯片作為高性能計算的關(guān)鍵部件，也迎來了黃金發(fā)展時期。J92esmc

但國外網(wǎng)絡(luò)控制器芯片產(chǎn)品在技術(shù)成熟度和市場占有率方面具有顯著優(yōu)勢。國際巨頭如NVIDIA、Intel和AMD等公司，憑借其在芯片設(shè)計和制造領(lǐng)域的深厚積累，推出了在數(shù)據(jù)處理速度、能效比和系統(tǒng)集成度等方面高性能系列產(chǎn)品。這些廠商通過技術(shù)迭代創(chuàng)新和市場拓展，形成了強大的品牌影響力和客戶忠誠度，鞏固了其在全球網(wǎng)絡(luò)控制器芯片市場的領(lǐng)先地位。J92esmc

而國內(nèi)網(wǎng)絡(luò)控制器芯片產(chǎn)品在技術(shù)研發(fā)和產(chǎn)業(yè)化過程中面臨一系列挑戰(zhàn)。網(wǎng)絡(luò)控制器芯片技術(shù)涉及多個領(lǐng)域，包括網(wǎng)絡(luò)處理、存儲管理、安全加密等，需要高度專業(yè)化技術(shù)團隊和深厚的技術(shù)積累。國內(nèi)廠商在核心知識產(chǎn)權(quán)、制造工藝和系統(tǒng)集成等方面與國際巨頭存在一定差距，限制了產(chǎn)品競爭力。新產(chǎn)品的研發(fā)周期長，國內(nèi)企業(yè)在融資渠道、投資規(guī)模和回報周期等方面均存在諸多短板。J92esmc

“回顧50年前的1971年，當(dāng)英特爾發(fā)布首顆CPU的時候，中國還沒有改革開放；20多年前的1997年，英偉達(dá)發(fā)布了讓它起死回生的GeForce系列GPU，國內(nèi)我們還處于濃濃的‘做不如買，買不如租’的氛圍中；在4年前，當(dāng)DPU成為了風(fēng)口浪尖的熱點時，國內(nèi)企業(yè)已經(jīng)提前出發(fā)了2年。“鄢貴海說，這一次，我們終于有希望不僅是起得早，還希望能趕上早集。其秘訣，就是全棧技術(shù)自主研發(fā)，重硅前驗證，快速迭代。用理論來指導(dǎo)實踐，而非盲目地訴諸于通過工程試錯來優(yōu)化設(shè)計，把理論優(yōu)勢用到極致。J92esmc

結(jié)語

DPU很舊，舊到可以完全取代傳統(tǒng)網(wǎng)卡的功能。網(wǎng)卡俗稱為“網(wǎng)絡(luò)適配器”，其唯一的功能就是接收網(wǎng)絡(luò)發(fā)來的數(shù)據(jù)和把數(shù)據(jù)通過網(wǎng)絡(luò)發(fā)送出去，實現(xiàn)“上網(wǎng)”，好比交通的——綠皮車時代，解決全國主要城市基本通鐵路的問題。J92esmc

然而，DPU也很新，新到被稱為這個十年最重要的創(chuàng)新，被寄予了數(shù)據(jù)中心三大支柱芯片之一的定位，戴上了“PU”的王冠。好比數(shù)據(jù)網(wǎng)絡(luò)的——高鐵時代，已經(jīng)不僅僅是連通城市問題，而是徹底重構(gòu)了地理位置的邏輯距離。J92esmc