在11月7日由ASPENCORE主辦的“全球CEO峰會”上，Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon跟《國際電子商情》分享了相關(guān)發(fā)展策略。552esmc
Graphcore是一家怎樣的公司？
很多人對Graphcore這家公司感到陌生，它是一家于2016年創(chuàng)辦的人工智能芯片設(shè)計(jì)初創(chuàng)公司，總部位于英國。其處理器芯片直接對標(biāo)英特爾、英偉達(dá)之類的芯片制造巨頭，為智能駕駛、云服務(wù)等應(yīng)用提供更靈活、更易用、更高技術(shù)水準(zhǔn)的產(chǎn)品支持。552esmc
人工智能因其設(shè)計(jì)的復(fù)雜性和高門檻的應(yīng)用，一般都伴隨著資本的助力，Graphcore也不例外。2016年10月，Graphcore獲得第一筆金額為3200萬美元的A輪融資；2017年7月獲得由歐洲VC Atomico領(lǐng)投的價(jià)值3000萬美元的B系融資，同一年還獲得5000萬美元的C系列融資；2018年12月，再獲得Atomico和投資控股公司Sofina共同領(lǐng)投的2億美元的D輪融資。552esmc
截至目前，Graphcore共獲得3.25億美元的投資，公司市值達(dá)到17億美元。2019年10月21日，胡潤研究院發(fā)布《2019胡潤全球獨(dú)角獸榜》，Graphcore排名第138位，是西方半導(dǎo)體產(chǎn)業(yè)界唯一的“獨(dú)角獸”企業(yè)。552esmc
552esmc
Graphcore所有的投資者，都對其旗艦智能處理器單元（IPU）的潛力很感興趣。Nigel Toon強(qiáng)調(diào)了紅杉資本對Graphcore的投資。他表示：“紅杉資本除了投資Graphcore，還投資了業(yè)界很多知名的廠商，紅杉投資人得知Graphcore做的事情非常有趣且極具創(chuàng)新性，所以找到我們談投資事宜。”552esmc
552esmc
Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon552esmc
IPU處理器有何不同？
從CPU、GPU到FPGA再到ASIC，人工智能芯片技術(shù)針對不同的應(yīng)用場景，都會對算力、算法等要求不斷升級。Graphcore的IPU處理器是完全不同于前面幾類處理器類型的全新架構(gòu)的AI處理器產(chǎn)品。552esmc
552esmc
Graphcore的IPU處理器552esmc
Graphcore 的IPU特點(diǎn)可概括為：（1）同時(shí)支持 Training 和 Inference；（2）采用同構(gòu)多核（many-core）架構(gòu)，超過1000個(gè)獨(dú)立的處理器；（3）支持 all-to-all的核間通信，采用Bulk Synchronous Parallel的同步計(jì)算模型；（5）采用大量片上SRAM，不需要外部DRAM。552esmc
據(jù)介紹，IPU處理器是迄今為止最復(fù)雜的處理器芯片，它在一個(gè)16納米芯片上有幾乎240億個(gè)晶體管，每個(gè)芯片提供125 teraFLOPS運(yùn)算能力。一個(gè)標(biāo)準(zhǔn)4U機(jī)箱中可以插入8張卡，卡間通過IPU-Link互連。8張卡上的IPU可以看做一個(gè)處理器工作，提供 1.6PetaFLOPS的運(yùn)算能力。552esmc
552esmc
與CPU和GPU不同，IPU是專門為AI/Machine Learning設(shè)計(jì)的處理器。IPU強(qiáng)大的并行處理能力，實(shí)現(xiàn)了快速訓(xùn)練模型和實(shí)時(shí)操控，這使得Graphcore能夠在自然語言處理以及理解自動(dòng)駕駛方面取得重大進(jìn)展，這是區(qū)別于其他處理器的一個(gè)重要因素。552esmc
“我們接觸過的所有創(chuàng)新者都說使用GPU正在阻礙他們創(chuàng)新。如果仔細(xì)看一下他們正在研究的模型類型，你會發(fā)現(xiàn)他們主要研究卷積神經(jīng)網(wǎng)絡(luò)。因?yàn)檫f歸神經(jīng)網(wǎng)絡(luò)和其他類型的結(jié)構(gòu)，并不能很好地映射到GPU，加上沒有足夠良好的硬件平臺，其研究領(lǐng)域受到限制。而這正是我們將IPU推向市場的原因。”Nigel Toon說。552esmc
Graphcore IPU為機(jī)器智能提供了更高效的處理平臺。“目前，應(yīng)用端有越來越多的需求出現(xiàn)，但諸如CPU、GPU等很難有技術(shù)突破。而IPU的特色在于，速度非?？?，可以支撐很多不同的神經(jīng)系統(tǒng)，可以做出新的技術(shù)突破。”Nigel Toon強(qiáng)調(diào)說，有一點(diǎn)非常明確，IPU是一個(gè)處理器，基于這樣一個(gè)處理器和一些算法，Graphcore可以通過軟件來實(shí)現(xiàn)，保證了足夠的靈活性。552esmc
除了CPU和GPU，F(xiàn)PGA被認(rèn)可是現(xiàn)階段較好的實(shí)現(xiàn)AI功能的處理器產(chǎn)品，特別是其并行計(jì)算能力，適用于云端加速應(yīng)用。552esmc
“大家常常對CPU解決不了的問題，試圖用FPGA來解決，其實(shí)FPGA用的大量場景不在AI領(lǐng)域，而是在網(wǎng)絡(luò)和存儲加速里面。另外，針對AI應(yīng)用，F(xiàn)PGA無法支持訓(xùn)練，另外易用性差，只可以做一些inference場景。而IPU很明確，專為機(jī)器智能或AI應(yīng)用場景設(shè)計(jì)，可同時(shí)做訓(xùn)練和推理。” Graphcore銷售副總裁盧濤補(bǔ)充表示，“IPU是一個(gè)處理器，針對IPU我們開發(fā)了一套叫做 Poplar 的軟件，對程序員來說，在 IPU 上進(jìn)行開發(fā)就是寫一個(gè)TensorFlow或者Pytorch 的程序，可能就幾十行代碼，易用性非常好。”552esmc
相比競品，IPU有哪些優(yōu)勢？
在巨大市場前景的推動(dòng)以及巨額資本的加持之下，目前市場上出現(xiàn)了很多人工智能芯片公司，其中不乏獨(dú)角獸企業(yè)。552esmc
Nigel Toon表示：“我們的做法是完全不同的。如果你看一下目前市面上比較廣泛應(yīng)用的訓(xùn)練芯片，你就會發(fā)現(xiàn)，他們都是比較類似于GPU的圖形處理單元，他們做出來的芯片在創(chuàng)新的部分微乎其微。但是Graphcore很不一樣，我們有在更大層面上進(jìn)行創(chuàng)新，而不是小的改進(jìn)。IPU 同時(shí)有上千個(gè)處理器在工作，單個(gè)IPU的存儲帶寬能達(dá)到45TB，比性能最快的HBM提升了50倍以上，且在相同算力的基礎(chǔ)上能耗降了一半。”552esmc
據(jù)了解，借助Graphcore的IPU，一個(gè)完整的機(jī)器學(xué)習(xí)模型可以在處理器內(nèi)部生成。而且IPU處理器具有數(shù)百兆字節(jié)的RAM，可在處理器上以1.6 GHz的速率全速運(yùn)行，另外其中的延遲已被線程隱藏。Nigel Toon解釋說，一個(gè)4U機(jī)箱中有16個(gè)IPU，它將使用戶擁有無可比擬的內(nèi)存帶寬，其上運(yùn)行了成千上萬的線程，而且同時(shí)運(yùn)行，這是Graphcore得以加速機(jī)器智能工作的部分原因。552esmc
Nigel Toon表示，Graphcore的IPU相比友商競品，有三個(gè)核心區(qū)別：552esmc
- 一是處理器的“核”的架構(gòu)不同，IPU 是 MIMD 的架構(gòu)；
- 二是Graphcore的knowledge model在處理器之內(nèi)；
- 三是IPU能解決大規(guī)模并行計(jì)算處理器核之間的通信效率，這是個(gè)非常難的事情。在這一點(diǎn)上，Graphcore有大量的創(chuàng)新，關(guān)于多核之間如何通信，如何讓軟件工程師和程序員處理起來比較簡單。
“我們有一個(gè)BSP的算法，是硬件和我們的軟件一起協(xié)同工作的，這樣對軟件公司來說，雖然處理器有1000多個(gè)核，7000多個(gè)線程，但是不需要太擔(dān)心通信問題，可以讓軟件工程師非常方便地使用，而且處理器核之間的通信效率非常高。”Nigel Toon強(qiáng)調(diào)說。552esmc
Nigel Toon強(qiáng)調(diào)IPU是一個(gè)專門針對AI通用且靈活的處理器。工程師可以通過編程以驚人的效率來做很多不同的事情。如果應(yīng)用于云計(jì)算環(huán)境，這項(xiàng)技術(shù)可以非常輕松地解決問題，它功能多樣，易于編程，可提供極為有效的結(jié)果，這絕對是一項(xiàng)致勝的技術(shù)。552esmc
綜上可見，Graphcore的IPU是截至目前市面上功能最為強(qiáng)大且最易用的AI處理器芯片。被譽(yù)為英國半導(dǎo)體之父同時(shí)也是Arm聯(lián)合創(chuàng)始人的Hermann Hauser先前曾經(jīng)這樣評價(jià)過Graphcore：“這在計(jì)算機(jī)歷史上只發(fā)生過三次，第一次是70年代的CPU，第二次是90年代的GPU，而Graphcore就是第三次革命。他們的芯片是這個(gè)世界偉大新架構(gòu)的一種。”552esmc
云服務(wù)是重要的應(yīng)用市場
任何強(qiáng)大的技術(shù)必須市場化才能夠體現(xiàn)其價(jià)值，Graphcore的IPU主要應(yīng)用方向?yàn)樵朴?jì)算服務(wù)器，未來也會用于自動(dòng)駕駛汽車。552esmc
對于Graphcore的發(fā)展規(guī)劃及IPU產(chǎn)品的市場化策略，Nigel Toon做了一些闡述：“首先，公司由年初的170人增長到了現(xiàn)在的400人，人員上已經(jīng)兩倍多了；其次，到現(xiàn)在為止，我們共融資了3.25億美金，還有2億多美金在銀行里；再次，我們在跟很多大的重要客戶合作，這會支撐我們下一步的巨大增長。”552esmc
近幾年，中國市場成長為全球最大的半導(dǎo)體應(yīng)用市場。如何看待中國市場的發(fā)展？Nigel Toon表示，中國在Graphcore的整個(gè)版圖里面是具有策略性的重要市場，我們在中國的運(yùn)營上會跟傳統(tǒng)的外資公司有些不一樣。首先，我們在中國不是只有銷售和市場，而是會大力投資在技術(shù)能力的建設(shè)上，因?yàn)樾枰镜睾献鞯牟粌H是客戶，還有大量研究者和創(chuàng)新者，如何讓IPU在本地應(yīng)用得更好，中間會有很多定制化開發(fā)的工作，所以在本地會有非常重的工程技術(shù)方面的投入。”552esmc
在中國有兩類廠商會是Graphcore的合作伙伴：552esmc
一類是服務(wù)器廠商。用戶購買的產(chǎn)品更多是一臺AI計(jì)算機(jī)，所以服務(wù)器廠商會是Graphcore第一類的合作伙伴。而且這個(gè)合作進(jìn)展會非常快，估計(jì)再有幾個(gè)月客戶就會上架IPU的服務(wù)器產(chǎn)品。552esmc
另一類是云服務(wù)和云計(jì)算廠商。在新的時(shí)代，IT產(chǎn)品最后提供給最終用戶的中間鏈條里，很重要的就是云服務(wù)和云計(jì)算廠商，所以Graphcore會在全球（不限于中國和美國）跟一些云服務(wù)器廠商合作。552esmc
11月13日，Graphcore就宣布了與微軟的合作內(nèi)容，并正式發(fā)布Microsoft Azure上Graphcore智能處理單元（IPU）的預(yù)覽版。這是公有云領(lǐng)導(dǎo)供應(yīng)商首次提供GrapchoreIPU，這些IPU從構(gòu)建之初便旨在支持下一代機(jī)器學(xué)習(xí)。這一合作，證明了IPU硬件和Poplar軟件棧的成熟性。552esmc
之前，Graphcore與Dell建立了密切的合作關(guān)系。Dell是Graphcore的投資者，透過與他們合作，Graphcore順利地進(jìn)入企業(yè)應(yīng)用市場，并透過多種不同形式將其技術(shù)提供給客戶。552esmc
