其實(shí)該業(yè)內(nèi)人士的觀點(diǎn)，的確反映了當(dāng)前AI芯片產(chǎn)業(yè)的一些現(xiàn)狀。經(jīng)過(guò)幾年時(shí)間的沉淀，真正有實(shí)力的企業(yè)開始實(shí)現(xiàn)產(chǎn)品落地。TWXesmc

近日，在由智東西、AWE和極果共同主辦的GTIC 2019全球AI芯片創(chuàng)新峰會(huì)上，來(lái)自中外的專家和企業(yè)家齊聚一堂，圍繞“AI芯生態(tài)·產(chǎn)業(yè)新格局”主題做了精彩的演講，國(guó)際電子商情記者摘取了個(gè)別演講嘉賓的核心言論。TWXesmc

魏少軍：AI Chip 0.5至 2.0的演變

中國(guó)半導(dǎo)體行業(yè)協(xié)會(huì)IC設(shè)計(jì)分會(huì)理事長(zhǎng)、清華大學(xué)微納電子系魏少軍教授表示，當(dāng)前的AI服務(wù)基本都在云上，很少出現(xiàn)在其他地方，其原因在于先驅(qū)者們?cè)谠粕献隽舜罅抗ぷ?，這些工作包括：智慧家庭、圖像認(rèn)知、智慧醫(yī)療、AI翻譯等。TWXesmc

不過(guò)，從“云”走向“邊”，從Cloud到Edge是必然的現(xiàn)象。魏教授舉例表示，Google在2018年峰會(huì)上提出，無(wú)論怎樣的AI都要從現(xiàn)實(shí)社會(huì)中攝取，把原始數(shù)據(jù)轉(zhuǎn)化成語(yǔ)義化的數(shù)據(jù)，再讓Cloud來(lái)處理。“這是必然現(xiàn)象。”他也補(bǔ)充說(shuō)：“目前，AI走向邊緣的過(guò)程主要以‘通用’為主驅(qū)動(dòng)力，但是從未來(lái)幾年發(fā)展看，終端應(yīng)用為主或?qū)⒄贾鲗?dǎo)地位，專用AI芯片將起到非常重要的引領(lǐng)作用，這也是未來(lái)發(fā)展的重要方向。”TWXesmc

TWXesmc

另外，魏教授還談到‘軟件定義芯片’的話題，他從軟、硬件的可編程性來(lái)切入。“最好的架構(gòu)能解決能量效率的問(wèn)題，什么樣的芯片具備這樣的架構(gòu)？我們把軟、硬件的可編程性分為四個(gè)象限。傳統(tǒng)的CPU、DSP在第二象限，專用集成電路在第三象限，F(xiàn)PGA、EPLD在第四象限。第一個(gè)象限具備很好的軟、硬件可編程性，如果這兩者都成立，就是‘軟件定義芯片’。” TWXesmc

最后，魏教授暢想了AI Chip 2.0的愿景以及實(shí)現(xiàn)路徑。“AI Chip 0.5是非常早期的階段，像Intel CPU、Nvidia GPU、ADI的DSP，這些產(chǎn)品不是作為AI Chip而出現(xiàn)的；AI Chip 1.0包括Google的TPU、MIT Eyeriss、Nvidia SCNN、KAIST UNPU，這類產(chǎn)品專門為AI設(shè)計(jì)，是一種領(lǐng)域?qū)Ｓ玫臇|西或某種拓展。AI Chip 1.5開始探索通用性，像Tsing Micro Thinker、Wave Computing DPU都屬于1.5，它們具備半通用、可重構(gòu)、可配置的特性，也可能兼顧了兩個(gè)內(nèi)容；而AI Chip 2.0到今天為止還沒(méi)有答案，也許是通用、自適應(yīng)、具備智慧化的東西。”他說(shuō)道。TWXesmc

李維興：5G成就AI，AI成就5G

TWXesmc

高通技術(shù)副總裁李維興圍繞著終端側(cè)AI介紹了高通對(duì)人工智能、云端、終端側(cè)的看法和產(chǎn)品規(guī)劃。他的核心觀點(diǎn)是：5G和AI的關(guān)系密不可分，一方的進(jìn)步推動(dòng)另一方的發(fā)展。TWXesmc

2018年，高通正式成立Qualcomm人工智能研究院，關(guān)注AI產(chǎn)品研發(fā)、制造以及與合作伙伴的項(xiàng)目。截至今日，高通共發(fā)布了四代AI平臺(tái)。第一代驍龍820是高通首個(gè)針對(duì)AI Engine的平臺(tái)，用CPU的方式將AI的使用場(chǎng)景呈現(xiàn)出來(lái)；第二代驍龍835支持Caffe 2，通過(guò)它支持神經(jīng)網(wǎng)絡(luò)的SDK開始使用CPU、GPU、DSP。第三代驍龍845支持的項(xiàng)目非常多，通對(duì)iOS端的支持將人工智能的運(yùn)算做到更優(yōu)化。TWXesmc

TWXesmc

第四代驍龍855集成了Kryo 485 CPU、Adreno 640 GPU、Hexagon 690處理器、驍龍X24調(diào)制解調(diào)器、全新的Spectra 380 ISP以及WiFi、藍(lán)牙模塊、安全模塊等。在AI方面，855支持第四代多核Qualcomm人工智能引擎AI Engine，可實(shí)現(xiàn)7 TOPs運(yùn)算，性能是845的三倍。值得注意的是，Hexagon 690處理器增添了一個(gè)全新設(shè)計(jì)的Hexagon張量加速器，四個(gè)Hexagon向量擴(kuò)展內(nèi)核，還增加了四線程標(biāo)量?jī)?nèi)核?；诖耍旪?55成為2019全球5G發(fā)布重要的平臺(tái)。TWXesmc

他還認(rèn)為，AI訓(xùn)練、推理可在云端做，也可往終端走。“大家對(duì)與云相關(guān)的使用場(chǎng)景都非常振奮，但后續(xù)的規(guī)?；枰c半導(dǎo)體及軟件行業(yè)提供聯(lián)結(jié)的使用機(jī)會(huì)。傳感器一定在邊緣，實(shí)時(shí)接觸也在邊緣。如何保持工廠和汽車自動(dòng)化的個(gè)性化，保護(hù)好隱私，維持可靠性？將AI運(yùn)算分布到全網(wǎng)是必然趨勢(shì)。”他說(shuō)。TWXesmc

最后，李維興表示，5G可將AI從云端加上邊緣化，AI的使用場(chǎng)景可將5G的商業(yè)模式開發(fā)出來(lái)。研發(fā)、投資，將無(wú)線、通訊、邊緣計(jì)算通過(guò)感知、推理、行動(dòng)的過(guò)程中迭代是高通在5G+AI領(lǐng)域上可為業(yè)界做出的貢獻(xiàn)。TWXesmc

Andrew Grant：Imagination AI芯片方案助力自動(dòng)駕駛

TWXesmc

Imagination Technologies視覺(jué)及AI部門高級(jí)總監(jiān)Andrew Grant為現(xiàn)場(chǎng)觀眾描述了云端的工作，還解釋了智能物聯(lián)網(wǎng)和邊緣設(shè)備的如何運(yùn)作原理。他表示，在智能攝像頭監(jiān)控、智能駕駛以及其他更多的領(lǐng)域都會(huì)使用到邊緣設(shè)備，其演講主要圍繞這些領(lǐng)域展開。TWXesmc

Imagination的AI芯片方案可以面向監(jiān)控?cái)z像頭、智能汽車以及智慧城市的邊緣設(shè)備進(jìn)行拓展。Andrew 認(rèn)為，當(dāng)前智能汽車是非常熱的話題，神經(jīng)網(wǎng)絡(luò)在汽車上的應(yīng)用，可讓ADAS、汽車自動(dòng)化、攝像頭監(jiān)測(cè)等性能得到明顯提升，而精準(zhǔn)地識(shí)別前方路況，需要車載配件以及神經(jīng)網(wǎng)絡(luò)相互協(xié)調(diào)工作。TWXesmc

TWXesmc

在智能汽車上，Imagination的PowerVR可支持自動(dòng)駕駛的路徑規(guī)劃、道路標(biāo)志識(shí)別、導(dǎo)航、司機(jī)疲勞監(jiān)測(cè)預(yù)警等功能，當(dāng)汽車與攝像頭通過(guò)車聯(lián)網(wǎng)連接在一起時(shí)，在車聯(lián)網(wǎng)的輔助下，智慧交通將成為可能。不過(guò)，自動(dòng)駕駛水平從最低級(jí)到最高級(jí)也代表著越來(lái)越高的要求、越來(lái)越強(qiáng)大的功能，其所需的算力也將漲至500+Tops，這需要低能耗、高算力的芯片。TWXesmc

同時(shí)，Andrew 以智能相機(jī)為例，探討了邊緣與云的關(guān)系。他表示，單一的智能相機(jī)能檢測(cè)到移動(dòng)的物體，但不能區(qū)別鳥和可疑的人。如果它在神經(jīng)網(wǎng)絡(luò)和加速器上面，我們就可以把這個(gè)視頻放在神經(jīng)網(wǎng)絡(luò)上，就能知道他們?cè)谧鍪裁?。這就是邊緣更強(qiáng)大帶來(lái)的益處，這個(gè)邊緣可以去幫助云，同時(shí)云也可以幫助邊緣。TWXesmc

未來(lái)在車上可能會(huì)有6-12個(gè)屏幕，這需要訓(xùn)練GPU，讓汽車可去運(yùn)行8個(gè)獨(dú)立的處理器。并且，當(dāng)一個(gè)處理器壞掉，也不影響其他處理器的運(yùn)行。“相互獨(dú)立運(yùn)行非常重要，能帶來(lái)更好的性能，使系統(tǒng)更加靈活，這應(yīng)該是未來(lái)的主流。” Andrew 表示：“不同的處理器、CPU、解決方案都是非常重要的，但是我們認(rèn)為的GPU還有神經(jīng)網(wǎng)絡(luò)的加速器，把二者結(jié)合會(huì)帶來(lái)更好的結(jié)果。”TWXesmc

最后，Andrew強(qiáng)調(diào)，PowerVR的處理速度是移動(dòng)CPU的100+倍。Imagination PowerVR 3NX IP的單核設(shè)計(jì)支持0.6-10Tops的計(jì)算性能，通過(guò)多核結(jié)構(gòu)最多提供高達(dá)160Tops的計(jì)算性能，可以滿足對(duì)算力要求的汽車領(lǐng)域的需求。TWXesmc

戴金權(quán)：大數(shù)據(jù)分析可與人工智能相統(tǒng)一

TWXesmc

英特爾高級(jí)首席工程師、大數(shù)據(jù)技術(shù)全球CTO戴金權(quán)表示，英特爾一直致力于提供從端到端，包括設(shè)備端、邊緣、網(wǎng)絡(luò)到數(shù)據(jù)中心端到端完整的解決方案或者計(jì)算架構(gòu)。為此，他重點(diǎn)介紹了英特爾的開源項(xiàng)目Analytics Zoo。TWXesmc

“我們?cè)谟⑻貭栕隽撕芏喙ぷ?，包括Analytics Zoo項(xiàng)目，該項(xiàng)目能夠?qū)⒋髷?shù)據(jù)分析和人工智能統(tǒng)一起來(lái)。此前，在大數(shù)據(jù)分析和人工智能當(dāng)中，沒(méi)有一種解決方案能夠解決所有問(wèn)題。”他表示。TWXesmc

直到今日，英特爾的至強(qiáng)服務(wù)器仍是大數(shù)據(jù)分析和人工智能的基礎(chǔ)架構(gòu)。包括：Cascade Lake，至強(qiáng)可擴(kuò)展處理器，以及一些新功能的支持，構(gòu)成了一個(gè)非常基礎(chǔ)、應(yīng)用廣泛的人工智能+大數(shù)據(jù)分析的應(yīng)用平臺(tái)。TWXesmc

那么，如何在基礎(chǔ)的平臺(tái)上利用Apache Spark來(lái)構(gòu)建人工智能？英特爾開發(fā)、開源了基于Apache Spark分布式深度學(xué)習(xí)的框架BigDL。BigDL在大數(shù)據(jù)的平臺(tái)上提供了一個(gè)原生的深度學(xué)習(xí)的圖像，可讓用戶直接在現(xiàn)有大數(shù)據(jù)Spark上運(yùn)行深度學(xué)習(xí)的應(yīng)用，同時(shí)為底層大規(guī)模分布式硬件集群做了大量的優(yōu)化。TWXesmc

對(duì)于大多數(shù)用戶來(lái)說(shuō)，尤其在生產(chǎn)系統(tǒng)當(dāng)中，基于Apache Spark這樣的大數(shù)據(jù)集群仍然是生產(chǎn)數(shù)據(jù)、大量硬件資源的聚集地。更高效利用這些生產(chǎn)數(shù)據(jù)和硬件資源，能夠?qū)⑿碌娜斯ぶ悄艿膽?yīng)用支持起來(lái)。TWXesmc

王孝斌：HiAI 2.0的現(xiàn)狀及優(yōu)勢(shì)

TWXesmc

華為無(wú)線終端芯片業(yè)務(wù)部副總經(jīng)理王孝斌分享了華為在端側(cè)AI、HiAI上的進(jìn)展情況。端側(cè)的Machine Learing會(huì)讓手機(jī)越來(lái)越智能，預(yù)計(jì)到2022年，80%的手機(jī)會(huì)具備端側(cè)AI的能力。TWXesmc

HiAI是基于集成NPU使用專業(yè)的指令集和計(jì)算庫(kù)，高效執(zhí)行神經(jīng)網(wǎng)絡(luò)的算子。在AI時(shí)代，專業(yè)的NPU張量計(jì)算最適合AI的應(yīng)用。HiAI采用了很多種優(yōu)化方法，盡量將計(jì)算在本地完成，由此實(shí)現(xiàn)快速簡(jiǎn)潔有效的推理預(yù)算。TWXesmc

去年，華為推出了HiAI 2.0，跟著麒麟980發(fā)貨，目前服務(wù)的消費(fèi)者已經(jīng)超過(guò)了6000萬(wàn)。據(jù)悉，HiAI2.0平臺(tái)包括HiAI Foundation芯片能力、HiAI Engine應(yīng)用能力與HiAI Service服務(wù)能力，分別對(duì)應(yīng)的是芯、端、云上的開放平臺(tái)。TWXesmc

在芯片能力方面，因?yàn)轺梓?80的關(guān)系，HiAI2.0平臺(tái)的AI算力更強(qiáng)。以圖像識(shí)別為例，麒麟970的每分鐘圖片識(shí)別率為2000張，而麒麟980則增加到4500張。HiAI2.0能夠支持輪廓、姿態(tài)細(xì)粒度的物理識(shí)別，可進(jìn)行視頻的處理，做到了精準(zhǔn)象素級(jí)的分割。TWXesmc

另外，HiAI2.0還具備以下優(yōu)勢(shì)：算法方面有較大提升，支持的算子數(shù)增加到了147個(gè)；支持當(dāng)下幾乎所有的主流模型，包括TensorFlow、CoreML、Caffe2、ONNX、PaddlePaddle、MindSpore等；在工具鏈方面也有提升；在兼容性方面可兼容INT8。同時(shí)，HiAI2.0的開發(fā)周期也有了非常大的提升。芯片級(jí)Foundation開發(fā)周期縮短到一個(gè)星期，基于云的Service由周期縮短到1天，HiAI Engine周期縮短到一個(gè)小時(shí)。TWXesmc

歐陽(yáng)劍：2019年“昆侖”將會(huì)在內(nèi)部大規(guī)模使用

TWXesmc

百度主任架構(gòu)師歐陽(yáng)劍介紹了百度近年來(lái)在AI芯片上的工作，重點(diǎn)講述了百度“昆侖”芯片。TWXesmc

“AI時(shí)代的摩爾定律非常高，在數(shù)據(jù)和模型復(fù)雜度方面，每?jī)赡昃陀辛孔蛹?jí)的提高。此背景下，專用處理器是必經(jīng)之路。”歐陽(yáng)劍還介紹，過(guò)去的百度一直在探索一條適合自己發(fā)展的AI處理器的路。2011年左右，在做GE FPGA的架構(gòu)器；2013年，在FPGA基礎(chǔ)上誕生了性能AI處理器；2017年，基于FPGA架構(gòu)的AI處理器具備了CT tops性能，并有了1000+片F(xiàn)PGA的部署規(guī)模。同年，百度提出了XPU的架構(gòu)，該架構(gòu)是普適的AI計(jì)算架構(gòu)，可用在云端、自動(dòng)駕駛、邊緣計(jì)算，具有很高的計(jì)算能力、高通用性、靈活性；2018年，百度發(fā)布了“昆侖”，其性能比之前提高了30倍。TWXesmc

“昆侖”芯片基于三星14nm制程工藝，有很高的內(nèi)存帶寬，性能達(dá)到260 tops，具有極大的通用性和靈活性，該芯片既能做訓(xùn)練也可做預(yù)測(cè)。未來(lái)百度將會(huì)把“昆侖”應(yīng)用于自動(dòng)駕駛領(lǐng)域，利用XPU強(qiáng)大的計(jì)算能力和車載配件共同推動(dòng)自動(dòng)駕駛汽車的發(fā)展。歐陽(yáng)劍還透露，2019年“昆侖”將會(huì)在百度內(nèi)部大規(guī)模使用。TWXesmc

Chris Nicol：將助力AI從數(shù)據(jù)中心到邊緣設(shè)備

TWXesmc

Wave computing高級(jí)副總裁兼CTO Chris Nicol介紹了Wave研發(fā)的DPU。據(jù)了解，Wave的DPU芯片，可將軟件接入到芯片，能存取外部?jī)?nèi)存上的數(shù)據(jù)信息。DPU芯片內(nèi)部集成了大量Cluster，每個(gè)Cluster內(nèi)包含8個(gè)DPU算術(shù)單元、16個(gè)處理元素和存儲(chǔ)器。其中，處理單元用全局異步、局部同步設(shè)計(jì)實(shí)現(xiàn)，沒(méi)有時(shí)鐘信號(hào)，由數(shù)據(jù)流驅(qū)動(dòng)。處理單元與CGRA可同時(shí)運(yùn)行計(jì)算。TWXesmc

Chris還提到了聯(lián)合學(xué)習(xí)，在數(shù)據(jù)中心訓(xùn)練一個(gè)大型模型，將其分布到不同的邊緣設(shè)備上。邊緣設(shè)備也具備訓(xùn)練的能力，可在數(shù)據(jù)中心訓(xùn)練好的模型基礎(chǔ)上持續(xù)訓(xùn)練學(xué)習(xí)，同時(shí)邊緣設(shè)備可將后續(xù)學(xué)習(xí)的結(jié)果再傳回?cái)?shù)據(jù)中心，有助于數(shù)據(jù)中心模型的進(jìn)一步分析和訓(xùn)練。未來(lái)，Wave將把AI從數(shù)據(jù)中心擴(kuò)展到邊緣設(shè)備。TWXesmc

錢誠(chéng)：寒武紀(jì)的目標(biāo)是做到端云一體

寒武紀(jì)副總裁錢誠(chéng)表示，目前在云端做智能處理要解決的問(wèn)題最終可以歸結(jié)為能效比的瓶頸問(wèn)題，已有的ASIC、ASIP、FPGA、GPU、CPU的能效大約集中在每秒100-1000億次能效比區(qū)間，再往上非常困難。TWXesmc

現(xiàn)在瓶頸有三方面的問(wèn)題：1.摩爾定律等物理定律功效漸漸減弱，現(xiàn)在設(shè)計(jì)在相同面積的情況下功耗是上升的。2.多核并行方面漸漸成為瓶頸，比如說(shuō)現(xiàn)在做超級(jí)系統(tǒng)就50%左右的并行效率。3.應(yīng)用場(chǎng)景發(fā)生變化，云端的重要性已經(jīng)變得越來(lái)越突出。TWXesmc

這需要性能功耗比高、通用性強(qiáng)的芯片。實(shí)際上，當(dāng)芯片設(shè)計(jì)得越通用其能效就越低，要同時(shí)滿足這兩個(gè)條件是非常困難的。TWXesmc

為解決這個(gè)問(wèn)題，現(xiàn)在業(yè)界的做法是主要集中在領(lǐng)域?qū)Ｓ玫募軜?gòu)。這個(gè)架構(gòu)需要支持非常高的性能功耗比，采用的電路都是領(lǐng)域?qū)Ｓ玫?。不過(guò)又要兼顧通用性，無(wú)法做到像CPU一樣對(duì)所有計(jì)算具備強(qiáng)有力的加速，只適合在某一領(lǐng)域里對(duì)某一大類的算法做加速，這就是現(xiàn)在的領(lǐng)域?qū)Ｓ眉軜?gòu)。TWXesmc

寒武紀(jì)的目標(biāo)是希望能夠在云端做到端云一體。很多端以后都會(huì)發(fā)展成多元具像的具體設(shè)備，比如：手機(jī)可以是瀏覽器、閱讀器、收音機(jī)、電視、搖控器等等。這些設(shè)備顯然是需要通用的智能處理能力，同時(shí)要使云端訓(xùn)練好的模型和框架嚴(yán)絲合縫地移植到具體的終端設(shè)備上，現(xiàn)在很多設(shè)備做不到，希望未來(lái)的端云一體能做到。TWXesmc