“我手里的這款芯片真的很大，性能非常好，”張建鋒表示，含光800是全球最高性能AI智能芯片。這是阿里巴巴第一次用了自己的硬件架構(gòu)，集成了阿里算法到芯片里面去，也是互聯(lián)網(wǎng)公司研發(fā)的第一款大的芯片。q2Uesmc

據(jù)悉，這款含光800 AI芯片，平頭哥用最短的時(shí)間完成了芯片的設(shè)計(jì)、流片整個(gè)過(guò)程，7個(gè)月完成前端設(shè)計(jì)，之后用了3個(gè)月成功流片。q2Uesmc

據(jù)介紹，含光800芯片在業(yè)界標(biāo)準(zhǔn)的ResNet-50測(cè)試中，推理性能達(dá)到78563 IPS，比目前業(yè)界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍，基于含光800，AI云服務(wù)正式在阿里云上線性價(jià)比提升100%。“一個(gè)含光800的算力相當(dāng)于10個(gè)GPU。”張建鋒說(shuō)。q2Uesmc

這款號(hào)稱“球最強(qiáng)性能AI芯片”——含光800是一款側(cè)重于推理的AI芯片。由于人工智能芯片的差異化設(shè)計(jì)主要體現(xiàn)在硬件架構(gòu)和軟件算法上，二者需要高度適配才能發(fā)揮芯片的最大價(jià)值。從目前來(lái)看，傳統(tǒng)CPU、GPU在深度學(xué)習(xí)推理任務(wù)上并沒(méi)有完全發(fā)揮硬件能力，例如GPU架構(gòu)主要針對(duì)圖像處理設(shè)計(jì)，其硬件結(jié)構(gòu)、軟件生態(tài)幾乎固化，因此對(duì)AI任務(wù)很難有深度優(yōu)化。q2Uesmc

在算法方面，阿里巴巴達(dá)摩院機(jī)器智能實(shí)驗(yàn)室過(guò)去兩年構(gòu)建了完整的算法體系，涵蓋語(yǔ)音智能、語(yǔ)言技術(shù)、機(jī)器視覺(jué)、決策智能等方向，并且取得多個(gè)世界領(lǐng)先水平的成果；硬件方面，阿里巴巴此前已在服務(wù)器、FPGA以及存儲(chǔ)等領(lǐng)域擁有多年研發(fā)經(jīng)驗(yàn)，此外，平頭哥團(tuán)隊(duì)在體系結(jié)構(gòu)、編譯技術(shù)等領(lǐng)域擁有深厚的技術(shù)儲(chǔ)備。q2Uesmc

含光800性能的突破得益于軟硬件的協(xié)同創(chuàng)新，芯片架構(gòu)方面，含光800采用創(chuàng)新的架構(gòu)，針對(duì)深度學(xué)習(xí)中使用的大量權(quán)重參數(shù)和張量數(shù)據(jù)，在支持稀疏壓縮與量化處理的基礎(chǔ)上，通過(guò)獨(dú)特設(shè)計(jì)的數(shù)據(jù)訪存與流水線處理技術(shù)，大大減低了I/O需求和數(shù)據(jù)的搬移。NPU同時(shí)深度優(yōu)化了卷積，矩陣乘，向量計(jì)算和各種激活函數(shù)，通過(guò)高有效的硬件資源調(diào)度和全并行的數(shù)據(jù)流處理，把AI運(yùn)算的性能和能效都推向極致。q2Uesmc

目前，含光800已開(kāi)始應(yīng)用在阿里巴巴內(nèi)部核心業(yè)務(wù)中。根據(jù)云棲大會(huì)的現(xiàn)場(chǎng)演示，在城市大腦中實(shí)時(shí)處理杭州主城區(qū)交通視頻，需要40顆傳統(tǒng)GPU，延時(shí)為300ms，使用含光800僅需4顆，延時(shí)降至150ms。拍立淘商品庫(kù)每天新增10億商品圖片，使用傳統(tǒng)GPU算力識(shí)別需要1小時(shí)，使用含光800后可縮減至5分鐘。q2Uesmc

此外，含光800將通過(guò)阿里云對(duì)外輸出AI算力。張劍鋒宣布，基于含光800的AI云服務(wù)從9月25日起正式上線，而且相比傳統(tǒng)GPU算力，起性價(jià)比將會(huì)有100%的提升。 q2Uesmc
q2Uesmc

阿里巴巴集團(tuán)在芯片領(lǐng)域短短三年，可以說(shuō)是“順風(fēng)順?biāo)?rdquo;。在2017年的阿里云棲大會(huì)上，阿里達(dá)摩院正式成立；2018年的云棲大會(huì)上，平頭哥半導(dǎo)體公司正式成立。在今年的7月和8月，平頭哥先后發(fā)布高性能RICSC-V架構(gòu)處理器玄鐵910、無(wú)劍SoC平臺(tái)，隨著含光800的發(fā)布，平頭哥端云一體產(chǎn)品系列初步成型。q2Uesmc

“傳統(tǒng)公司能做到的和不能做到的，阿里都能做到，我們用硬件的能力，互聯(lián)網(wǎng)的速度，花了1年半的時(shí)間，做出了這款芯片。”張建鋒說(shuō)，阿里巴巴將成為軟硬件一體化協(xié)同發(fā)展的公司”。q2Uesmc

責(zé)任編輯：Elaineq2Uesmc