“邊緣側(cè)智能設備大規(guī)模爆發(fā)的趨勢，使數(shù)據(jù)成為如今AI芯片領域最大的挑戰(zhàn)。”2019年11月7日，在由ASPENCORE《電子工程專輯》、《國際電子商情》和《電子技術設計》主辦的“2019全球雙峰會”上，地平線副總裁&AIOT芯片方案產(chǎn)品線總經(jīng)理張永謙以“邊緣AI芯片賦能行業(yè)，共建普惠AI時代”為題，介紹了地平線機器人在邊緣AI芯片以及解決方案，以及地平線對AI在邊緣側(cè)落地背后的思考。W2gesmc
數(shù)據(jù)顯示，目前在邊緣側(cè)，99%的數(shù)據(jù)都是沒有被經(jīng)過智能化處理或者是結(jié)構化處理的，而這些沒有被利用起來的數(shù)據(jù)就成為了垃圾數(shù)據(jù)。如果把這一部分數(shù)據(jù)送到云端進行智能處理，則需要付出非常大的代價，這其中不僅包括傳輸帶寬，還有云端為處理這么多海量數(shù)據(jù)所付出的代價。W2gesmc
此外，5G大潮已開始在中國落地，5G對于單位面積之內(nèi)的設備的接入數(shù)量，包括接入帶寬比4G高了一個量級，這也進一步加劇了邊緣側(cè)數(shù)據(jù)和比較有限也比較難以實現(xiàn)的骨干網(wǎng)處理能力之間的矛盾。W2gesmc
因此，能夠處理上述矛盾，且具有非常好的隱私保護性的邊緣計算便成了大勢所趨。W2gesmc
在邊緣側(cè)如何快速智能處理大量數(shù)據(jù)？
在邊緣側(cè)做快速智能處理大量數(shù)據(jù)，是當下主攻AI芯片和計算芯片領域的玩家們集中攻堅的難題。而邊緣側(cè)的AI芯片也已成為市場非常搶手的產(chǎn)品，僅僅在國內(nèi)范圍內(nèi)，對外宣稱做AI芯片的公司就已達到50-100家的規(guī)模。W2gesmc
張永謙表示:“地平線從成立之初到現(xiàn)在，對于AI芯片的看法與傳統(tǒng)芯片公司的看法是非常不一樣的，我們的理念首先是軟硬結(jié)合。傳統(tǒng)的半導體講的幾個參數(shù)無疑就是PPA：功耗、性能和成本。智能時代，光靠這幾個參數(shù)是不夠的，還需要更多的參數(shù)綜合的能量什么是好的AI芯片。”W2gesmc
據(jù)了解，目前市場上常見的基本都是在大力宣傳單位面積下的功耗，以及芯片能所提供的峰值的計算能力，如一個芯片宣稱是1T或者是4T。但張永謙認為，這樣還不夠：“就像一個處理器一樣，它大部分處理的時候，處理單元是空閑的，這個只是空耗和性能的浪費”。W2gesmc
張永謙表示:“我們要看第二個重要指標，就是在峰值算力典型場景的計算情況下的有效利用。有效利用率之后還不夠，因為現(xiàn)在要面對的是AI場景，這個場景其實是非常復雜的，還要再看在有效的計算能力輸出的情況下，你能達到對復雜場景處理的效果。把這幾個參數(shù)相乘，才能衡量邊緣側(cè)AI芯片最客觀的指標。”W2gesmc
地平線不止一次地在公開場合表示，未來人工智能的競爭一定是“軟硬結(jié)合”，要想真正的做好軟件，一定要做好硬件。地平線的芯片在設計之初，也是先有軟件，再有硬件。W2gesmc
據(jù)張永謙介紹，地平線的一款處理器，在沒有做任何優(yōu)化的情況下，對720P圖像做AI處理，它的計算資源利用率可以達到33.9%，每秒處理9.36幀，比通用GPU處理器的利用率高不少，即便如此，地平線仍在進一步探索。W2gesmc
W2gesmc
中間的彩色條是處理單元，上下是存儲單元W2gesmc
左圖顯示，在沒有經(jīng)過軟硬結(jié)合優(yōu)化前，計算單元是被不停的打斷，需要頻繁的讀取外部的存儲，頻繁往里輸數(shù)據(jù)。右圖則是經(jīng)過軟硬結(jié)合的優(yōu)化之后，計算的有效利用率被大大提高了，計算單元利用率可以達到85%，幀率處理速度達到了24幀/秒，在大大降低跟外部存儲交換頻率的同時，效率得到了大大的提升，地平線這就是地平線的“軟硬結(jié)合”。W2gesmc
張永謙表示：“也正是因為這一點，過去40年人類的快速發(fā)展重要退守就是摩爾定律，但是摩爾定律更多是強調(diào)著硬件創(chuàng)新，是工藝。我們的理念是在傳統(tǒng)摩爾定律即將走到盡頭的時候，通過軟硬結(jié)合的方式可以繼續(xù)推動摩爾定律，在下一個20年仍然快速的發(fā)展。”W2gesmc
AI芯片企業(yè)如何應對AIoT碎片化挑戰(zhàn)？
AIoT覆蓋范圍包括百行百業(yè)，因此它的場景呈現(xiàn)大量碎片化的特征，無論是世界五百強還是中國的五十強這種行業(yè)巨無霸企業(yè)，都很難應對這種大量碎片化的高難度挑戰(zhàn)，那么AI芯片企業(yè)要如何面對這種小市場量、大量碎片化的挑戰(zhàn)呢？張永謙從五個層面進行了分析：W2gesmc
1、AI產(chǎn)品形態(tài)種類非常多。有攝像頭、帶屏設備、機器人、智能家電、邊緣側(cè)計算設備。這么多AI產(chǎn)品形態(tài)如何的產(chǎn)品化，并實現(xiàn)很好的AI能力?非常不容易。W2gesmc
2、圖像和場景的效果繁雜。線下AI面臨的挑戰(zhàn)是每個場景不可復制的，今天解決方案也好、場景也好，在這里可以很好的輸出結(jié)果，但是換了一個天氣、換了一個場景，很可能就不靈了。怎么樣把方案做到更加普世化?這是非常大的挑戰(zhàn)。W2gesmc
3、怎么樣快速的開發(fā)上層智能應用，真正把AI能力服務落地。W2gesmc
4、如何快速把硬件做出來。地平線在落地的過程中發(fā)現(xiàn)，原來做硬件的廠商以及做軟件服務的廠商，甚至是做系統(tǒng)集成的公司都在進入這個行業(yè)，并迫切希望把智能化的產(chǎn)品做出來，再跟原有的能力結(jié)合。在這種四面八方的企業(yè)都搶食蛋糕的場景下，怎么樣快速把硬件做出來，這是很多創(chuàng)業(yè)公司甚至是老牌公司巨大的挑戰(zhàn)。W2gesmc
5、如何做到完整的系統(tǒng)集成。地平線推出旭日1.0時，主推的是AI芯片及基礎算法，但后來發(fā)現(xiàn)發(fā)展遇到瓶頸，怎么解決呢?張永謙表示：“我們把解決方案做得更加重。首先是怎么應對多樣化的產(chǎn)品形態(tài)。我們經(jīng)過思考，挑選了其中3種可能是在未來2-3年最先落地、量最大的產(chǎn)品，最先是智能RPC、帶屏近距離交互產(chǎn)品和可以克服前端不確定性的邊緣計算核，我們選擇了這三種智能產(chǎn)品的形態(tài)作為開發(fā)解決方案的入手點。選取了之后再就是軟件架構，并編成統(tǒng)一的框架，方便我們做解決方案的開發(fā)，也能讓開戶在不同的產(chǎn)品形態(tài)上快速的遷移，同時支持端和邊緣。”W2gesmc
面對以上五大挑戰(zhàn)，地平線提出了“底層賦能”的理念，在底層賦能的上面是下了非常多的功夫，對外不僅宣稱是AI芯片公司，更本質(zhì)是算法+芯片，軟硬結(jié)合的底層，包括解決方案服務客戶。W2gesmc
而在面對非常多的行業(yè)落地的應用、項目等機會的誘惑下，地平線也堅持一個理念，張永謙表示：“我們不做行業(yè)應用，并不和所賦能的合作伙伴、客戶競爭，就是把底層的東西做得更好，然后更好的賦能他們，讓AI特別是邊緣側(cè)的AI實現(xiàn)落地，最后實現(xiàn)普惠AI的效果。”W2gesmc
結(jié)語：AI芯片+算法基礎，加速邊緣側(cè)AI落地
2015年7月14日，中國第一家AI芯片公司地平線成立，率先提供軟硬結(jié)合BPU架構。也是全球第一家在臺積電實現(xiàn)了流片的AI芯片公司。W2gesmc
2017年底，地平線發(fā)布了中國第一款AI芯片，它有兩個系列，一個是面向自動駕駛的征程系列，另一個是面向AIot的旭日系列。W2gesmc
2018年4月征程芯片登陸美國頂尖Robotaxi車隊，到2018年年底，旭日一代落地首年，全球出貨量達到6位數(shù)。W2gesmc
今年8月30日地平線發(fā)布了第一款車規(guī)級芯片——征程二代，張永謙在ASPENCORE 2019 全球CEO峰會現(xiàn)場透露，明年和后年會地平線將陸續(xù)發(fā)布J2A和J3，真正意義上車規(guī)級的智能駕駛芯片。W2gesmc
10月29日，地平線推出采用28納米工藝的旭日二代邊緣AI芯片及一站式全場景芯片解決方案，瞄準AIoT智能應用市場。張永謙在ASPENCORE 2019 全球CEO峰會現(xiàn)場表示，地平線將于明年發(fā)布第三代旭日產(chǎn)品。W2gesmc
除了設計AI芯片之外，地平線也在花非常大的資源和力氣來做工具鏈，張永謙表示：“工具鏈就是讓有能力的客戶有自己的數(shù)據(jù)，可以在地平線已經(jīng)提供的一套標準的、軟硬結(jié)合的AI芯片的框架上，包括提供的基礎算法模型上，他們可以針對自己看重的差異化的場景、垂直化的場景，用自己的數(shù)據(jù)訓練自己的模型，就是把地平線提供的東西和差異化的內(nèi)容結(jié)合在一起，這樣的效率更高。”W2gesmc
此外，張永謙表示，地平線在AI芯片+算法基礎上做了更進一步的努力，針對典型行業(yè)的典型場景做了大量的解決方案，通過這個方式大大加速了邊緣側(cè)AI落地。W2gesmc
