從TI到Mentor,再到最近的Cornami,Wally Rhines博士在其長達(dá)50年的半導(dǎo)體職業(yè)生涯中,見證了IC的誕生、IDM廠商的生死起伏,以及EDA行業(yè)的“三國殺”?,F(xiàn)在他又踏上了AI芯片和數(shù)據(jù)加密計(jì)算的創(chuàng)業(yè)旅程,希望通過完全同態(tài)加密(FHE)計(jì)算技術(shù)為大數(shù)據(jù)保護(hù)和處理市場帶來一場顛覆。h4Kesmc
半導(dǎo)體增長的驅(qū)動(dòng)力
h4Kesmc
從歷史上看,全球半導(dǎo)體行業(yè)的發(fā)展一直受到大規(guī)模新興應(yīng)用的驅(qū)動(dòng),這些增長以上圖中黃色“ S曲線”表示。從大型機(jī)到小型機(jī),再到個(gè)人計(jì)算機(jī)和筆記本電腦,然后再到移動(dòng)通信,每個(gè)應(yīng)用都推動(dòng)著半導(dǎo)體行業(yè)進(jìn)入新一輪增長。 那么,什么應(yīng)用將推動(dòng)下一波半導(dǎo)體發(fā)展浪潮?“數(shù)據(jù)”將是主要驅(qū)動(dòng)力。h4Kesmc
圍繞數(shù)據(jù)這一核心,有四個(gè)領(lǐng)域的應(yīng)用值得關(guān)注:h4Kesmc
人工智能h4Kesmc
機(jī)器學(xué)習(xí)h4Kesmc
IoT邊緣計(jì)算h4Kesmc
5G通信h4Kesmc
所有這些新興應(yīng)用可以歸為一種——“大數(shù)據(jù)管理和分析”。 無論是在AI中構(gòu)建ML模型,還是在IoT中使數(shù)據(jù)分析更接近數(shù)據(jù)收集點(diǎn),還是工廠自動(dòng)化中實(shí)時(shí)通信的處理,這一切都與管理和分析大數(shù)據(jù)有關(guān)。h4Kesmc
數(shù)據(jù)就是信息時(shí)代的“石油”
h4Kesmc
如今,“數(shù)據(jù)就是新石油”的說法變得越來越明確。從數(shù)據(jù)中捕獲信息,通過學(xué)習(xí)、構(gòu)思和創(chuàng)新就可以創(chuàng)造價(jià)值和財(cái)富?,F(xiàn)今,每隔2-3年,可用于計(jì)算分析的數(shù)據(jù)量都會(huì)翻倍,而我們只能分析約2%的可用數(shù)據(jù)。h4Kesmc
以噴氣式發(fā)動(dòng)機(jī)為例,Pratt & Whitney、通用電氣和勞斯萊斯等發(fā)動(dòng)機(jī)制造商都會(huì)持續(xù)監(jiān)控所制造的發(fā)動(dòng)機(jī)引擎的性能,每個(gè)引擎每小時(shí)產(chǎn)生的數(shù)據(jù)量超過70 TB。只有這些引擎的制造商才能使用這些數(shù)據(jù)來深入了解引擎的運(yùn)行狀況和潛在的維護(hù)需求。這些信息對于航空公司至關(guān)重要,他們愿意付費(fèi)購買。發(fā)動(dòng)機(jī)制造商甚至可以改變一下商業(yè)模式,發(fā)動(dòng)機(jī)免費(fèi)送,而只是向航空公司收取維護(hù)服務(wù)的費(fèi)用。由此可以看出,擁有高價(jià)值的信息可以成為一門大生意。h4Kesmc
數(shù)據(jù)的收集及收益
h4Kesmc
視頻和圖像會(huì)產(chǎn)生大量數(shù)據(jù),每天超過1PB(百萬GB)。此外,物聯(lián)網(wǎng)設(shè)備中的傳感器不斷收集各種類型的數(shù)據(jù),包括視覺信息、氣味、聲音和振動(dòng)等。傳感器正變得越來越復(fù)雜,為設(shè)計(jì)人員集成多種技術(shù)(包括模擬、數(shù)字、RF、MEMS和其他電子器件)帶來了巨大挑戰(zhàn)。h4Kesmc
h4Kesmc
像智能手環(huán)等可穿戴設(shè)備,在很小的空間內(nèi)集成了MCU、MESM傳感器、加速度計(jì)、電池充電和管理芯片、ADC轉(zhuǎn)換器、模擬信號處理,以及藍(lán)牙等RF無線通信功能。設(shè)計(jì)極其復(fù)雜,但又要求低功耗和低成本,這給半導(dǎo)體廠商和IC設(shè)計(jì)工程師提出了極高的要求。h4Kesmc
h4Kesmc
實(shí)際上,半導(dǎo)體廠商并不是信息和數(shù)據(jù)收集熱潮的真正受益者。真正的受益者是那些擁有數(shù)據(jù),并對其進(jìn)行分析然后再出售信息的公司,諸如Google、Facebook、阿里巴巴等互聯(lián)網(wǎng)公司,他們正在極力收集數(shù)據(jù),通過分析和銷售信息而獲得十億甚至百億美元的收入。h4Kesmc
h4Kesmc
十年前,F(xiàn)abless公司購買了晶圓制造廠商80%的晶圓,三星、英特爾和德州儀器等IDM購買了剩下的20%。如今,Google、蘋果和華為等系統(tǒng)和信息技術(shù)公司購買了接近20%的晶圓,這一細(xì)分市場每年都以35%的速度增長。h4Kesmc
數(shù)據(jù)的分析和VC投資
h4Kesmc
過去20年來,芯片公司獲得的VC投資在2000年達(dá)到頂峰,約為25億美元,在隨后的15年里持續(xù)下降。然而,在2017年,特定域處理器AI芯片初創(chuàng)公司獲得的VC投資迅速增加,在2018年達(dá)到35億美元的峰值,比2000年的最高記錄還增加了10億美元。VC投資的無晶圓廠半導(dǎo)體公司中有一半以上都是專注于AI領(lǐng)域。h4Kesmc
h4Kesmc
如果僅分析2012年至2019年這7年間半導(dǎo)體公司的前三輪風(fēng)險(xiǎn)投資,我們會(huì)看到AI和機(jī)器學(xué)習(xí)占據(jù)了大部分投資。這些AI和ML芯片的目標(biāo)應(yīng)用是什么?h4Kesmc
h4Kesmc
該圖顯示了這一時(shí)期內(nèi)針對每個(gè)應(yīng)用的初創(chuàng)公司數(shù)量。其中最大的類別是模式識(shí)別。大部分投資去到視覺和面部模式識(shí)別領(lǐng)域,但也有大量資金投到其他模式的識(shí)別,例如語音識(shí)別、氣味識(shí)別、疾病診斷和自動(dòng)駕駛車輛控制等。h4Kesmc
風(fēng)險(xiǎn)投資的第二大類別是高性能計(jì)算(HPC),特別是數(shù)據(jù)中心,這由VC支持的初創(chuàng)公司所針對的應(yīng)用領(lǐng)域。Graphcore、Groq、Habana Labs和Cornami是后馮·諾伊曼(Von Neuman)時(shí)代開發(fā)新的芯片架構(gòu)的范例。h4Kesmc
第三大類別是通用邊緣計(jì)算。許多分析人士認(rèn)為,物聯(lián)網(wǎng)將推動(dòng)邊緣計(jì)算的快速增長,但速度卻慢于預(yù)期。不可避免的是,它將是一個(gè)巨大的增長領(lǐng)域。為什么? 因?yàn)槟鞘怯?jì)算機(jī)行業(yè)發(fā)展的必然方式,即從集中的高性能計(jì)算到普及的邊緣甚至終端計(jì)算。h4Kesmc
數(shù)據(jù)保護(hù)和FHE
有三種主要方法可以保護(hù)敏感數(shù)據(jù)。 一種是將數(shù)據(jù)導(dǎo)入算法并在數(shù)據(jù)中心進(jìn)行處理。采用這種辦法,你必須信任數(shù)據(jù)中心及其計(jì)算機(jī)、操作系統(tǒng)和其他通信設(shè)備。但是,數(shù)據(jù)中心可能遭到黑客攻擊,因此不能完全信任。h4Kesmc
第二種方案是在構(gòu)建機(jī)器學(xué)習(xí)模型時(shí)保持?jǐn)?shù)據(jù)安全,其中之一稱為“聯(lián)合學(xué)習(xí)”。利用聯(lián)合學(xué)習(xí),機(jī)器學(xué)習(xí)模型的子集被下載到敏感數(shù)據(jù)的位置,例如手機(jī)、PC或本地?cái)?shù)據(jù)中心。機(jī)器學(xué)習(xí)模型從數(shù)據(jù)中學(xué)習(xí),然后發(fā)送回模型的創(chuàng)建者。這種方法也不是很安全,因?yàn)槟惚仨毿湃文P退姓咭约坝糜趶臄?shù)據(jù)中學(xué)習(xí)的所有算法。h4Kesmc
h4Kesmc
第三種方法是同態(tài)加密(Homomorphic encryption),就是讓數(shù)據(jù)始終處于加密狀態(tài),任何人都不能信任。完全同態(tài)加密(FHE)可以保護(hù)數(shù)據(jù),而不是數(shù)據(jù)中心??蛻舳藘H使用FHE加密數(shù)據(jù),然后將其發(fā)送到云端。無需解密即可對加密數(shù)據(jù)執(zhí)行所有形式的算術(shù)和邏輯計(jì)算。 計(jì)算的加密結(jié)果被發(fā)送回客戶端,客戶端可以解密信息。只有數(shù)據(jù)的所有者才能看到原始數(shù)據(jù)文本,所有其他人只能訪問加密的數(shù)據(jù)。h4Kesmc
在不久的將來,可以使用加密數(shù)據(jù)構(gòu)建機(jī)器學(xué)習(xí)模型。這對于個(gè)人財(cái)務(wù)和醫(yī)療數(shù)據(jù)尤為重要。 據(jù)IDC預(yù)測,到2024年軟件和服務(wù)的機(jī)器學(xué)習(xí)市場將達(dá)到200億美元規(guī)模。h4Kesmc
一旦FHE被廣泛采用,擁有數(shù)據(jù)的任何人都可以通過建立專有模型來利用它。無需出售模型中的數(shù)據(jù),只出售對模型的訪問權(quán)限。數(shù)據(jù)可以成為所有應(yīng)用類型的業(yè)務(wù),數(shù)據(jù)中的信息和獨(dú)到發(fā)現(xiàn)可以一次又一次地轉(zhuǎn)售給許多客戶。只有數(shù)據(jù)的所有者才能看到實(shí)際的數(shù)據(jù)。h4Kesmc
既然FHE擁有如此不可思議的優(yōu)勢,為什么還不盡早采用?FHE有其自身的問題,它在計(jì)算上非常密集。如果以與未加密數(shù)據(jù)相同的速度處理FHE加密數(shù)據(jù),就要求計(jì)算機(jī)的運(yùn)行速度是當(dāng)今典型的Xeon或nVidia服務(wù)器的一百萬倍。h4Kesmc
h4Kesmc
AWS曾經(jīng)嘗試在傳統(tǒng)的英特爾至強(qiáng)服務(wù)器上實(shí)施FHE,處理具有1億條數(shù)據(jù)的典型財(cái)務(wù)數(shù)據(jù)庫,需要24,000個(gè)內(nèi)核處理器進(jìn)行4.4天的計(jì)算。 而Cornami正在開發(fā)的芯片設(shè)計(jì)的仿真表明,通過使用特殊的編譯器和處理器的動(dòng)態(tài)可重配置性,可以將4.4天壓縮為10秒。h4Kesmc
為了有效地執(zhí)行FHE計(jì)算,我們需要能夠隨處理器內(nèi)核數(shù)量擴(kuò)展性能的計(jì)算機(jī)體系結(jié)構(gòu),這需要特殊的軟件編譯器和特殊的芯片架構(gòu)。應(yīng)對FHE處理的挑戰(zhàn)需要多種功能的結(jié)合:h4Kesmc
●大規(guī)模并行計(jì)算h4Kesmc
●消除大多數(shù)內(nèi)存讀寫h4Kesmc
●可以生成集成、獨(dú)立的可執(zhí)行數(shù)據(jù)流和控制流的軟件h4Kesmc
●能夠隨芯片、板卡和服務(wù)器上的處理器內(nèi)核數(shù)量線性擴(kuò)展的芯片硬件h4Kesmc
●動(dòng)態(tài)可重配置的硬件以適應(yīng)不同的算法,從而改變字寬或流水線深度h4Kesmc
這些功能已在FPGA仿真器上進(jìn)行了演示,可用于測量芯片設(shè)計(jì)的性能。芯片的實(shí)際生產(chǎn)將于明年啟動(dòng)。當(dāng)?shù)谝慌酒诿髂昴硞€(gè)時(shí)候推出時(shí),預(yù)計(jì)將很快采用實(shí)時(shí)FHE。美國國防部堅(jiān)決支持安全的“零信任”方法,已將FHE確定為實(shí)施解決方案,并正在倡導(dǎo)FHE軟件在國際上的可用性,以確保全球所有計(jì)算機(jī)數(shù)據(jù)的安全。h4Kesmc
據(jù)Gartner估計(jì),到2025年,全球所有公司中將有25%具有同態(tài)加密程序?;贖E和FHE的軟件和服務(wù)公司正在增加。所有這一切都“恰逢其時(shí)”,因?yàn)楫?dāng)今的互聯(lián)網(wǎng)安全機(jī)制可能會(huì)被1000量子位的量子計(jì)算機(jī)輕易打破。FHE是當(dāng)今唯一已知的“經(jīng)得住量子攻擊”的安全方法。h4Kesmc
h4Kesmc
最后,Wally Rhines博士總結(jié)到,電子設(shè)備和系統(tǒng)的半導(dǎo)體含量將繼續(xù)增長。經(jīng)過20多年的發(fā)展,半導(dǎo)體含量相對穩(wěn)定地保持在電子設(shè)備價(jià)值的16%,我們最近看到了這一含量比例的加速增長,現(xiàn)在大約占到電子設(shè)備價(jià)值的20%。h4Kesmc
數(shù)據(jù)將成為新的石油。它承載了我們的專業(yè)知識(shí)、信息和創(chuàng)新。過去十年中,數(shù)據(jù)的收集、分析和保護(hù)取得了巨大的進(jìn)步。數(shù)據(jù)是未來10年半導(dǎo)體行業(yè)增長的驅(qū)動(dòng)力。h4Kesmc
原文發(fā)布于ESMC姊妹媒體EETC h4Kesmc
責(zé)編:Elaine Linh4Kesmc