根據(jù)市場調研公司Semico Research的預測，F(xiàn)PGA在人工智能應用中的市場規(guī)模將在未來4年內以38.4%的年復合增長率高速增長，至2023年達到52億美元的規(guī)模。Achronix Semiconductor公司總裁兼首席執(zhí)行官Robert Blake日前援引《華爾街日報》的文章稱，約有25%的企業(yè)愿意選擇人工智能或機器學習(AI/ML)以保持企業(yè)自身競爭力，未來2年內，會有72%的企業(yè)選擇布局AI。WBKesmc
WBKesmc
FPGA在AI應用中的增長率預測WBKesmc
但與此同時，AI算法的不斷演進，數(shù)值精度選擇日趨多樣性，僅依賴數(shù)據(jù)格式的轉變去降低能耗的方法已接近瓶頸，市場需要更具有高效計算力、高效大帶寬數(shù)據(jù)運送能力和高效豐富儲緩存能力的廣適應性平臺。WBKesmc
為此，Achronix公司專為高帶寬應用設計了全新的Speedster7t FPGA系列產品。這個被Robert Blake稱之為“公司歷史上最令人激動的發(fā)布”的產品，具有一個全新二維片上網絡(2D NoC)和一個高密度全新機器學習處理器(MLP)模塊陣列。通過將FPGA的可編程性與ASIC的布線結構和計算引擎結合在一起，Speedster7t系列產品創(chuàng)造了一類全新的“FPGA +”技術。WBKesmc
WBKesmc
Achronix公司總裁兼首席執(zhí)行官Robert BlakeWBKesmc
按照Robert Blake的說法，在開發(fā)Speedster7t系列FPGA的產品過程中，Achronix工程團隊針對那些基于邊緣和服務器的AI/ML應用、網絡處理和存儲，完全重新構想了整個FPGA架構，以平衡片上處理、互連和外部輸入輸出接口(I/O)，確保實現(xiàn)數(shù)據(jù)密集型應用吞吐量的最大化。WBKesmc
Speedster7t器件采用TSMC 7nm FinFET工藝制造，是專為接收來自多個高速來源的大量數(shù)據(jù)而設計，同時還需要將那些數(shù)據(jù)分發(fā)到可編程片上算法性和處理性單元中，然后以盡可能低的延遲來提供那些結果。Speedster7t系列產品包括高帶寬GDDR6接口、400G以太網端口和PCI Express Gen5等接口，所有這一切單元都互相連接以提供ASIC級帶寬，同時保留FPGA的完全可編程性。WBKesmc
FPGA+芯片的神奇之處
采用帶有DSP引擎的傳統(tǒng)FPGA去支持AI/ML應用是業(yè)界較為普遍的做法，但Robert Blake認為這種方式得不到高效的數(shù)值精度支持，需要消耗額外邏輯和內存資源，性能也受限于FPGA布線，所以他們引入了新的機器學習處理器。WBKesmc
MLP中的大規(guī)?？删幊逃嬎銌卧叫嘘嚵惺荢peedster7t FPGA的核心。作為高度可配置、計算密集型的單元模塊，MLP可支持4到24位的整點格式和高效的浮點模式，包括TensorFlow的16位格式，以及可使每個MLP計算引擎加倍的增壓塊浮點格式。WBKesmc
MLP與嵌入式存儲器模塊緊密相鄰，通過消除傳統(tǒng)設計中與FPGA布線相關的延遲，來確保以750 MHz的最高性能將數(shù)據(jù)傳送到MLP。這種高密度計算和高性能數(shù)據(jù)傳輸?shù)慕Y合使得處理器邏輯陣列能夠提供基于FPGA的最高可用計算能力以每秒萬億次運算數(shù)量為單位。WBKesmc
高性能計算和機器學習系統(tǒng)的關鍵之處，是能為多個數(shù)據(jù)流提供存儲源和緩沖的高片外存儲器帶寬。作為目前業(yè)界唯一支持GDDR6存儲器的FPGA，Speedster7t中有多達8個GDDR6控制器，可以支持4Tbps的GDDR6累加帶寬，并且以很小的成本就可提供與基于HBM的FPGA等效存儲帶寬。WBKesmc
Robert Blake說他們對比了HBM2和GDDR6兩個方案，得出的判斷是目前HBM2和GDDR6性能差不多，但HBM2成本太高，靈活性差，采用GDDR6能夠將成本降低一半。WBKesmc
除了極高的存儲帶寬，Speedster7t還擁有多達72個高性能SerDes，可以實現(xiàn)1-112Gbps的速度；帶有前向糾錯(FEC)的硬件400G以太網MAC支持4x 100G和8x 50G的配置；以及每個控制器有8個或16個通道的硬件PCI Express Gen5控制器。WBKesmc
芯片上方的高速公路網
二維片上網絡(NOC)是Speedster7t架構中的另一個重大創(chuàng)新。Robert Blake把它比喻為“就像疊加在FPGA互連這個城市街道系統(tǒng)上的空中高速公路網絡一樣，用以連接FPGA所有的高速數(shù)據(jù)和存儲器接口。”WBKesmc
舉例來說，假若將400G內容傳送到以太網比作在傳送帶上傳送盒子，那么影響傳輸?shù)某藗魉蛶俣?，還有盒子的大小。傳輸速度需要足夠快，以確保來得及裝包，但盒子越大效率也會越低。傳統(tǒng)FPGA在傳輸400G內容時，無論如何調整傳輸大小和傳輸頻率，也無法達到以太網的傳輸曲線，所以傳統(tǒng)FPGA器件幾乎無法滿足超高速的傳輸條件。WBKesmc
WBKesmc
Speedster7t NoC中的每一行或每一列都可作為兩個256位實現(xiàn)單向的、行業(yè)標準的AXI通道，工作頻率為2GHz，同時可為每個方向提供512Gbps的數(shù)據(jù)流量。這種做法極大簡化了高速數(shù)據(jù)移動，并確保數(shù)據(jù)流可以輕松地定向到整個FPGA結構中的任何自定義處理引擎。更重要的是，NOC消除了傳統(tǒng)FPGA使用可編程路由和邏輯查找表資源在整個FPGA中移動數(shù)據(jù)流中出現(xiàn)的擁塞和性能瓶頸，不僅提高了Speedster7t FPGA的總帶寬容量，還可以在降低功耗的同時提高有效LUT容量。WBKesmc
作為唯一一家既提供獨立FPGA芯片又提供Speedcore嵌入式FPGA(eFPGA)IP的公司，Achronix在Speedcore eFPGA IP中采用了與Speedster7t FPGA中使用的同一種技術，可支持從Speedster7t FPGA到ASIC的無縫轉換。當使用Speedcore eFPGA IP將Speedster7t FPGA轉換為ASIC時，客戶有望節(jié)省高達50%的功耗并降低90%的成本。WBKesmc
