谷歌在一篇博客文章中正式宣布,將以“有限數(shù)量”向谷歌云客戶開放張量處理器(Tensor Processing Unit,簡稱TPU)服務(wù)。jt6esmc
谷歌傳奇工程師 Jeff Dean在推特上宣布谷歌TPU首次對外全面開放,這也意味著TPU的商業(yè)化正在加速。jt6esmc
“我們對此感到非常興奮,因為許多研究人員和工程師在進行機器學(xué)習(xí)時都遇見了計算力不足的問題,而我們認(rèn)為這(即 Cloud TPU)將是一個很好的解決方案。舉例來說,我們一個 Cloud TPU 設(shè)備可以在 24 小時內(nèi)將運行在 resnet-50 上的模型的識別精度訓(xùn)練到 75%?!盝eff Dean 在推特上興奮地表示。jt6esmc
jt6esmc
TPU是谷歌為機器學(xué)習(xí)而設(shè)計的人工智能定制芯片。將TPU開放,對于選擇在谷歌云平臺上運行機器學(xué)習(xí)模型的客戶來說,可謂好事一樁。但谷歌這次開放的TPU數(shù)量有限,而且按時收費,每小時成本為6.50美元。jt6esmc
TPU是谷歌為機器學(xué)習(xí)而設(shè)計的人工智能定制芯片,是一種ASIC(專用集成電路)。是谷歌為機器學(xué)習(xí)而設(shè)計的人工智能定制芯片,第一代TPU于2016年低調(diào)推出,廣泛應(yīng)用在AlphaGo、搜索、翻譯、相冊等背后的機器學(xué)習(xí)模型中。在AlphaGo戰(zhàn)勝李世石的系列賽中,TPU能讓AlphaGo“思考”更快,“想”到更多棋招、更好地預(yù)判局勢。jt6esmc
第二代TPU是在2017年5月18日的Google I/O 大會上推出,也稱為云TPU。云TPU對推理和訓(xùn)練都進行了優(yōu)化,每個 Cloud TPU 包含 4 個定制化的 ASIC,每個 Cloud TPU 的計算能力達到每秒 180 萬億次浮點運算(180 teraflops),并提供有 64GB 的高帶寬內(nèi)存。另外,這些電路卡即可以單獨使用,也可以通過超高速專用網(wǎng)絡(luò)連接起來,形成一個多層次的機器學(xué)習(xí)超級計算器,谷歌將之稱為“TPU pod”。谷歌預(yù)計今年晚些時候,將會開始供應(yīng)這種更大的超級計算器,并表示訓(xùn)練的時間-精度比將得到顯著提升。jt6esmc
TPU專用于人工智能和機器學(xué)習(xí),可為谷歌帶來兩大好處:jt6esmc
首先,利用自主研發(fā)的芯片,谷歌可以在核心的計算基礎(chǔ)設(shè)施方面更便宜、更有效地減少對英特爾、英偉達等芯片制造商的依賴。擁有自己的硬件使谷歌能夠更快地進行實驗。jt6esmc
其次,新的TPU也為谷歌的云計算業(yè)務(wù)帶來額外收入,現(xiàn)在,谷歌云平臺(GCP)和谷歌的業(yè)務(wù)應(yīng)用程序GSuite每季度可超過10億美元收入。jt6esmc
谷歌目前允許公司租用單個TPU板卡,今年晚些時候,將允許企業(yè)租用多個板卡,并連接成名為TPU pod的超級計算機網(wǎng)絡(luò)。后面谷歌會開源更多的 ML 模型。jt6esmc
芯片提供的是人工智能三要素中的計算力,如今TPU的全面開放,可為中小AI公司在2018年的商業(yè)化應(yīng)用落地提供硬件上的強大支撐。但也有業(yè)內(nèi)人士評論稱“TPU只能通過云獲取是一大障礙,英偉達在硬件方面還是碾壓谷歌”,并且認(rèn)為“TPU對固定算法還是有要求,目前應(yīng)用范圍最廣還是GPU。”jt6esmc
jt6esmc