Google:機器學習芯片讓AI更快更高效
2017-11-06 11:33:01 n原文:Google Says Machine Learning Chips Make AI Faster and More Efficient
作者: Edd Gent
翻譯:無阻我飛揚
摘要:作者介紹了Google專用機器學習芯片TPU,從TPU的誕生,TPU的作用,TPU與CPU和GPU的比較,以及Google推出TPU的目的等方面做了闡述,以下是譯文。
Google最近對外公布了其專用的機器學習芯片TPU的內(nèi)部工作原理。在AI硬件至上的軍備競賽中打響了前哨戰(zhàn)。
TPU是Tensor Processing Unit(Tensor處理單元)的縮寫,這個芯片是為Google的開源機器學習庫TensorFlow量身定做的,自2015年以來,Google的數(shù)據(jù)中心一直在使用該芯片。但在本月初,公司最終提供了該設(shè)備的性能數(shù)據(jù)。
公司表示,目前這一代的TPU設(shè)計用于推介—利用已經(jīng)訓練過的神經(jīng)網(wǎng)絡(luò)執(zhí)行某種功能。比如通過Google Now識別語音命令。在執(zhí)行這些任務上,公司表示TPU比同一時期的GPU和CPU快15到30倍,同樣重要的是,TPU的功效也比同一時期GPU和CPU高30到80倍。
CPU,也就是中央處理器是自20世紀60年代以來大多數(shù)計算機的核心處理器。但是,CPU不太適合現(xiàn)代機器學習方法,特別是無法滿足深度學習極高的計算需求。
在二十世紀末,研究人員發(fā)現(xiàn),顯卡更適合這些任務的高度并行性,而GPU,也就是圖形處理單元成為實現(xiàn)神經(jīng)網(wǎng)絡(luò)最基本的技術(shù)。但是隨著對機器學習使用的不斷發(fā)展,Google希望為他們的需求量身打造一些東西,TPU應運而生。
“大約在六年前,當開始在我們產(chǎn)品的愈來愈多的地方使用昂貴的計算深度學習模型時,對TPU的需求就已經(jīng)出現(xiàn)了。因為使用這些模型的計算費用讓我們擔憂,”Google首席工程師Norm Jouppi 在博客中寫道。
“假設(shè)一個場景,人們每天使用谷歌語音搜索僅三分鐘。在我們所使用的處理單元上為語音識別系統(tǒng)運行深度神經(jīng)網(wǎng)絡(luò),那么Google數(shù)據(jù)中心的數(shù)量就會翻番! ”
Nvidia表示這種比較不完全公平,比較片面。谷歌將其TPU與服務器級英特爾Haswell CPU和Nvidia K80 GPU進行了比較,但從那時起已經(jīng)有兩代Nvidia GPU。英特爾一直保持沉默,但Haswell也已經(jīng)有了三代。
公司在一篇博文中說:“隨著NVIDIA的開普勒一代GPU在2009年問世,有助于喚醒全世界將GPU加速計算用于深度學習的可能性。它從未為該任務專門優(yōu)化過”
為了證明這一點,他們有了自己新的基準,指出最新的P40 GPU的計算速度是之前的兩倍。但重要的是,TPU浮出水面,這并不奇怪,Google已經(jīng)準備好了,甚至已經(jīng)在用新一代改進設(shè)計的TPU。
也就是說,它不會顛覆芯片市場。Google不會把TPU賣給競爭對手,而是完全專注于推介。Google仍然使用大量的Nvidia的GPU進行機器訓練,這解釋了公司為何對爭論沉默以對。
Google也可能是世界上為數(shù)不多的公司之一,用金錢和愿景從頭開始構(gòu)建一個全新領(lǐng)域的產(chǎn)品。但它也是世界上最大的處理器采購商之一,它決定了滿足自己需求的唯一方法是設(shè)計自己的芯片,這也為芯片制造商敲響了警鐘。
事實上,這似乎是這個想法的一部分。網(wǎng)絡(luò)世界的Steve Patterson寫道: “Google發(fā)布這篇研究論文旨在提高機器學習界和芯片制造商之間的討論水平,現(xiàn)在是實現(xiàn)商業(yè)解決方案,大規(guī)模運行推介的時候了”
這可能不會太遠,分析師Karl Freund 在《福布斯》雜志上寫道“鑒于市場的快速增長以及對高性能的渴望,我認為硅片廠商將不可避免地推出專為機器學習設(shè)計的芯片。”
Nvidia公司不太可能讓其市場領(lǐng)先地位下滑,而在今年晚些時候,英特爾將發(fā)布第一個具有機器學習焦點Nervana技術(shù)的芯片,intel-buys-a-startup-to-catch-up-in-deep-learning/" target="_blank" style="box-sizing: border-box; background: transparent; color: rgb(202, 12, 22); text-decoration-line: none; margin: 0px; padding: 0px; outline: none;">Nervana在去年的8月份被英特爾收購。甚至手機玩家已經(jīng)開始行動了。
Arm的Dynamiq微架構(gòu)允許客戶將AI加速器直接構(gòu)建到芯片中,從而將原生機器學習引入到智能手機等設(shè)備。而高通公司的項目Zeroth發(fā)布了一款軟件開發(fā)工具包,可以在具有驍龍處理器的智能手機和無人機等設(shè)備上運行深度學習程序。
Google發(fā)布TPU可能只是一個溫柔的推動,使業(yè)界朝著正確的方向前進。
EETOP 官方微信
創(chuàng)芯大講堂 在線教育
半導體創(chuàng)芯網(wǎng) 快訊
相關(guān)文章