|
新智元編譯 來源： 作者：Ari Levy，資深技術(shù)記者 編譯：聞菲 新智元啟動 2017 最新一輪大招聘：。 新智元為COO和執(zhí)行總編提供最高超百萬的年薪激勵；為骨干員工提供最完整的培訓(xùn)體系、高于業(yè)界平均水平的工資和獎金。加盟新智元，與人工智能業(yè)界領(lǐng)袖攜手改變世界。 簡歷投遞：jobs@aiera.com.cn HR 微信：13552313024 【新智元導(dǎo)讀】體系結(jié)構(gòu)宗師 David Patterson 即將于今年 7 月正式加入谷歌 TPU 團(tuán)隊，他也參與了 TPU 研發(fā)項目。此前有消息傳出 TPU 團(tuán)隊有數(shù)人離職創(chuàng)業(yè)，但 Patterson 日前身著谷歌大腦 T 恤在斯坦福發(fā)表演講，透露谷歌 TPU 團(tuán)隊并未解散。隨著這位頂級宗師的加入，谷歌關(guān)于 TPU 以及其他深度學(xué)習(xí)加速硬件，可能還有大動作。 一年前，加州大學(xué)伯克利分校為 David Patterson 舉辦了一次退休慶?；顒?，恭送這位大師從計算機體系結(jié)構(gòu) 40 年的學(xué)術(shù)生涯中退休。 Patterson 與斯坦福大學(xué)另一位大牛 John Hennessy 合著的兩本書：《計算機體系架構(gòu)：量化研究方法》和《計算機組織與設(shè)計：硬件/軟件接口》，只要是學(xué)體系結(jié)構(gòu)的人沒有沒聽過的。其中，《計算機體系架構(gòu)：量化研究方法》（下圖左）這本書也是過去 25 年來該領(lǐng)域最有影響力的教科書。
Patterson 去年 5 月在斯坦福發(fā)表了一次演講，其中提到他成功的原因是“一次做一件大事”（one big thing at a time）。 Patterson 要做的下一件大事可能是影響更為巨大。 Patterson 將于 7 月加入谷歌，正式參與 TPU 項目 今年 7 月，Patterson 將加入谷歌 TPU 團(tuán)隊。如今，Patterson 已經(jīng)成為 TPU 的主要傳道人之一（one of the principal evangelists）。周三，他在伯克利身著谷歌大腦的 T 恤發(fā)表演講，表示谷歌在 4 前年開始對硬件加速問題產(chǎn)生擔(dān)憂，并且這種憂慮一直傳遞到了頂層。按照當(dāng)時谷歌的計算資源，要是每個安卓用戶使用谷歌翻譯 3 分鐘，Patterson 說：“我們就必須將我們的數(shù)據(jù)中心翻倍?！薄@里的“我們”當(dāng)然指的就是谷歌。 谷歌母公司 Alphabet 每年花費 100 億美元，主要與數(shù)據(jù)中心成本掛鉤。而如今谷歌正在大力宣傳它所謂的“機器學(xué)習(xí)復(fù)興”。而深度神經(jīng)網(wǎng)絡(luò)接收的數(shù)據(jù)集越多越大越復(fù)雜就會愈發(fā)智能，但這需要的計算力也在成倍增長。谷歌必須在硬件效率方面取得重大突破。 Patterson 周四在斯坦福也發(fā)表了同樣的演講，——值得指出，Patterson 也是該論文的主要作者之一。論文得出的結(jié)論是，TPU 的運行速度是英特爾和英偉達(dá)的相關(guān)處理器的 15~30倍，能效高出 30~80 倍。 這篇論文將于下個月在多倫多舉辦的國際計算機體系結(jié)構(gòu)頂會（ISCA）上發(fā)布。 這篇論文也是 Patterson 加入谷歌后的首個項目。他每周一次會去谷歌山景總部，每周兩次在舊金山的公司辦公室工作。他會向谷歌大腦負(fù)責(zé)人 Jeff Dean 匯報。 不過，這實際上并不是 Patterson 第一次參與谷歌的項目——他在 2013 年至 2014 年學(xué)術(shù)休假期間在谷歌工作過。這次，他作為杰出工程師加入TPU 項目，據(jù)他退休慶?；顒觾H 2 個月。TPU 已經(jīng)在一年前投入谷歌數(shù)據(jù)中心開始使用。 Patterson：谷歌 TPU 團(tuán)隊沒有解散，也沒人被辭退 Patterson 實際上從來就沒有閑過。2013 年，他還在教書期間參加了一場舉重大賽，并刷新了他那個年齡的加利福尼亞州立記錄。 “現(xiàn)在我回想起來，沒有證據(jù)表明他要退休，除了那場慶祝會被稱為'退休慶?；顒印??！盤atterson 1987 年帶的博士生 Mark Hill 說，他也是慶?；顒拥囊粋€發(fā)言人。 關(guān)于谷歌的 TPU，，谷歌多次宣稱 TPU 不會對外銷售，也即不會對英特爾和英偉達(dá)構(gòu)成直接競爭關(guān)系。 但是，正如此前新智元文章中指出的那樣，使用谷歌云的第三方會因為 TPU 的加速而獲益。 深度學(xué)習(xí)初創(chuàng)公司 Skymind 創(chuàng)始人兼首席執(zhí)行官 Chris Nicholson 表示：“［谷歌］他們比其他人更擅于為自己打造好用的工具，但谷歌作為硬件公司從來沒有成功過，我也不認(rèn)為他們會選擇走這個戰(zhàn)略。” 但是，至少有一家初創(chuàng)公司正在努力填補谷歌不會踏足的這段空白。TPU 項目的幾名工程師與投資者 Chamath Palihapitiya 合作，組建了一家名為 Groq 的神秘初創(chuàng)公司。 TPU 還處于初期。到目前為止，TPU 已被證實在深度學(xué)習(xí)的第二階段“推理”上很有效。但至于第一階段的“訓(xùn)練”，谷歌仍然依靠購買市售的處理器。 不過，谷歌這家公司以一貫對其最前沿的項目秘而不宣著稱。 在伯克利的演講中，Patterson 被問及他的團(tuán)隊下一步計劃是什么，Patterson 沒有上鉤。他說，他在谷歌學(xué)到的一件事是，與學(xué)術(shù)界不同，他現(xiàn)在不能公開談?wù)撐磥淼漠a(chǎn)品了。 “我只是能說谷歌沒有閑著，”Patterson 說：“這看上去不錯，他們沒有放棄，也沒有人被辭退［譯注：這里可能指雖然有人從 TPU 團(tuán)隊離職，但谷歌并未將團(tuán)隊解散］?！?/p> 編譯來源：http://www./2017/05/06/googles-tpu-for-machine-learning-being-evangelized-by-david-patterson.html
John Hennessy 和 David Patterson 拿著他們合著的《計算機體系架構(gòu)：量化研究方法》，攝于大約 1991 年。來源：ACM
|
|
|
