前所未有：1億神經(jīng)元計算系統(tǒng)誕生，半導(dǎo)體巨頭新一代計算版圖初現(xiàn)

沖霄3e8ixadnpn 2020-03-20

展開全文

人類大腦由 860 億個互相連接的神經(jīng)元組成?？茖W(xué)家們希望在芯片中也能盡可能多的復(fù)制這種連接。

今天，英特爾宣布推出其最新神經(jīng)擬態(tài)系統(tǒng) Pohoiki Springs，首次將計算能力擴展到了 1 億個，將 Loihi 的神經(jīng)容量增加到一個小型哺乳動物大腦的大小。

Pohoiki Springs 是一個數(shù)據(jù)中心機架式系統(tǒng)，是英特爾迄今為止開發(fā)的最大規(guī)模的神經(jīng)擬態(tài)計算系統(tǒng)。它將 768 塊 Loihi 神經(jīng)擬態(tài)研究芯片集成在 5 臺標準服務(wù)器大小的機箱中。

英特爾的研究人員認為，與當今最先進的傳統(tǒng)計算機相比，神經(jīng)擬態(tài)系統(tǒng)擁有超級并行性和異步信號傳輸能力，可以在明顯降低功耗的同時顯著提升性能。

圖丨 Pohoiki Springs（來源：英特爾）

英特爾神經(jīng)擬態(tài)計算實驗室主任 Mike Davies 介紹稱：“Pohoiki Springs 將我們的 Loihi 神經(jīng)擬態(tài)研究芯片擴展了 750 倍以上，同時以低于 500 瓦的功率運行。當前，一些工作負載在傳統(tǒng)架構(gòu)（包括高性能計算 [HPC] 系統(tǒng)）上運行緩慢。而 Pohoiki Springs 系統(tǒng)則讓我們的研究合作伙伴能夠探索加速處理這些工作負載的方法。” 英特爾將向其于 2018 年成立的_英特爾神經(jīng)擬態(tài)研究社區(qū)_（INRC）成員提供這一基于云的系統(tǒng)，以擴展其神經(jīng)擬態(tài)工作來解決更大規(guī)模且更復(fù)雜的問題。

在今天早上接受包括 DeepTech 在內(nèi)的媒體采訪時，Mike Davies 表示，Pohoiki Springs 能夠最直接發(fā)揮它的價值的方向，將包括一些非常難的運算問題，比如 NP Complete 和 NP Hard 之類的問題。

“這些問題類似于我們大腦平時思考和解決的問題，像是如何計劃未來的任務(wù)和決定，如何計劃肢體活動軌跡等等。它們都可以被視為定義的非常好的運算問題。

我們認為，對于新架構(gòu)和 Pohoiki Springs 來說，存在一類支持大規(guī)模、高效率的運算任務(wù)。在執(zhí)行這些任務(wù)的時候，我們的新架構(gòu)并不一定會在吞吐量上超過傳統(tǒng)解決方案，因為傳統(tǒng)方案在平行運算上有自然優(yōu)勢，不過我們期待新架構(gòu)的優(yōu)點是降低延遲（ Latency），還有能耗優(yōu)勢。我們認為，針對同一個解決方案來說，神經(jīng)擬態(tài)架構(gòu)比傳統(tǒng)架構(gòu)的能耗少數(shù)千倍。節(jié)省的能耗可以反映在降低運營開銷上，因此具備能耗優(yōu)勢也非常重要”，他說。

圖丨 Mike Davies（來源：英特爾）

復(fù)盤英特爾神經(jīng)擬態(tài)硬件之路

神經(jīng)擬態(tài)計算（Neuromorphic Computing）是一個由硬件開發(fā)、軟件支持、生物模型相互交融而成的古老領(lǐng)域，旨在基于仿生的原理讓機器擁有類人的智能。

低功耗、高容錯、創(chuàng)造性…… 人腦有太多值得機器追趕的能力，因此也是很多計算科學(xué)家為之向往的存在。在人腦這個僅占 3% 人體質(zhì)量的器官中，1000 億個神經(jīng)元攜 1000 萬億個突觸相連接。每一秒都有神經(jīng)元衰老死亡 “退役” 的情況下，它仍能運轉(zhuǎn)計算著世界撲面而來的巨大信息量。而功耗只有 20 瓦。

1980 年，人類首次打開神經(jīng)擬態(tài)計算。超大規(guī)模集成電路 (VLSI) 發(fā)明者之一、加州理工學(xué)院傳奇人物 Carver Mead 在 Proceeding of IEEE 發(fā)表文章 Neuromorphic Electronics Systems，第一次提出神經(jīng)擬態(tài)概念，并設(shè)想用 CMOS 模擬電路去模仿生物視網(wǎng)膜 outer plexiform layer，搭建具有生物計算特性的系統(tǒng)。

最初的神經(jīng)擬態(tài)芯片，基本是為了人腦反向工程而存在，即為生物解剖、算法及模型團隊提供硬件驗證平臺。

但是隨著神經(jīng)擬態(tài)計算的發(fā)展，這種和傳統(tǒng)計算架構(gòu)完全不同地將計算和存儲高度整合的技術(shù)，展現(xiàn)了更大的潛力。不僅僅是學(xué)術(shù)機構(gòu)，包括 IBM、英特爾等大型科技公司也加入到了這個領(lǐng)域中。

圖丨強調(diào)存算一體的神經(jīng)擬態(tài)芯片架構(gòu)（來源：英特爾）

2017 年，作為英特爾研究院的一個研究課題，英特爾開發(fā)了代號為 Loihi 的第一款自主學(xué)習(xí)神經(jīng)擬態(tài)芯片，在神經(jīng)擬態(tài)硬件的開發(fā)上邁出一步。

英特爾的 Loihi 神經(jīng)擬態(tài)芯片把訓(xùn)練和推理整合到一個芯片上，并實現(xiàn)了計算和存儲功能的整合：單芯片中的 128 個小核各包含 1000 個神經(jīng)元硬件設(shè)計架構(gòu)，模擬多個“邏輯神經(jīng)元”，支持多種學(xué)習(xí)模式的可擴展的片上學(xué)習(xí)能力，實現(xiàn)多種不同的神經(jīng)網(wǎng)絡(luò)突破。Loihi 的名字其實取自于夏威夷海底的一座不斷噴發(fā)的活火山，每一次噴發(fā)都會擴大夏威夷島的范圍，英特爾將芯片取名 Loihi，就是希望其能夠通過不斷的自我學(xué)習(xí)，可以提供更加強大的人工智能的能力。

因為模擬了大腦根據(jù)環(huán)境的各種反饋來學(xué)習(xí)如何操作的運作方式，Loihi 在能耗上非常節(jié)能，采用一種新穎的 “異步脈沖” 的方式來計算，利用了可根據(jù)時間調(diào)節(jié)的脈沖和可塑觸突。資料顯示，與訓(xùn)練人工智能系統(tǒng)的通用計算芯片相比，Loihi 芯片的能效提升了 1000 倍。

圖丨 Loihi 的其他兩款計算系統(tǒng)

圍繞新生的計算產(chǎn)品，生態(tài)的建設(shè)同樣是一個重要事項。于是，在 2018 年，英特爾神經(jīng)擬態(tài)研究社區(qū)（INRC）的建立，希望進一步推動神經(jīng)擬態(tài)算法、軟件和應(yīng)用程序的開發(fā)。

到了 2019 年，英特爾推出 Pohoiki Beach，包含 64 塊 Loihi 研究芯片，擁有 800 萬神經(jīng)元，能夠提供更大的計算規(guī)模和更強的計算能力。目前 Pohoiki Beach 已經(jīng)可以供廣大研究人員使用。通過 Pohoiki Beach，研究人員可以利用英特爾的 Loihi 研究芯片開展實驗。在稀疏編碼、圖搜索、同步定位和建圖（SLAM）、路徑規(guī)劃、約束滿足問題等專業(yè)應(yīng)用領(lǐng)域，Loihi 能讓用戶以千倍于 CPU 的速度和萬倍于 CPU 的效率處理信息。

Pohoiki Beach 是英特爾神經(jīng)擬態(tài)研究工作的重要里程碑，它為英特爾研究院將該架構(gòu)擴展到 1 億個神經(jīng)元的計劃奠定了基礎(chǔ)。

直至今天，這個計劃終于實現(xiàn)，英特爾正式推出 “Pohoiki Springs” 的 Loihi 系統(tǒng)。

圖丨就在幾天前，基于 Loihi 的機器嗅覺系統(tǒng)還登上了 Nature Machine Intelligence（來源：英特爾）

英特爾和 INRC 研究人員一直在對外展示 Loihi 的各種能力，包括實時識別手勢、使用新型人造皮膚閱讀盲文、使用習(xí)得的視覺地標確定方向，以及學(xué)習(xí)新的氣味模式。所有這些功能都只需要消耗數(shù)十毫瓦的電能。到目前為止，這些小規(guī)模示例顯示出極好的可擴展性，英特爾相信，當運行更大規(guī)模的問題時，Loihi 比傳統(tǒng)解決方案更加快速高效。這模仿了自然界中從昆蟲大腦到人類大腦的可擴展性。

英特爾介紹，目前正為 Loihi 開發(fā)的頗具前景且高度可擴展算法示例包括：

約束滿足：約束滿足問題在現(xiàn)實世界中無處不在，從數(shù)獨游戲到航班調(diào)度，再到快遞配送規(guī)劃。這需要對大量潛在的解決方案進行評估，以找出一個或幾個能夠滿足特定約束的解決方案。Loihi 可以通過高速并行探索多個不同的解決方案來加速解決此類問題。
搜索圖和模式：每天，人們都會在基于圖的數(shù)據(jù)結(jié)構(gòu)中進行搜索，以找到最佳路徑和緊密匹配的模式，例如獲取駕駛方向或識別人臉。Loihi 已展示出快速識別圖中的最短路徑和執(zhí)行近似圖像搜索的能力。
優(yōu)化問題：可對神經(jīng)擬態(tài)架構(gòu)進行編程，使其動態(tài)行為能夠隨時間的推移對特定目標進行數(shù)學(xué)優(yōu)化。此行為可應(yīng)用于解決現(xiàn)實場景下的優(yōu)化問題，例如最大化無線通信信道的帶寬，或分配股票投資組合，以在目標收益率下最小化風(fēng)險。

由此也不難看出，與此前的產(chǎn)品類似，Pohoiki Springs 仍將是一款強調(diào)科研目的的產(chǎn)品。

（來源：英特爾）

半導(dǎo)體老將的新計算版圖正在成型

據(jù)了解，英特爾的 Pohoiki Springs 等神經(jīng)擬態(tài)系統(tǒng)仍處于研究階段，其設(shè)計目的并非取代傳統(tǒng)的計算系統(tǒng)，而是為研究人員提供一個工具來開發(fā)和表征新的神經(jīng)啟發(fā)算法，用于實時處理、問題解決、適應(yīng)和學(xué)習(xí)。

那么，作為一家商業(yè)公司，英特爾押注神經(jīng)擬態(tài)計算的最大驅(qū)動力是什么？

在英特爾的官網(wǎng)，神經(jīng)擬態(tài)計算被描述成“Next Generation of AI ”。

對于英特爾來說，隨著 AI 時代的到來，這家半導(dǎo)體老兵也在朝著 “以數(shù)據(jù)為中心” 轉(zhuǎn)型，數(shù)據(jù)的變化一直是其關(guān)注的重點。過去 20 年來，數(shù)據(jù)經(jīng)歷了非常大的變化，具體到用以進行計算的數(shù)據(jù)，人類還將對其進行更大規(guī)模的智能處理。在這個過程中，數(shù)據(jù)和計算之間的技術(shù)演進邏輯也在變化。

正如英特爾中國研究院院長宋繼強曾在一場媒體活動中介紹的，此前，人類主要以對聲音數(shù)據(jù)、視頻數(shù)據(jù)、圖片數(shù)據(jù)等數(shù)據(jù)進行多媒體計算為主，即只是進行編輯壓縮，不會做識別和理解。但是后來，人類開始對這些數(shù)據(jù)進行智能的處理；與此同時，數(shù)據(jù)產(chǎn)生的來源和流向也發(fā)生了變化，大量的數(shù)據(jù)開始由終端往云上走；在新的智能時代，為了更好地處理數(shù)據(jù)，很多人工智能算法隨之誕生，這些算法模型中有參數(shù)，于是便誕生了數(shù)據(jù)之上的數(shù)據(jù)，即源數(shù)據(jù)，其中的量可能是百萬級別的。

無論是數(shù)據(jù)的處理，還是提高計算效率、改善傳輸存儲，都出現(xiàn)了新的要求和新的優(yōu)化，英特爾希望能在愈發(fā)多元化的數(shù)據(jù)市場、計算市場延續(xù)優(yōu)勢，需要配備更豐富的 AI 計算硬件組合。

目前，這家公司已經(jīng)推出了包括 VPU、FPGA、CPU、GPU、NNP 到 AI 專屬芯片的多種產(chǎn)品，以及配套的軟件開發(fā)技術(shù)，封裝、測試技術(shù)等，但仍需要更前沿的布局來補充，即所謂對的“面向未來的計算”，勾畫新的計算版圖。

圖丨英特爾 Loihi 神經(jīng) ni 系統(tǒng)進化路線圖（來源：英特爾）

據(jù)了解，在計算硬件的規(guī)劃上，英特爾一方面正在已有的硬件架構(gòu)方式上繼續(xù)突破，另一個重要的方向在于——押注突破式計算技術(shù)。其中就包括神經(jīng)擬態(tài)計算和量子計算。

除了圍繞 Loihi 的神經(jīng)擬態(tài)計算以外，英特爾的量子計算布局則包括兩大內(nèi)容，一則是通過低溫超導(dǎo)量子位的方式實現(xiàn)量子計算，這一點與行業(yè)的主流方向一致，英特爾的進展是正在開發(fā) 49 個超導(dǎo)量子位測試芯片，并測試它的容錯能力、糾錯能力和連接性。

另一個內(nèi)容則是基于英特爾在傳統(tǒng)半導(dǎo)體領(lǐng)域發(fā)展的硅的加工工藝和測試工藝，利用硅電子自旋表示出量子態(tài)。據(jù)了解，在這個方向上，英特爾的 300 毫米、12 寸晶圓的生產(chǎn)線上已經(jīng)具備相應(yīng)的生產(chǎn)能力，有兩個量子位的芯片已在測試，且公司正在為規(guī)模化生產(chǎn)加大投入。