淺談CPU,GPU,TPU,DPU,NPU,BPU

Zhengsqhz 2017-10-22

展開全文

隨著人工智能、深度學習的春風吹遍世界各地，各類芯片名詞GPU, TPU, DPU, NPU, BPU陸續(xù)出現(xiàn)在人們的視野，這些都是什么鬼？！它們與已有的CPU又是什么關(guān)系呢？對于計算機小白來說，如何抓住時代的脈搏，在同齡人面前指點江山，激揚文字呢？今天小編就給你提供一個全方位科普攻略。

首先介紹下這些詞的英文全稱：

CPU全稱：Central Processing Unit, 即中央處理器；

GPU全稱：Graphics Processing Unit, 即圖像處理器；

TPU全稱：Tensor Processing Unit, 即張量處理器；

DPU全稱：Deep learning Processing Unit, 即深度學習處理器；

NPU全稱：Neural network Processing Unit, 即神經(jīng)網(wǎng)絡(luò)處理器;

BPU全稱：Brain Processing Unit, 即大腦處理器。

下面小編將依次為大家介紹各類名詞。

CPU

CPU應(yīng)該是大家最常見的。主要包括運算器（ALU, Arithmetic and Logic Unit）和控制單元（CU, Control Unit），除此之外還包括若干寄存器、高速緩存器和它們之間通訊的數(shù)據(jù)、控制及狀態(tài)的總線。CPU遵循的是馮諾依曼架構(gòu)，即存儲程序、順序執(zhí)行。一條指令在CPU中執(zhí)行的過程是：讀取到指令后，通過指令總線送到控制器中進行譯碼，并發(fā)出相應(yīng)的操作控制信號。然后運算器按照操作指令對數(shù)據(jù)進行計算，并通過數(shù)據(jù)總線將得到的數(shù)據(jù)存入數(shù)據(jù)緩存器。因此，CPU需要大量的空間去放置存儲單元和控制邏輯，相比之下計算能力只占據(jù)了很小的一部分，在大規(guī)模并行計算能力上極受限制，而更擅長于邏輯控制。

展開剩余64%

CPU結(jié)構(gòu)簡化圖

GPU

為了解決CPU在大規(guī)模并行運算中遇到的困難， GPU應(yīng)運而生，采用數(shù)量眾多的計算單元和超長的流水線，如名字一樣，圖形處理器，GPU善于處理圖像領(lǐng)域的運算加速。但GPU無法單獨工作，必須由CPU進行控制調(diào)用才能工作。CPU可單獨作用，處理復雜的邏輯運算和不同的數(shù)據(jù)類型，但當需要大量的處理類型統(tǒng)一的數(shù)據(jù)時，則可調(diào)用GPU進行并行計算。近年來，人工智能的興起主要依賴于大數(shù)據(jù)的發(fā)展、理論算法的完善和硬件計算能力的提升。其中硬件的發(fā)展則歸功于GPU的出現(xiàn)。

CPU、GPU微架構(gòu)對比圖

TPU

人工智能旨在為機器賦予人的智能，機器學習是實現(xiàn)人工智能的強有力方法。所謂機器學習，即研究如何讓計算機自動學習的學科。TPU就是這樣一款專用于機器學習的芯片，它是Google于2016年5月提出的一個針對Tensorflow平臺的可編程AI加速器，其內(nèi)部的指令集在Tensorflow程序變化或者更新算法時也可以運行。TPU可以提供高吞吐量的低精度計算，用于模型的前向運算而不是模型訓練，且能效（TOPS/w）更高。在Google內(nèi)部，CPU,GPU,TPU均獲得了一定的應(yīng)用，相比GPU，TPU更加類似于DSP，盡管計算能力略有遜色，其功耗大大降低。然而，TPU,GPU的應(yīng)用都要受到CPU的控制。

Google TPU 產(chǎn)品圖

DPU

DPU深度學習處理器最早由國內(nèi)深鑒科技提出，基于Xilinx可重構(gòu)特性的FPGA芯片，設(shè)計專用的深度學習處理單元（可基于已有的邏輯單元，設(shè)計并行高效的乘法器及邏輯電路，屬于IP范疇），且抽象出定制化的指令集和編譯器（而非使用OpenCL），從而實現(xiàn)快速的開發(fā)與產(chǎn)品迭代。事實上，深鑒提出的DPU屬于半定制化的FPGA。

深鑒“雨燕”DPU平臺

NPU

NPU，神經(jīng)網(wǎng)絡(luò)處理器，在電路層模擬人類神經(jīng)元和突觸，并且用深度學習指令集直接處理大規(guī)模的神經(jīng)元和突觸，一條指令完成一組神經(jīng)元的處理。相比于CPU中采取的存儲與計算相分離的馮諾伊曼結(jié)構(gòu)，NPU通過突觸權(quán)重實現(xiàn)存儲和計算一體化，從而大大提高了運行效率。NPU的典型代表有國內(nèi)的寒武紀芯片和IBM的TrueNorth，中星微電子的“星光智能一號”雖說對外號稱是NPU，但其實只是DSP，僅支持網(wǎng)絡(luò)正向運算，無法支持神經(jīng)網(wǎng)絡(luò)訓練。而且從存儲結(jié)構(gòu)上看，該款芯片是基于傳統(tǒng)的片上存儲，而非神經(jīng)網(wǎng)絡(luò)芯片的便攜式存儲。

中星微電子NPU

BPU

BPU, 大腦處理器，是由地平線科技提出的嵌入式人工智能處理器架構(gòu)。第一代是高斯架構(gòu)，第二代是伯努利架構(gòu)，第三代是貝葉斯架構(gòu)。目前地平線已經(jīng)設(shè)計出了第一代高斯架構(gòu)，并與英特爾在2017年CES展會上聯(lián)合推出了ADAS系統(tǒng)。傳統(tǒng)CPU芯片是做所有事情，所以一般采用串行結(jié)構(gòu)。BPU主要是用來支撐深度神經(jīng)網(wǎng)絡(luò)，比如圖像、語音、文字、控制等方面的任務(wù)，而不是去做所有的事情。此外，深度神經(jīng)網(wǎng)絡(luò)的計算結(jié)構(gòu)比較特殊，比如高度的并行化、時間域上的遞歸、中間節(jié)點的稀疏等，用BPU來實現(xiàn)會比在CPU上用軟件實現(xiàn)要高效，一般來說會提高2-3個數(shù)量級。然而，BPU一旦生產(chǎn)，不可再編程，且必須在CPU控制下使用。