近日，華為在香港Linaro開發(fā)者大會發(fā)布全球領(lǐng)先的人工智能開發(fā)平臺HiKey 970，為AI應(yīng)用的開發(fā)提供了硬件支持，積極推進AI應(yīng)用生態(tài)的搭建。據(jù)介紹，HiKey 970是一款非常適合人工智能應(yīng)用開發(fā)的平臺，集成華為創(chuàng)新設(shè)計的HiAI框架及其他主流的神經(jīng)網(wǎng)絡(luò)框架，除了支持CPU和GPU的AI運算外，還支持基于NPU的神經(jīng)網(wǎng)絡(luò)計算硬件加速，為開發(fā)者們提供了強大的AI算力，助力開發(fā)者在AI應(yīng)用領(lǐng)域不斷創(chuàng)新，帶來全新的智慧體驗。

Linaro CEO George Grey在現(xiàn)場展示HiKey 970

HiKey 970

自2017年，搭載麒麟970的華為Mate 10系列及榮耀V10手機發(fā)布以來，AI逐漸成為智能手機的標配，端側(cè)AI的應(yīng)用領(lǐng)域也開始成為業(yè)內(nèi)熱議的話題。前不久，由CSIA-ICCAD、《中國集成電路》和摩爾精英聯(lián)合主辦的首場人工智能與半導體技術(shù)國際論壇在上海舉行，現(xiàn)場聚集眾多專家學者與行業(yè)大咖，共話“AI芯片機遇與挑戰(zhàn)”，圍繞人工智能關(guān)鍵技術(shù)與未來趨勢、AI芯片等熱點話題展開深入探討。

華為無線終端芯片產(chǎn)品市場總監(jiān)周晨到場參會并發(fā)表主題演講，介紹了麒麟970的在AI應(yīng)用方面的性能，為開發(fā)者帶來的平臺優(yōu)勢，并探討了關(guān)于端側(cè)AI的現(xiàn)狀與未來，下面就來回顧下演講內(nèi)容。

關(guān)于AI芯片應(yīng)用領(lǐng)域的那些事兒

?AI芯片的應(yīng)用領(lǐng)域業(yè)態(tài)

回到手機芯片，手機芯片的競爭力體現(xiàn)在對于未知流行應(yīng)用的支持能力。端側(cè)AI需要有能力去判斷未知出現(xiàn)的應(yīng)用，而不是說適配好現(xiàn)在的應(yīng)用就結(jié)束了。應(yīng)用在手機上的表現(xiàn)如何，實際上取決于兩年前芯片在設(shè)計時的預(yù)判。

?AI應(yīng)用跑在端側(cè)的原因

端側(cè)AI解決的兩個核心問題是實時和隱私。

對于實時的需求，實際上是人的本能。如今，人們發(fā)出的信息都希望能夠得到實時的反饋，這個需求實際上也是很多行業(yè)發(fā)展的源動力，包括整個通信行業(yè)。追溯到人類在原始社會的交流，當時人們之間的眼神、語言傳遞都是實時得到反饋的，隨著距離的拉長，后來實時性開始受到影響，這也是所有人，包括整個通信行業(yè)不斷追求更高速率、更低時延的根本原因。那么說到AI領(lǐng)域，比如用攝像頭做一個實時的應(yīng)用，如果將所有數(shù)據(jù)上傳到云端，在云端處理完再傳回來，這種處理時長帶來的用戶體驗幾乎是不可接受的。

另一個問題就是隱私。大家是否愿意把所有東西都傳到云端去？我們的手機現(xiàn)在就是一個內(nèi)容生產(chǎn)工具，每天都會產(chǎn)生大量的隱私信息，這些數(shù)據(jù)與其放在別人那里，不如放在自己口袋里，這也是端側(cè)AI非常重要的一點。

?AI應(yīng)用運轉(zhuǎn)的基本原理

沒有一個APP是單一負載的。舉例來說，打開一個直播類帶AI功能的應(yīng)用，CPU至少有一兩個線程在高負載工作；只要打開屏幕GPU就在進行圖形渲染類的工作，如果是AR應(yīng)用，GPU的負載就會更大；如果打開攝像頭，ISP和DSP也開始運轉(zhuǎn)，這些組件都在工作。所以AI應(yīng)用考慮的不止是加入一個專用硬件單元，而是如何把所有資源在系統(tǒng)中進行調(diào)配，讓應(yīng)用能夠帶給手機用戶更好的體驗。

在演講中周晨表示，雖然現(xiàn)在的AI應(yīng)用還沒有大范圍普及在終端上，但實際上已經(jīng)有很多合作伙伴在共同努力，很快就會有一大波基于AI的應(yīng)用和體驗出現(xiàn)在手機上，讓大家感受到AI應(yīng)用可以覆蓋到很多領(lǐng)域，在原有領(lǐng)域里帶來更多新的體驗和能力的提升，這方面有很多服務(wù)都在進行中，大家可以期待。

麒麟970提升AI實力，助力開發(fā)者創(chuàng)新AI應(yīng)用

?獨立AI硬件處理單元，麒麟970 AI運算力顯著提升

手機芯片的升級是一個不斷疊加的過程，最好能在不增加任何面積的情況下，用最佳的能效比來完成這件事，而深度學習相關(guān)的運算負載非常高，對性能的要求也較高。麒麟970選擇加入一個獨立的專用硬件單元來處理AI運算，通過加入體積較小的NPU實現(xiàn)100%的AI性能，運算效率超過CPU和GPU。通過對比麒麟970的GPU和NPU，也能明顯看出獨立硬件確實能夠起到更好的效果。

周晨表示，“從我們做芯片的角度來說，提升算力是一個持續(xù)的工作，也是我們的本分。但更關(guān)鍵的是，當我們把芯片算力做到位后，需要有開發(fā)者在平臺上把AI能力變成用戶體驗。所以使能開發(fā)者對我們來說，變得格外重要”。

?麒麟970提供硬件支持，助力開發(fā)者AI應(yīng)用創(chuàng)新

對開發(fā)者來說，最重要的是開發(fā)成本、利益分享和知識產(chǎn)權(quán)。

開發(fā)成本是說開發(fā)者從一個平臺到另一個平臺的遷移成本，算子是否夠多以及開發(fā)工具是否好用，文檔和支持是否完善，這些因素從某種程度上決定了開發(fā)者的成本。其次，開發(fā)者關(guān)心應(yīng)用的利益分享。他們可能看重平臺的推廣與應(yīng)用的下載量，或是開發(fā)出APP后在業(yè)內(nèi)的知名度。后，開發(fā)模型是每一個算法開發(fā)者的知識產(chǎn)權(quán)，保護知識產(chǎn)權(quán)是非常重要的事情。而作為一個平臺，這些都是必須要考慮的問題。

去年，華為推出了HiAI移動計算平臺并面向開發(fā)者進行開放。據(jù)介紹，這個平臺上層考慮的是5-6種AI應(yīng)用如何接入HiAI平臺，下層是相應(yīng)的模型管理能力。此外，HiAI的離線模式更適合端側(cè)AI性能的發(fā)揮，從文件中加載離線模型，計算時每一次推理只需要把用戶數(shù)據(jù)從DDR到NPU導入導出一次就可以運行，是一種非常高效的模式。

據(jù)了解，在去年推出的HiAI V100版本基礎(chǔ)上，華為很快會推出V150版本，將支持更多框架與API，算子更多，開發(fā)工具得到進一步提升，文檔與支持也更加完善。這些都是希望能夠降低開發(fā)者成本，讓開發(fā)者能在熟悉的環(huán)境內(nèi)進行調(diào)試，開發(fā)出更多全新的AI應(yīng)用。

在演講最后，華為也表示，“我們希望能夠把HiAI開放平臺應(yīng)用于更大的范圍，讓不同領(lǐng)域不同場景都能夠用到AI的力量。在這個背景下，我們會考慮推出一款開發(fā)板，應(yīng)該說是目前業(yè)界最早把AI運算能力做到小型端側(cè)的開發(fā)板，也希望能夠帶給開發(fā)者更多選項，希望看到開發(fā)者獲得更多AI能力的同時，帶來更多AI應(yīng)用的落地。我們做手機芯片平臺，本質(zhì)上是做好黑土地，提供養(yǎng)分充足的土壤，而Mobile AI應(yīng)該是百花齊放的樣子，這才是我們期待看到AI這個產(chǎn)業(yè)大面積落地、推廣到每一個人身邊真正的樣子”。

據(jù)悉，HiKey 970將于4月中旬面向開發(fā)者公開發(fā)售，為開發(fā)者提供更加強大的開發(fā)工具，以期讓開發(fā)者創(chuàng)造出更多全新的AI應(yīng)用，不斷完善AI應(yīng)用生態(tài)的搭建。相信在不久的將來，AI將在手機上發(fā)揮更大的潛能，帶來更多新鮮、有趣的智慧體驗。