前不久，天數智芯在杭州召開新品發(fā)布會，發(fā)布了首款高性能邊緣端人工智能推理芯片Iluvatar CoreX I，并正式上線。芯片作為智能產業(yè)發(fā)展的核心靈魂。芯片產品的發(fā)布自然是行業(yè)進程中的“高光時刻”。

這一面向邊緣人工智能推理的芯片具有高精度的特點，據發(fā)布會介紹，其峰值計算能力效率是主流競爭對手的10倍，應用遷移只需1-2周（其他芯片需要1-3個月）。這些技術和性能特征顯然很有吸引力，但智能核心將帶來的變化不能僅來自硬件。

作為傳統(tǒng)產業(yè)生命周期較長的產品，硬件芯片不僅要支持以人工智能為代表的當今數據驅動應用，還要承載過去長期商業(yè)智能的大規(guī)模需求，以及應用未來可能出現的算法變化，提供通用計算支持，這給天數智芯產品戰(zhàn)略和軟硬件結合綜合能力出了一道難題。

像大多數公司一樣，天數智芯推出AI芯片以滿足數據時代的需要為目的。然而，天數智芯對邊緣AI芯片的理解是不同的。天數智芯副總裁梁斌在新產品發(fā)布會上說：我們發(fā)現目前的邊緣端芯片產品解決方案有四個痛點：第一，大多數產品關注的是低精度、低功耗、低計算能力的應用場景。為了追求性價比，在一定程度上犧牲了對精度的要求；第二，人工智能芯片產品大多以消費類產品為主，不能滿足部分工業(yè)產品的要求；第三，由于大部分芯片產品采用了自行開發(fā)的硬件架構，只能用軟件編譯工具與主流框架兼容，現有的應用遷移成本非常高且耗時較長；第四，由于芯片的架構和開發(fā)系統(tǒng)都是自主研發(fā)的，用戶開發(fā)門檻很高，很多端到端的需求無法滿足。

針對這些痛點，天數智芯提出了解決方案。Iluvatar CoreX I芯片采用16nm技術和完全自主開發(fā)的數據流架構。核心可提供32路數據并行處理能力，具有良好的可擴展性和五大亮點：一是可以提供FP16的高精度，提高準確率；二是在功耗小于5瓦的情況下，每片芯片可提供高達4.8TFLOPS的運算能力和每秒1000幀的圖像處理能力；三是可以提供本機TensorFlow和透明遷移的兼容性；四是能以高穩(wěn)定性滿足工業(yè)需求，以高性價比滿足消費需求；五是能提供一站式、端到端的解決方案，為開發(fā)用戶提供軟硬件結合的開發(fā)環(huán)境。這是Iluvatar CoreX I在芯片上的五個亮點。

此外，CPU靈活性和計算能力可擴展性也得到了提高。所謂CPU的靈活性是CoreX I AI加速芯片可以適應x86 CPU、ARM CPU和國內自主開發(fā)的CPU，如龍芯CPU?？蓴U展性是指與PCIE 4.0的完全集成。通過單卡、雙卡和四卡的配置，可以有效地線性擴展計算能力，控制延時。據悉，在8卡配置中，單機可提供38TFLOPS以上的計算能力。

梁斌指出，通過對主流算法的優(yōu)化，基于數據流的高能高效運行、高帶寬和大容量的本地存儲器，Iluvatar CoreX I進一步彌補了目前主流競爭對手計算能力不足的核心問題。根據梁斌給出的數據，目前市面上的15瓦AI芯片提供的計算能力為1.5TFLOPS，能效比約為0.1。天數智芯片Iluvatar CoreX I在功耗低于4.7W的情況下能提供4.8TFLOPS的計算能力，與主流競爭對手相比，提供了10倍以上的能效比。

不過，客戶對計算能力的需求是為過去、現在和未來的負載都能提供很好的支撐。用戶并不關注峰值數據，他們更關心實際場景中的性能改進。因此，雖然Iluvatar CoreX I能效比數據讓人眼前一亮，但在注重用戶的使用上，上面提到的CPU靈活性和可擴展性，以及透明遷移必須落到實際應用場景才能見效。

人工智能應用通常包括幾個方面，芯片、軟件庫、TensorFlow操作符、TensorFlow API函數。要實現多樣的場景應用性，需通過與成熟的開發(fā)生態(tài)系統(tǒng)進行原生兼容，客戶無需任何代碼更改，以實現應用程序遷移。市面上大多數人工智能芯片產品都是基于底層軟件庫和自主開發(fā)的編譯器SDK。通過耗時的代碼轉換，大多數客戶的應用程序需要很長的時間才能適應，而這也對天數智芯造成了不少困難。

為了更好地滿足客戶的需求，天數智芯基于新的人工智能芯片提供了兩大解決方案：邊緣端計算系統(tǒng)板和PCIe加速卡。邊緣計算系統(tǒng)板主要針對邊緣端應用的嵌入式集成解決方案的應用場景，如智能垃圾分類、智能零售、智能監(jiān)控等。同時，也可以在邊緣服務器上直接配置PCIe邊緣加速卡，單卡配置可以支持一顆芯片，或兩到四顆芯片。

還需要注意的是，天數智芯必須進一步優(yōu)化解決邊緣端、邊緣云和中心云三大系列芯片，因為這些芯片的設計是為了更好地滿足人工智能和5G的需求。

天數智芯負責人也意識到：“我們下一個要發(fā)布的芯片是高端云訓練GPGPU芯片?；?nm工藝，采用自主研發(fā)的GPGPU芯片架構，提供混合計算能力和CUDA本機兼容性。第三款芯片是中端GPGPU芯片，該芯片還將采用先進工藝，提供混合精度計算能力和CUDA本機兼容性。它也是一個完全自主開發(fā)的GPGPU架構，專注于圖形和圖像的邊緣云推理場景?！?/span>

可見，Iluvatar CoreX I在場景應用上還有待補充，無論是適配其它系列芯片還是場景遷移能力，需在實際應用中進一步研發(fā)完善。

從軟件上看，天數智芯推出了四代SkyDiscovery，即人工智能軟件平臺，提供一站式服務，用于數據集成、智能數據存儲、模型評估服務部署等一站式服務。SkyDiscovery的作用是連接開源生態(tài)系統(tǒng)。該工具可以在開源生態(tài)系統(tǒng)中實現應用程序的移植，并使現有的開源系統(tǒng)解決方案的擴展性、可用性、可靠性和性能提升。

但這種開源系統(tǒng)的銜接也更容易讓顧客離開。為此，在連接開源生態(tài)系統(tǒng)后，必須根據客戶的需求提供一些特殊的支持。一旦企業(yè)這樣部署后，用戶會在撤離的時候思考可替代性的問題，于是就給客戶的離開多設置了一層關口。

從計算能力的角度來看，這個平臺應該為數據應用提供一個接口集線器。天數智芯需要做的是一個通用架構處理器，支持通用的同時并行計算。未來，隨著市場的成熟，人工智能可以集成到架構中。

顯然，天數智芯目前只是單純盯著軟硬件通用標準。其負責人認為：很難預測三到五年后會出現什么樣的算法，以及提取數據價值的最有效方法是什么?，F在只能著重于它的通用性，而對于其未來的生命周期，是很難預估的。

天數智芯方面稱，希望用20年時間，使我們自主知識產權的芯片和軟件成為世界一流的入門級產品。這意味著天數智芯正在做一件大事，但是大事是困難的。

目前，天數智芯提供了邊緣計算系統(tǒng)板卡和PCIe加速卡，但在軟硬件集成上還沒有切實解決中國客戶的痛點。中國客戶的特點重在落到實處的解決方案和應用場景。這需要天數智芯在芯片的基礎上，進一步通過軟件積累新的價值，在商業(yè)上也實現更好的利用。

據了解，天數智芯以往的軟硬件結合方案已被客戶應用于醫(yī)療、安保監(jiān)控等行業(yè)，但在智能制造、智能新零售、智能醫(yī)療、智能園區(qū)、智能垃圾分類等多行業(yè)還未開展部署。

在發(fā)布會上，天數智芯展示了軟硬件產品在藥物識別、垃圾分類、人臉識別等方面的應用。以此希望與更多合作伙伴合作，在實際應用中彌補缺漏，推動石油、天然氣勘探、交通運輸、風電等為代表的能源產業(yè)以及船舶制造等大型裝備制造業(yè)的智能化解決方案落地，最終推動智能制造業(yè)互聯網的發(fā)展。

天數智芯智能核心剛剛開完務虛會，公司希望用3年左右的時間，在中國整個工業(yè)制造領域建立一個基于天數智芯的工業(yè)互聯網產業(yè)聯盟。也希望在三年左右的時間里，既能收支平衡，又能有足夠的利潤擴大基礎投資隊伍，使產品有機地發(fā)展20年，達到國際一流的入門水平。

此前，天數智芯剛剛完成了B輪融資，金額達數億元，由大鉦資本、Princeville Capital領投，上海電氣香港有限公司、邦盛資本等跟投。經歷了創(chuàng)業(yè)期的無知、野蠻成長和顛簸，天數智芯經歷了一個完整的創(chuàng)業(yè)閉環(huán)。但如何形成軟硬件協(xié)同，突破用戶場景落地困難等局面，成了天數智芯短期內繞不開的難題，這也是天數智芯實現計劃愿景的必經路徑。