【原】NVIDIA Turing新品雙發(fā)，AGX陣容與Tesla T4亮相GTC日本站

昵稱71360118 2020-09-01

展開全文

來自雷鋒網(wǎng)（leiphone-sz）的報道

雷鋒網(wǎng)消息，2018年9月13日，NVIDIA在GTC 2018日本站上介紹了該公司在AI方面的最新進(jìn)展，CEO黃仁勛公布了NVIDIA TensorRT超大規(guī)模平臺、NVIDIA Drive AGX Xavier開發(fā)套件以及Jetson AGX Xavier開發(fā)套件等新品，并補(bǔ)充了Quadro RTX和Geforce RTX的新消息。

TensorRT超大規(guī)模平臺是一整套硬件和軟件產(chǎn)品，這些產(chǎn)品針對強(qiáng)大、高效的推理進(jìn)行了優(yōu)化，整套系統(tǒng)的關(guān)鍵要素包括基于Turing架構(gòu)的Tesla T4專業(yè)計算卡、TensorRT 5和TensorRT推理服務(wù)器。

Tesla T4是一款獨特的GPU產(chǎn)品，專為AI推理工作負(fù)載而設(shè)計，如處理視頻，語音，搜索引擎和圖像的神經(jīng)網(wǎng)絡(luò)。Tesla T4配備16GB GDDR6，GPU中集成320個Turing Tensor Core和2560個Turing CUDA Core，這款全新GPU具有突破性的性能，以及FP32/FP16/INT8/INT4等多種精度的運算能力，F(xiàn)P16的峰值性能為65T，INT8為130T，INT4為260T。

作為上一代Tesla P4的繼任者，Tesla T4采用高能效的75瓦小型PCIe封裝，可輕松適用于大多數(shù)服務(wù)器。NVIDIA稱其可在相同的功率范圍內(nèi)提供高達(dá)12倍的性能提升，可能為推理工作負(fù)載的功效設(shè)定了新的標(biāo)準(zhǔn)。

Tesla T4還具有針對AI視頻應(yīng)用的優(yōu)化功能，此功能由硬件轉(zhuǎn)碼引擎提供動力，提供兩倍于Tesla P4的性能。NVIDIA表示Tesla T4可以同時解碼多達(dá)38個全高清視頻流。

圍繞Tesla T4的一系列技術(shù)，NVIDIA公布了TensorRT Hyperscale平臺。該平臺支持PyTorch、TensorFlow、MXNet和Caffee2等所有主要的深度學(xué)習(xí)框架，NVIDIA還為其配套提供了推理優(yōu)化器和運行時引擎TensorRT 5，這是Nvidia深度學(xué)習(xí)推理優(yōu)化器和運行時引擎的新版本，支持Turing Tensor Core，并對適用于多精度工作負(fù)載的神經(jīng)網(wǎng)絡(luò)優(yōu)化集進(jìn)行了擴(kuò)展。此外還公布了為Turing優(yōu)化的CUDA 10，其中包括優(yōu)化的庫、編程模型和圖形API互操作性。

而TensorRT推理服務(wù)器這一容器化的微服務(wù)軟件使應(yīng)用能夠在數(shù)據(jù)中心生產(chǎn)中采用AI模型，其在NVIDIA GPU Cloud容器注冊中免費提供，可實現(xiàn)數(shù)據(jù)中心吞吐量和GPU利用率的最大化，支持所有常用AI模型和框架，并集成了Kubernetes和Docker。

會上，NVIDIA還公布了其AGX陣容，這是其基于Xavier的產(chǎn)品系列的新名稱，產(chǎn)品陣容包括Drive Xavier和新推出的Drive Pegasus，此次主要介紹的是Drive AGX Xavier開發(fā)套件，這是一個用于構(gòu)建自動駕駛系統(tǒng)的平臺。這種開放、可擴(kuò)展的軟件和硬件解決方案使公司能夠無縫地開發(fā)和測試定制的自動駕駛技術(shù)，簡化生產(chǎn)。NVIDIA還提供類似的Clara平臺，專為醫(yī)療應(yīng)用而設(shè)計，作為疾病早期檢測、診斷和治療的新工具。

而作為AGX陣容的另外一部分，NVIDIA還推出了Jetson AGX Xavier開發(fā)套件，部分日本的工業(yè)和制造商率先開始使用該新系統(tǒng)。

作為世界上第一臺為人工智能、機(jī)器人和邊緣計算而創(chuàng)建的計算機(jī)，Jetson AGX Xavier的大規(guī)模計算性能可以處理對下一代機(jī)器人至關(guān)重要的測距、定位、測繪、視覺和感知以及路徑規(guī)劃。同時黃仁勛在今天GTC大會上介紹到，雅馬哈汽車公司將選擇NVIDIA Jetson AGX Xavier作為開發(fā)系統(tǒng)，為其即將推出的自動機(jī)器系列提供動力。

據(jù)雷鋒網(wǎng)了解，NVIDIA預(yù)計未來五年內(nèi)人工智能推理的總體有效市場將增長至200億美元，將成為NVIDIA、Intel和AMD之間激烈爭奪的戰(zhàn)場，因此專注于提升人工智能推理性能可以看做是一項戰(zhàn)略舉措。