2022年又是英偉達(dá)在AI加速計(jì)算賽道里飛速狂奔的一年，進(jìn)一步拉大了與追趕者的差距。

先是今年3月發(fā)布了性能有數(shù)量級(jí)飛躍的Hopper架構(gòu)GPU H100。今天，英偉達(dá)CEO黃仁勛在GTC 2022上宣布H100全面量產(chǎn)。但根據(jù)美國(guó)政府的最新規(guī)定，未經(jīng)許可，英偉達(dá)不能出口、轉(zhuǎn)讓H100 GPU在中國(guó)市場(chǎng)上使用。

對(duì)此，黃仁勛在GTC 2022期間回應(yīng)，英偉達(dá)會(huì)推出不受限制的替代版本。當(dāng)然，即便在現(xiàn)在的限制下，英偉達(dá)廣泛的產(chǎn)品線也能夠滿足客戶的絕大多數(shù)的需求。

不過(guò)，秋季GTC更值得關(guān)注的是史詩(shī)級(jí)的超級(jí)芯片DRIVE Thor（雷神），這款最新的超級(jí)計(jì)算機(jī)將于2025年上市，AI性能高達(dá)2000TOPS的DRIVE Thor SoC將可能變革智能汽車(chē)行業(yè)。

當(dāng)然，黃仁勛也不忘用超強(qiáng)的AI算力普惠包括醫(yī)療和工業(yè)在內(nèi)的邊緣計(jì)算領(lǐng)域，推出了基于英偉達(dá)IGX邊緣AI計(jì)算平臺(tái)及解決方案。

另外，黃仁勛還更新了曾吸引了無(wú)數(shù)關(guān)注的英偉達(dá)Jetson Nano，最新推出的Jetson Orin Nano相比上一代實(shí)現(xiàn)了80倍的性能飛躍，價(jià)格維持在比較親民的199美元起。

如果說(shuō)春季GTC 2022的H100 GPU樹(shù)立了高性能AI芯片的新標(biāo)桿，那秋季GTC的無(wú)疑會(huì)讓自動(dòng)駕駛芯片和邊緣AI芯片的追趕者們感受到了壓力。

黃仁勛也給游戲玩家?guī)?lái)了值得興奮的新一代GeForce RTX 40系列GPU（RTX 40系顯卡GTC「炸場(chǎng)」發(fā)布，性能提升70%，價(jià)格再創(chuàng)新高）。

看起來(lái)，從云端到邊緣端，從現(xiàn)實(shí)世界到元宇宙，英偉達(dá)都想通過(guò)創(chuàng)新保持一騎絕塵。

史詩(shī)級(jí)汽車(chē)SoC平臺(tái)雷神

大算力汽車(chē)芯片已經(jīng)成為趨勢(shì)，但作為領(lǐng)導(dǎo)者，英偉達(dá)在2022年給出了一個(gè)讓人驚艷的產(chǎn)品Thor（雷神）。

全新Thor超級(jí)芯片可提供每秒2,000萬(wàn)億次浮點(diǎn)運(yùn)算性能，取代了DRIVE發(fā)展路線圖中的Atlan，能夠與目前被用于量產(chǎn)汽車(chē)、可提供每秒254萬(wàn)億次浮點(diǎn)運(yùn)算性能的DRIVE Orin無(wú)縫銜接。

對(duì)于為什么用Thor取代Atlan更改發(fā)展路線圖，黃仁勛也做出了解釋?zhuān)骸癆tlan是已經(jīng)商用的Orin的下一代產(chǎn)品，是幾年前的項(xiàng)目，但因?yàn)槌霈F(xiàn)了令人不可思議的Hopper、AdaGPU和Grace GPU，我們不愿意為此再等兩年，于是決定用Thor取代Atlan，并集成了最新的技術(shù)，有了Thor超級(jí)芯片。”

英偉達(dá)Thor的強(qiáng)大之處在于，一個(gè)基于Thor芯片的系統(tǒng)可以完成所有工作的計(jì)算機(jī)取代目前汽車(chē)內(nèi)的單獨(dú)計(jì)算機(jī)，利用具有廣泛隔離（包括 MIG）的功能安全設(shè)計(jì)技術(shù)來(lái)防止單獨(dú)的任務(wù)相互干擾。

目前，想要實(shí)現(xiàn)汽車(chē)中的主動(dòng)安全、停車(chē)、駕駛員監(jiān)測(cè)、攝像頭后視鏡、集群和車(chē)載信息娛樂(lè)系統(tǒng)等功能通常需要不同的計(jì)算機(jī)提供支持。

英偉達(dá)正在引領(lǐng)自動(dòng)駕駛新的未來(lái)，也就是由在中央計(jì)算機(jī)上運(yùn)行的軟件統(tǒng)一提供支持，并隨著時(shí)間的推移不斷改進(jìn)。

據(jù)黃仁勛介紹，基于Thor芯片的系統(tǒng)可以將智能汽車(chē)的所有功能都集中在單個(gè)AI計(jì)算機(jī)上，“車(chē)載計(jì)算資源的集中化可以將成本降低數(shù)百美元”。

具體來(lái)看，DRIVE Thor平臺(tái)集Hopper的Transformer Engine、基于Ada的GPU和Grace CPU于一身。

基于新的架構(gòu)和引擎，Thor芯片具有8位浮點(diǎn) (FP8) 功能，憑借著8位浮點(diǎn) (FP8) 的精度，Thor芯片為汽車(chē)引入了一種新的數(shù)據(jù)處理方式。

傳統(tǒng)意義上，AV（自動(dòng)駕駛車(chē)輛）仿真平臺(tái)的開(kāi)發(fā)人員需要從32位浮點(diǎn)轉(zhuǎn)移到8位整數(shù)數(shù)據(jù)格式，而FP8精度簡(jiǎn)化了這種過(guò)渡，讓開(kāi)發(fā)人員可以在不犧牲精度的情況下進(jìn)行數(shù)據(jù)傳輸。

另外，英偉達(dá)還推出了NVLink?C2C技術(shù)，該技術(shù)可以同時(shí)連接兩個(gè)Thor芯片，使兩個(gè)芯片成為單一操作系統(tǒng)的單片平臺(tái)。NVLink?C2C的優(yōu)勢(shì)在于共享和調(diào)度，它可以使用最小的算力成本進(jìn)行跨鏈路分配工作。

在軟件定義汽車(chē)的發(fā)展趨勢(shì)下，NVLink?C2C技術(shù)為汽車(chē)提供了足夠大的算力冗余來(lái)保證軟件配置的靈活性，并為智能汽車(chē)未來(lái)的OTA做好了算力方面的保障。

醫(yī)療和工業(yè)領(lǐng)域也有了通用邊緣AI方案

智能汽車(chē)是AI邊緣最火熱的應(yīng)用，但英偉達(dá)的目標(biāo)是推動(dòng)AI在所有邊緣應(yīng)用中的應(yīng)用。

GTC 2022上，英偉達(dá)推出了新的邊緣AI計(jì)算平臺(tái)IGX平臺(tái)，IGX平臺(tái)由NVIDIA IGX Orin超級(jí)計(jì)算機(jī)驅(qū)動(dòng)，能更簡(jiǎn)便的為制造、物流、醫(yī)療等安全敏感行業(yè)帶來(lái)了安全的工作環(huán)境。

NVIDIA IGX平臺(tái)同時(shí)包含軟件堆棧，可以針對(duì)不同的應(yīng)用場(chǎng)景進(jìn)行編程和配置，這些軟件功能允許用戶在倉(cāng)庫(kù)、手術(shù)室等需要人類(lèi)與機(jī)器人協(xié)同工作的場(chǎng)景下提供主動(dòng)安全用例。

黃仁勛說(shuō)，“這將是世界上最強(qiáng)大、緊湊、節(jié)能的人工智能超級(jí)計(jì)算機(jī)?！?/p>

對(duì)于AI芯片而言，全棧軟件的重要性更加突顯。NVIDIA IGX平臺(tái)也能夠運(yùn)行NVIDIA AI Enterprise軟件，優(yōu)化開(kāi)發(fā)和部署人工智能工作流程并保證開(kāi)發(fā)者能夠順利訪問(wèn)必要的人工智能框架和工具。

英偉達(dá)表示，其將與Canonical、紅帽和SUSE等伙伴合作，為IGX平臺(tái)帶來(lái)長(zhǎng)期的全棧支持。

另外，用戶可以通過(guò)NVIDIA Fleet Command在中央云部署安全的無(wú)線軟件和系統(tǒng)更新，方便快捷地管理工業(yè)或醫(yī)療環(huán)境中的IGX平臺(tái)。

過(guò)去，邊緣AI在制造、物流等行業(yè)中一般采用定制方案。但這些定制方案通常昂貴且缺少通用性，需要專(zhuān)為特定用例構(gòu)建。

為了能夠讓AI能在這些領(lǐng)域更好運(yùn)用，IGX平臺(tái)則能夠提供可編程的一站式解決方案，英偉達(dá)推出了面向工業(yè)和醫(yī)療的IGX一站式解決方案。

“隨著人類(lèi)與機(jī)器人的協(xié)作場(chǎng)景不斷豐富，各行各業(yè)都在為機(jī)器人、人工智能和計(jì)算制定新的安全標(biāo)準(zhǔn)?！秉S仁勛說(shuō)，“NVIDIA IGX將幫助企業(yè)構(gòu)建下一代由軟件定義的工業(yè)和醫(yī)療設(shè)備，并在與人協(xié)作的環(huán)境中安全運(yùn)行?！?/p>

在制造和物流領(lǐng)域，IGX可以用來(lái)構(gòu)建安全、可靠的自動(dòng)化平臺(tái)，從而改進(jìn)人機(jī)協(xié)作關(guān)系，提高生產(chǎn)效率。

目前的生產(chǎn)機(jī)器人幾乎都內(nèi)置了反應(yīng)性安全功能，即在安全威脅和事件發(fā)生后做出反應(yīng)。比如有人走進(jìn)了機(jī)器人的行進(jìn)路線，機(jī)器人會(huì)減速或者停下。

IGX平臺(tái)能夠使生產(chǎn)安全性更上一層樓，不僅能夠增強(qiáng)機(jī)器人現(xiàn)有的反應(yīng)性安全功能，還能利用AI傳感器識(shí)別潛在的安全隱患并發(fā)出警報(bào)，從而減少事故。

例如當(dāng)倉(cāng)庫(kù)中的攝像頭看到有人進(jìn)入機(jī)器人的路徑后可以向機(jī)器人發(fā)出信號(hào)改變路徑，從而并避免碰撞，并同時(shí)提醒該區(qū)域的所有員工和機(jī)器人。

據(jù)悉，英偉達(dá)已經(jīng)與制造領(lǐng)域巨頭西門(mén)子達(dá)成合作，在邊緣部署IGX平臺(tái)。

而在醫(yī)療領(lǐng)域，IGX則能夠解決傳感器、手術(shù)輔助機(jī)器人、患者檢測(cè)系統(tǒng)等臨床醫(yī)療儀器對(duì)算力的要求。

IGX能夠支持NVIDIA Clara Holoscan的運(yùn)行，允許醫(yī)療設(shè)備開(kāi)發(fā)人員連接邊緣、本地和云服務(wù)，并快速的開(kāi)發(fā)由軟件定義的設(shè)備，將最新的AI成功直接帶入手術(shù)室。

英偉達(dá)IGX的醫(yī)療解決方案也已經(jīng)有合作伙伴，三家領(lǐng)先的醫(yī)療設(shè)備初創(chuàng)公司Activ Surgical, Moon Surgical and Proximie與英偉達(dá)合作，使用在IGX上運(yùn)行的NVIDIA Clara Holoscan計(jì)算平臺(tái)為其手術(shù)機(jī)器人系統(tǒng)提供算力。

對(duì)于IGX在更廣泛邊緣AI場(chǎng)景的落地和應(yīng)用，英偉達(dá)表示凌華科技、研華、Dedicated Computing、控創(chuàng)、麗臺(tái)、MBX、Onyx、Portwell、Prodrive、Technologies和YUAN將率先為醫(yī)療設(shè)備行業(yè)構(gòu)建基于NVIDIA IGX的產(chǎn)品。

明年，英偉達(dá)將向開(kāi)發(fā)者提供IGX Orin開(kāi)發(fā)工具包，以讓企業(yè)快速測(cè)試原型產(chǎn)品。每個(gè)套件都集成用于高性能AI計(jì)算的GPU與CPU以及NVIDIA ConnectX-7 SmartNIC，以提供低延遲、高安全性的網(wǎng)絡(luò)。

80倍性能提升，入門(mén)級(jí)AI系統(tǒng)售價(jià)199美元起

2019年GTC，英偉達(dá)推出了售價(jià)99美元的機(jī)器人芯片Jetson Nano，給業(yè)界帶來(lái)了新的選擇，也將產(chǎn)品線拓展到了入門(mén)級(jí)AI。

今天，黃仁勛帶來(lái)了Jetson產(chǎn)品線的成員——Jetson Orin Nano系統(tǒng)級(jí)模塊。值得注意的是，相較上一代Jetson Nano產(chǎn)品，Jetson Orin Nano性能達(dá)到上一代產(chǎn)品80倍，售價(jià)為199美元起，為入門(mén)級(jí)別AI和機(jī)器人技術(shù)樹(shù)立了新標(biāo)準(zhǔn)，將于明年1月出貨。

推出的Orin Nano芯片是Jetson中尺寸最小的，但能夠提供每秒10萬(wàn)億次操作的AI性能。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))了解到，Jetson Orin采用了NVIDIA Ampere架構(gòu)GPU、Arm架構(gòu)的CPU，并支持下一代深度學(xué)習(xí)和視覺(jué)加速器、高速接口、高速內(nèi)存帶寬和多模式傳感器。

Jetson Orin Nano將提供兩個(gè)版本，高配版本具有8G內(nèi)存，提供40TOPS算力，功率可在7W至15W之間配置，低配版本具有4G 內(nèi)存，能夠提供20TOPS算力，功率可低至5-10W。

Jetson Orin Nano的目標(biāo)是讓零售分析、工業(yè)質(zhì)量控制等領(lǐng)域中使用入門(mén)級(jí)設(shè)備和應(yīng)用程序的開(kāi)發(fā)人員能夠以更低的成本訪問(wèn)復(fù)雜的AI模型，這當(dāng)然也需要生態(tài)的支持。

據(jù)悉，Jetson生態(tài)系統(tǒng)如今正在迅猛發(fā)展，目前為止已有超過(guò)100萬(wàn)名開(kāi)發(fā)人員、6000多客戶、2000家初創(chuàng)公司和150家合作伙伴加入該是生態(tài)。

Jetson Orin也已經(jīng)得到了佳能、約翰迪爾、微軟Azure、泰瑞達(dá)、TK電梯等合作伙伴的支持。

黃仁勛表示，Jetson Orin平臺(tái)旨在解決最棘手的機(jī)器人挑戰(zhàn)，并未超過(guò)700000名ROS開(kāi)發(fā)人員帶來(lái)加速計(jì)算。

從云端到邊緣，在英偉達(dá)觸達(dá)的AI市場(chǎng)，既有不斷迭代的強(qiáng)大硬件，也有不斷豐富的軟件生態(tài)，挑戰(zhàn)者想要成功的難度都非常大。