【新智元導(dǎo)讀】攪動了百億美金市場的ChatGPT，再一次證明了：AIGC，將在2023年給我們的生活帶來革命性的劇變。作為一家沒有商業(yè)模式的公司，OpenAI怎么就能估值百億美金？投資人這么好忽悠嗎？其實，拉出OpenAI背后的ChatGPT，大家就多少能明白一點了。這個語言模型「頂流」，最近可謂是無人不知，無人不曉。而近水樓臺先得月的微軟，已經(jīng)悄咪咪地在互聯(lián)網(wǎng)巨頭混戰(zhàn)中，先下了一城。AIGC革命，又到了拼算力的環(huán)節(jié)
2022年，是AIGC的革命元年。 DALL·E 2的誕生讓「文生圖」火了整整一年，緊跟其后的Stable Diffussion、Midjourney更是啟發(fā)了無數(shù)人的藝術(shù)靈感，甚至讓不少畫手感到了「失業(yè)危機」。到了年末，ChatGPT更是在全民中掀起AIGC的風(fēng)暴。雖然是壓軸出場，但「強化學(xué)習(xí)」（RLHF）賦予它的魔力，成功地掀起了一場全民的狂歡。剛剛我們提到的這些應(yīng)用，雖然看起來花里胡哨，但在背后提供支撐的依然是大家熟知的大模型們。眾所周知，對于大模型來說，不管是前期的訓(xùn)練還是后期的推理，都離不開巨量的「算力」。舉個例子，「當(dāng)紅炸子雞」ChatGPT和DALL·E 2基于的GPT-3，以及國產(chǎn)自研的源1.0、悟道和文心等等，不僅在參數(shù)量上達(dá)到了千億級別，而且數(shù)據(jù)集規(guī)模也高達(dá)TB級別。想要搞定這些「龐然大物」的訓(xùn)練，就至少需要投入超過1000PetaFlop/s-day（PD）的計算資源。也難怪OpenAI在大煉GPT-3之前，會讓微軟花10億美元給自己獨家定制了一臺當(dāng)時全世界排名前五的超級計算機。但是問題在于，并不是每個需要到大量AI算力的企業(yè)或高校，都能財大氣粗地斥巨資搞一個自己的「人工智能高性能計算中心」。那么，如果我們換一個思路，讓算力變得更加「普適普惠」，是不是也能實現(xiàn)相同或更好的效果呢？于是，在2020年12月的時候，國家信息中心和浪潮信息聯(lián)合發(fā)布了《智能計算中心規(guī)劃建設(shè)指南》。其中，便提到了一個全新的概念——智能計算中心（簡稱，智算中心）。
為了能更好地解決人工智能領(lǐng)域的問題，智算中心的發(fā)展就需要基于最新的AI論和先進(jìn)的AI計算架構(gòu)，并以AI芯片、AI服務(wù)器、AI集群為算力的載體。首先，當(dāng)前主流的AI加速計算，主要是采用CPU系統(tǒng)搭載GPU、FPGA、ASIC等異構(gòu)AI加速芯片。由于GPU芯片中原本為圖形計算設(shè)計的大量算術(shù)邏輯單元（ALU），可為以張量計算為主的深度學(xué)習(xí)計算提供很好的加速效果，因此廣受學(xué)術(shù)界和工業(yè)界的歡迎。隨著越來越深入的應(yīng)用，GPU芯片本身也根據(jù)AI的計算特點，進(jìn)行了針對性的創(chuàng)新設(shè)計，如張量計算單元、TF32/BF16數(shù)值精度、Transformer引擎（Transformer Engine）等。而更加「專一」的AI計算加速芯片，主要脫胎于GPU芯片。
其次，作為智算中心算力機組的AI服務(wù)器，則采用CPU+AI加速芯片的異構(gòu)架構(gòu)，通過集成多顆AI加速芯片實現(xiàn)超高計算性能。為了滿足各領(lǐng)域場景和復(fù)雜的AI模型的計算需求，AI服務(wù)器對計算芯片間互聯(lián)、 擴展性也有著極高要求。最后，智算中心還需要對業(yè)界主流、開源、開放的軟件生態(tài)提供充分的支持。比如，用于開發(fā)AI算法的深度學(xué)習(xí)框架TensorFlow和PyTorch，為適應(yīng)CV、NLP等特定場景開發(fā)而構(gòu)建的一系列開源庫等等。
不過，和國外那些大廠給自己定制的高性能計算中心不同，智算中心其實是一個面向公眾的基礎(chǔ)設(shè)施，更好地解決建不起、用不起算力的問題。其中最為直觀的便是，作為「神經(jīng)中樞」的智算OS（智算中心操作系統(tǒng)）就是為了讓智算中心可以對算力資源池進(jìn)行高效管理和智能調(diào)度，從而更好地對外提供算力、數(shù)據(jù)和算法等服務(wù)。如今，距離2020版《智能計算中心規(guī)劃建設(shè)指南》的發(fā)布已經(jīng)時隔兩年，而我國的智算中心發(fā)展也已經(jīng)進(jìn)入了新階段。為此，國家信息中心和浪潮信息聯(lián)合開展了與時俱進(jìn)的研究，于2023年1月推出了更新的《智算中心創(chuàng)新發(fā)展指南》（以下簡稱「指南」）。
智算中心是數(shù)字經(jīng)濟時代促進(jìn)產(chǎn)業(yè)轉(zhuǎn)型升級、優(yōu)化產(chǎn)業(yè)結(jié)構(gòu)、提升城市競爭力的關(guān)鍵基礎(chǔ)設(shè)施，并為快速增長的人工智能算力需求提供了必不可少的支撐。推進(jìn)AI產(chǎn)業(yè)化、賦能產(chǎn)業(yè)AI化、助力治理智能化、促進(jìn)產(chǎn)業(yè)集群化。AI產(chǎn)業(yè)化的一個重要例子，就是自動駕駛。在自動駕駛的場景中，需要基于AI技術(shù)，讓車輛能夠像人類駕駛員一樣準(zhǔn)確識別駕駛環(huán)境中的關(guān)鍵信息，并對周圍運動單元的潛在軌跡做出預(yù)判。在訓(xùn)練算力消耗上，自動駕駛感所采用的知模型要遠(yuǎn)大于一般的計算機視覺感知模型。比如，特斯拉的L2級FSD自動駕駛?cè)诤细兄Ｐ?，?xùn)練過程使用了百萬量級的道路采集視頻，算力投入約為500PD。而且，隨著自動駕駛級別從L2提升到L4，對算力的需求將進(jìn)一步提高。對此，智算中心提供的普惠算力，可以極大降低自動駕駛所需算力的成本。在2022年，有一個概念非常流行，叫「AI for Science」。這是一種新的科研范式，指科學(xué)家們用AI技術(shù)作為生產(chǎn)工具。要說今年AI for Science最廣為人知的例子之一，就是DeepMind開發(fā)的AlphaFold 2了。截至目前，AlphaFold 2已經(jīng)可以預(yù)測出2億多個蛋白質(zhì)結(jié)構(gòu)，幾乎覆蓋了整個「蛋白質(zhì)宇宙」。通過AlphaFold 2，單個蛋白結(jié)構(gòu)的預(yù)測時間縮短到了分鐘級，準(zhǔn)確率也達(dá)到了92.4%。AlphaFold 2的開發(fā)，就是以巨量算力為支撐的。僅在訓(xùn)練數(shù)據(jù)準(zhǔn)備階段，AlphaFold 2就消耗了約2億核時的CPU算力，訓(xùn)練過程中更是消耗了約300PD的AI算力。而非常契合AI for Science算力需求的智算中心，將成為支撐高校和科研院所高質(zhì)量科研的重要基礎(chǔ)設(shè)施。另外，智算中心還能為城市公共服務(wù)和智能化治理，提供智算能力支撐。智算中心能夠聚合當(dāng)?shù)厝斯ぶ悄艿难邪l(fā)優(yōu)勢、人才優(yōu)勢、產(chǎn)品優(yōu)勢與產(chǎn)業(yè)投資，實現(xiàn)產(chǎn)業(yè)鏈協(xié)同，促進(jìn)產(chǎn)業(yè)集群化發(fā)展。
現(xiàn)在，智算中心更是成為提升國際競爭力的關(guān)鍵基礎(chǔ)設(shè)施。我們都知道，人均GDP指標(biāo)可以衡量一個國家經(jīng)濟發(fā)展，人均算力水平的高低也可以衡量一個國家的智能化水平。根據(jù)《2021-2022全球計算力指數(shù)評估報告》，國家計算力指數(shù)與GDP的走勢呈現(xiàn)出了顯著的正相關(guān)，計算力指數(shù)平均每提高1點，數(shù)字經(jīng)濟和GDP將分別增長3.5‰和1.8‰
經(jīng)研究測算，「十四五」期間，在智算中心實現(xiàn)80%應(yīng)用水平的情況下，城市對智算中心的投資，可帶動人工智能核心產(chǎn)業(yè)增長約2.9-3.4倍、帶動相關(guān)產(chǎn)業(yè)增長約36-42倍，城市/地區(qū)在智算中心建設(shè)投入的增長量對創(chuàng)新產(chǎn)出的貢獻(xiàn)率約為14%-17%。不難看出，智算中心對于城市經(jīng)濟發(fā)展，已經(jīng)形成一股不可忽視的力量。
基于這些原因，智算中心這個概念一經(jīng)提出，便引發(fā)了建設(shè)熱潮。據(jù)統(tǒng)計，現(xiàn)在全國有超過30個城市正在建設(shè)或提出建設(shè)智算中心。
不可忽視的是，在如火如荼的建設(shè)過程中，這些智算中心也暴露出了很多問題和挑戰(zhàn)。 《2022-2023中國人工智能計算力發(fā)展評估報告》數(shù)據(jù)顯示，2021年我國智能算力規(guī)模達(dá)155.2 EFLOPS（FP16），預(yù)計到2026年，我國的智能算力規(guī)模將達(dá)到1,271.4 EFLOPS。在未來80%的場景都將基于AI，它們所占據(jù)的大部分算力資源，都是由智算中心承載。
自2011年以來，全球AI領(lǐng)軍企業(yè)和研究機構(gòu)紛紛加入AI大模型研究，模型參數(shù)急劇增長。在短短三四年時間內(nèi)，參數(shù)規(guī)?？焖購膬|級突破至萬億級，同時出現(xiàn)了很多代表性大模型，如谷歌發(fā)布的BERT，OpenAI發(fā)布的GPT-3等。傳統(tǒng)計算范式的改變，也必然推動智算中心的服務(wù)模式從提供算力為主，向提供「算法+算力」轉(zhuǎn)變。最后，現(xiàn)階段存在的概念認(rèn)知尚不清晰、建設(shè)標(biāo)準(zhǔn)尚不統(tǒng)一、應(yīng)用場景尚不豐富、運營模式尚不成熟等問題，也直接影響著智算中心的發(fā)展。對此，《指南》給出的解決思路是：1. 普適普惠；2. 開放兼容。 普適普惠是指，發(fā)揮公共基礎(chǔ)設(shè)施的社會價值，既要滿足用戶對通用算力的需求，又要滿足不同用戶不同場景對多元化算力的需求。具體來說，智算中心要朝著標(biāo)準(zhǔn)化、低成本、低門檻方向發(fā)展，使智能計算可以像水電一樣，成為社會基本公共服務(wù)，滿足不同用戶不同場景對算力多元化的需求。具體來說，就是要開源開放、培育生態(tài)。以開放硬件和開源軟件為主，融合多元算力，實現(xiàn)算力的聚合、調(diào)度、釋放，讓智算中心「用起來、用的好」。同時，要加強對智算中心關(guān)鍵軟硬件產(chǎn)品的研發(fā)支持和大規(guī)模應(yīng)用推廣。
而為了實現(xiàn)算力服務(wù)的普適普惠、高效利用，也就是智算中心如何「好用、用好」的問題，《指南》指出智算中心建設(shè)還需要構(gòu)建「算力基建化、算法基建化、服務(wù)智件化、設(shè)施綠色化」的「四化」技術(shù)路線。算力基建化是指，智算中心要具備對外提供高性價比、普惠、安全算力資源的能力，使AI算力像水、電一樣成為城市的公共基礎(chǔ)資源，供政府、企業(yè)、公眾自主取用。算法基建化是指，智算中心通過提供預(yù)置行業(yè)算法、構(gòu)建預(yù)訓(xùn)練大模型、推進(jìn)算法模型持續(xù)升級、提供專業(yè)化數(shù)據(jù)和算法服務(wù)，讓更多的用戶享受普適普惠的智能計算服務(wù)，實現(xiàn)「帶著數(shù)據(jù)來、拿著成果走」的效果：服務(wù)智件化是指，智算中心的發(fā)展將由傳統(tǒng)的硬件、軟件向「智件」升級。「智件」是指智算中心提供人工智能推廣應(yīng)用的中間件產(chǎn)品和服務(wù)?！钢羌沟臉?gòu)建，通過可視化操作界面，以及低代碼開發(fā)甚至無代碼開發(fā)的模式，為用戶提供功能豐富、使用便捷的人工智能算力調(diào)度、算法供給和個性化開發(fā)服務(wù)。最后，還要做到設(shè)施綠色化，目前主要發(fā)展趨勢就是采用液冷技術(shù)。現(xiàn)在，以AIGC、元宇宙、智慧科研 （AI for Science）為代表的新興場景，正在走進(jìn)我們的日常生活，給我們的未來帶來無限的可能。 與之相應(yīng)的，智算中心建設(shè)布局浪潮正在全國快速掀起。智能算力的普適普惠，對于大多數(shù)企業(yè)來說，尤其是中小企業(yè)，創(chuàng)新的門檻大大地降低了。相信在不久的將來，我們會很快見證「以數(shù)據(jù)輸入，讓智能輸出」，智能計算會如水電一般，真正惠及每一個人。http://scdrc./archiver/SmarterCity/UpFile/Files/Default/20230111181640567177.pdf
|
