科大訊飛不講大模型的“性感故事”

黃山五星 2024-05-01 發(fā)布于江蘇

展開全文

2024年的大模型故事，依舊熱鬧非凡。

大洋彼岸外，從Sora的橫空出世到Llama 3再度掀起的“開源 vs 閉源”之爭，再到各類集成大模型能力的AI硬件......在通往AGI的征途上，為了讓大模型落地，海外科技巨頭靠著scaling laws（規(guī)模定律），并沒有停下腳步。

不久前，OpenAI創(chuàng)始人Sam Altman就在演講中表示：“scaling laws依舊有效，GPT-5將比GPT-4聰明得多，我們還沒有到達(dá)這條曲線的頂端”。

scaling laws是一條OpenAI驗(yàn)證過的道路，通過堆算力、卷參數(shù)，提升大模型能力，進(jìn)而抵達(dá)真正的通用人工智能階段。

但回到國內(nèi)大模型行業(yè)，scaling laws所面臨的一個(gè)現(xiàn)實(shí)難題不僅是以芯片為代表的國內(nèi)外產(chǎn)業(yè)鏈基礎(chǔ)的差距，更關(guān)鍵的一個(gè)問題是：

如何去發(fā)揮從移動(dòng)互聯(lián)網(wǎng)時(shí)期中國技術(shù)企業(yè)的場景和應(yīng)用優(yōu)勢，在堆參數(shù)之外，找到讓模型高效落地于行業(yè)應(yīng)用的路徑，將實(shí)驗(yàn)室里的模型能力轉(zhuǎn)化為看得見的應(yīng)用價(jià)值？

在這一問題上，作為國內(nèi)大模型行業(yè)頭部梯隊(duì)的科大訊飛，已率先找到了一條新路。

回到轟轟烈烈的大模型熱潮，隨模型參數(shù)量和數(shù)據(jù)集的增長，大模型的能力邊界進(jìn)而拓展與迭代，這無疑是scaling laws給國內(nèi)AI玩家們所帶來的關(guān)鍵啟示。

在行業(yè)過去殘酷的“百模大戰(zhàn)”里，盡管國內(nèi)涌現(xiàn)出諸多行業(yè)模型和垂直應(yīng)用，但如果提及國內(nèi)大模型玩家的焦慮，排在第一依舊是“技術(shù)底座”上的難關(guān)，這包含兩個(gè)核心問題：一是算力夠不夠用、好不好用？二是對標(biāo)OpenAI的GPT-4/4V乃至未來的GPT-5等底座基礎(chǔ)模型，國內(nèi)通用大模型能力能否不斷縮小差距？

在算力層，據(jù)李飛飛的估算，最新一代人工智能模型的訓(xùn)練成本已達(dá)到前所未有的水平。比如，OpenAI的GPT-4預(yù)計(jì)使用了價(jià)值7800萬美元的計(jì)算資源進(jìn)行訓(xùn)練，而谷歌的Gemini Ultra則耗費(fèi)了接近2億美元的計(jì)算資源成本。

回到國內(nèi)，受地緣政治影響，在美國對華芯片制裁的外部壓力下，國內(nèi)大模型玩家不可避免地面臨算力稀缺等問題。同時(shí)，大卷算力所帶來的高昂算力成本，也抬高了大模型落地的門檻，算力太貴也是一大現(xiàn)實(shí)難題。

緩解大模型落地的算力焦慮，上到國家政策支持，下到企業(yè)布局，均在行動(dòng)。不久前，北京市發(fā)布《北京市算力基礎(chǔ)設(shè)施建設(shè)實(shí)施方案（2024—2027 年）》，明確指出，將大力推動(dòng)人工智能大模型與自主可控芯片開展適配，提升我國智能算力產(chǎn)業(yè)供應(yīng)鏈的安全性、穩(wěn)定性和堅(jiān)韌性。

作為中國人工智能的“國家隊(duì)”，科大訊飛給出的思路是，打造國產(chǎn)化自主可控的算力底座，為大模型行業(yè)提供新的“算力選擇”。為此，科大訊飛同華為強(qiáng)強(qiáng)聯(lián)手，在算力底座上合力打造出了首個(gè)萬卡規(guī)模的國產(chǎn)算力平臺(tái)“飛星一號(hào)”，華為的硬件能力結(jié)合科大訊飛的AI技術(shù)沉淀，一個(gè)自主可控的算力底座為國內(nèi)大模型生態(tài)注入了新的活力。

在此基礎(chǔ)上，底層模型能力的競賽也在同步進(jìn)行，國內(nèi)外科技巨頭都在加速追趕與超越GPT-4，對通用模型能力進(jìn)行迭代。

在國內(nèi)大模型玩家中，科大訊飛為數(shù)不多對外公布其模型迭代具體時(shí)間表的科技企業(yè)。今年1月30日，科大訊飛發(fā)布的“訊飛星火V3.5”，在邏輯推理、語言理解、文本生成、數(shù)學(xué)答題、代碼、多模態(tài)各個(gè)能力方面均實(shí)現(xiàn)大幅提升，整體性能已接近GPT-4 Turbo。

不久前，科大訊飛又宣布了V3.5版本的能力更新，聚焦用戶高效知識(shí)獲取的長文本、長圖文和長語音功能。以如今已成為大模型“標(biāo)配”的長文本為例，目前星火大模型的通用長文本能力總體已達(dá)到GPT-4 Turbo，且在多個(gè)垂直領(lǐng)域的知識(shí)問答任務(wù)上，星火大模型長文本總體水平已超過GPT-4 Turbo。

一個(gè)行業(yè)共識(shí)是，隨著模型技術(shù)的收斂與行業(yè)競爭格局的演變，2024年，大模型的競爭焦點(diǎn)依舊落在通用大模型能力上。一方面，通用大模型的能力優(yōu)劣決定中國大模型產(chǎn)業(yè)能否掌握自己的核心話語權(quán)；另一方面，唯有底層通用大模型能力持續(xù)提升，追趕國際最先進(jìn)水平，行業(yè)大模型才能有更好的成效。

圍繞算力和通用模型上的持續(xù)加碼，這是夯實(shí)技術(shù)底座的必由之路，也是破解技術(shù)焦慮的正確姿勢。這也意味著，圍繞技術(shù)底座的研發(fā)投入，也決定著國產(chǎn)模型廠商的未來身位。

科大訊飛在研發(fā)投入上有自己清晰的節(jié)奏和策略。在近期公司業(yè)績說明會(huì)上，科大訊飛董事長劉慶峰透露，2023年，科大訊飛基礎(chǔ)大模型研發(fā)和行業(yè)應(yīng)用研發(fā)中的比例約為7:3，今年，依舊會(huì)把50%的研發(fā)投入用于大模型底座能力上。劉慶峰預(yù)測：“中美之間的底座模型能力還存在半年到一年的動(dòng)態(tài)追趕過程，但中國是唯一不會(huì)被徹底甩開的國家，科大訊飛作為中國的國家隊(duì)正在持續(xù)縮小與美國同行的差距?！?/span>

在scaling laws給大模型玩家們帶來的“卷技術(shù)底座啟示”外，眼下，告別火熱吸睛“參數(shù)”等性感概念，大模型的競爭已進(jìn)入到下一賽點(diǎn)——無論是做應(yīng)用，還是搶客戶，關(guān)注的重點(diǎn)都放在了模型落地和應(yīng)用的廣度與深度上。

海外如微軟、谷歌等科技巨頭，不僅已加速將大模型能力集成已有產(chǎn)品矩陣中，同時(shí)也與諸多行業(yè)頭部客戶開展AIGC領(lǐng)域全方位的合作。

客觀來說，在“大模型如何落地”這一問題上，行業(yè)至今未能有人給出完美的范本答案。背后原因有兩點(diǎn)：一是從供需兩端看，由于大模型技術(shù)發(fā)展依舊屬于早期階段，需求方對自身業(yè)務(wù)落地大模型的需求和價(jià)值還在摸索，而作為供給方的模型廠商也在通過供給創(chuàng)新找到落地的范式。二是大模型技術(shù)是一種“生產(chǎn)力”，落地產(chǎn)業(yè)就需要建立起供需兩端的循環(huán)體系，各參與方都要“有利可圖”，比如行業(yè)和產(chǎn)業(yè)端需要的是更有性價(jià)比的大模型，而模型廠商同樣需要借助大模型實(shí)現(xiàn)變現(xiàn)。

大模型如何卷“落地”？科大訊飛給出的解題思路是——從現(xiàn)實(shí)的場景需求出發(fā)，“云、邊、端”一體化、全場景布局，來滿足各個(gè)復(fù)雜多元場景對大模型的需求。

在云側(cè)，科大訊飛在開始大模型技術(shù)攻關(guān)時(shí)就確立了“1+N”的大模型體系，在基礎(chǔ)通用大模型外，同步面向各個(gè)行業(yè)落地行業(yè)大模型與產(chǎn)品應(yīng)用，比如教育大模型、醫(yī)療大模型，同時(shí)攜手金融、能源、汽車、通信、化工等領(lǐng)域龍頭企業(yè)共同打造行業(yè)大模型。

于此同時(shí)，面向開發(fā)者，除了開放API和RAG、Agent等大模型配套能力方案，也開源了訊飛星火-13B模型，支持行業(yè)進(jìn)行場景化定制微調(diào)。在過去不到3個(gè)月的時(shí)間里，科大訊飛就新增了55萬實(shí)名認(rèn)證的開發(fā)者，其中一半以上的應(yīng)用服務(wù)落地于企業(yè)剛需場景。

訊飛星火APP也在獲得越來越多用戶的認(rèn)可。據(jù)七麥數(shù)據(jù)顯示，訊飛星火APP在安卓端的下載量已經(jīng)超過9600萬次，在國內(nèi)工具類通用大模型APP中排名第一。

在邊側(cè)，針對企業(yè)的私有化部署需求，科大訊飛與華為聯(lián)手打造的“訊飛星火一體機(jī)”可針對企業(yè)的高頻場景應(yīng)用需求，提供“開箱即用”的大模型一體化解決方案，目前已落地城市、金融、運(yùn)營商、制造、能源、汽車等諸多行業(yè)場景。

在端側(cè)，科大訊飛一方面將大模型能力落地學(xué)習(xí)機(jī)、翻譯機(jī)、辦公本等自有智能硬件，另一方面，將大模型的能力深度賦能行業(yè)，正在落地汽車、家電、機(jī)器人、AI手機(jī)、AI PC等領(lǐng)域，在人們觸手可及的終端產(chǎn)品上，帶來體驗(yàn)的升級(jí)。

比如，汽車場景中，通過端側(cè)小模型+云側(cè)大模型協(xié)同，既能夠解決用戶在無網(wǎng)弱網(wǎng)環(huán)境下的交互，還能更好地保護(hù)隱私，對于簡單問題直接在本地端解決，復(fù)雜問題在云端解決，既能給用戶帶來很好的體驗(yàn)，也能夠有效降低成本。

“云、邊、端”布局帶來的利好是雙重的。

首先，開年以來，為大模型技術(shù)能力找到最佳的入口與載體，已成為業(yè)內(nèi)共識(shí)，“三劍齊發(fā)”能更大范圍內(nèi)釋放大模型的落地價(jià)值，將大模型引向一條實(shí)用的路徑。其次，對科大訊飛而言，“云、邊、端”協(xié)同可以更好地滿足各種場景中的應(yīng)用需求，不同尺寸的模型組合使用，成本更低、效率更高，為其商業(yè)化提供了更多的通路。無論是大模型賦能的智能硬件銷量表現(xiàn)，還是開發(fā)者的快速增長，都顯示科大訊飛走在商業(yè)化的前列。

不過，“云、邊、端”的布局并非人人可做，人人能做。

科大訊飛的優(yōu)勢在于從后端技術(shù)到前端應(yīng)用場景的系統(tǒng)化能力。在后端技術(shù)層，一方面是基于國產(chǎn)自主可控軟硬件底座所打造出的不斷迭代的星火通用大模型，另一方面，是科大訊飛從模型、框架、工具和應(yīng)用層的全棧技術(shù)布局。

在前端應(yīng)用場景上，科大訊飛憑借過硬的工程化能力，在效果接近無損的情況下，讓模型尺寸具備“七十二變”的能力，從而實(shí)現(xiàn)大模型地高效部署。

據(jù)了解，科大訊飛面向不同場景和硬件平臺(tái)，提供從面向云端百B級(jí)、十B級(jí)到面向端側(cè)硬件的B級(jí)模型，覆蓋云+端各類場景和應(yīng)用，以此滿足各行業(yè)復(fù)雜場景模型需求。

此前科大訊飛推出13B長文本大模型就是一個(gè)例子。在大模型廠商集體“卷長文本”的時(shí)代，與動(dòng)輒千億參數(shù)的大模型相比，科大訊飛通過對模型尺寸的“剪枝”和“蒸餾”，從小搏大，推出了業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以內(nèi)的情況下，星火在文檔上傳、解析處理、知識(shí)問答的首次響應(yīng)時(shí)間和文字生成方面都有了極大的效率提升。

“云、邊、端”的全場景布局，從后端技術(shù)到前端應(yīng)用的互相支撐，既延伸了模型落地的廣度，科大訊飛為大模型落地找到了更多的場景，也拓展了模型落地的深度，行業(yè)積累的數(shù)據(jù)、knowhow能進(jìn)一步反哺模型能力的迭代，這是一個(gè)更健康的循環(huán)。

在不少業(yè)內(nèi)人士看來，2024，是大模型落地應(yīng)用的關(guān)鍵之年。從開年伊始，無論是在行業(yè)大模型領(lǐng)域，抑或是更輕量化的SaaS企服市場，圍繞應(yīng)用場景的“大模型化”成了行業(yè)玩家的統(tǒng)一動(dòng)作。

對比國外大模型生態(tài)，中國大模型的優(yōu)勢正在于應(yīng)用。一方面，中國完備的產(chǎn)業(yè)生態(tài)下具備廣泛的場景基礎(chǔ)，這是大模型落地的天然優(yōu)勢。另一方面，從移動(dòng)互聯(lián)網(wǎng)時(shí)代，中國科技企業(yè)所沉淀出的應(yīng)用與場景創(chuàng)新經(jīng)驗(yàn)，同樣可以復(fù)制推廣到大模型時(shí)代。

但盡管如此，在應(yīng)用場景上，圍繞大模型的“價(jià)值爭議”也同樣存在。大模型的價(jià)值究竟在哪里？AI企業(yè)大舉開發(fā)大模型又是否只是一種FOMO（害怕錯(cuò)過）的心態(tài)？

在這一問題上，科大訊飛的態(tài)度則顯得尤為務(wù)實(shí)。一方面，作為老牌AI企業(yè)，押注AI技術(shù)二十余年，科大訊飛對AI技術(shù)的商業(yè)化探索貫穿這家企業(yè)發(fā)展始末。

另一方面，在價(jià)值理念上，在公開場合，科大訊飛董事長劉慶峰曾不止一次對外闡述“應(yīng)用場景的重要價(jià)值”，劉慶峰曾明確表示，在大模型領(lǐng)域，“誰能在具備社會(huì)剛需的應(yīng)用場景落地，誰就能最先形成自我造血的良性循環(huán)。”

理解這一點(diǎn)，依舊需要回到科大訊飛BC兩端的大模型應(yīng)用落地探索中來。

在to B端，國內(nèi)B端業(yè)務(wù)鏈條長、個(gè)性化強(qiáng)且服務(wù)運(yùn)維重，過去國內(nèi)to B業(yè)務(wù)常常是“人要適用機(jī)器”，但科大訊飛在做得是“讓模型更好地適應(yīng)人與行業(yè)”。

讓模型適應(yīng)行業(yè)與人，不是光調(diào)用API接口那么簡單，而是需要對行業(yè)場景與用戶需求進(jìn)行深度理解與挖掘，這是發(fā)揮模型價(jià)值的充分必要條件。

以“大模型上車”為例，在眼花繚亂的諸多營銷與技術(shù)概念背后，科大訊飛關(guān)注的是“價(jià)值端”：一是對車主而言，大模型是否提升了用車體驗(yàn)？二是對車企而言，大模型是否為其帶來業(yè)務(wù)增量？

沿著上述兩個(gè)思路，就能理解科大訊飛的實(shí)踐。在今年的北京車展上，科大訊飛就展示了其自研全新一代“訊飛星火+座艙”解決方案，將星火大模型的能力與用車場景緊密結(jié)合，利用大模型技術(shù)重構(gòu)人車交互體驗(yàn)，這一智能座艙解決方案的部分能力已在星途星紀(jì)元ET、昊鉑GT、魏牌藍(lán)山、大眾ID.UNYX與眾等車型落地。

2023年中國汽車“出?！背?22萬臺(tái)，出口增速達(dá)56%，首次超越日本成為了全球領(lǐng)先的汽車出口國。大模型技術(shù)也在賦能中國汽車“出?！?，據(jù)了解，訊飛車載智能語音系統(tǒng)覆蓋23個(gè)主要語種，已定點(diǎn)出海車型超60個(gè)，合作車型已銷往亞洲、歐洲、澳洲、非洲、美洲等地的多個(gè)國家與地區(qū)。在中國汽車出海十強(qiáng)企業(yè)中，已有8家企業(yè)和科大訊飛達(dá)成深度合作。

在家電領(lǐng)域，接入訊飛星火大模型能力的家電行業(yè)也正煥發(fā)出新的活力。如科大訊飛和海爾共同打造的家電領(lǐng)域大模型，在智能控制、食譜定制、智能客服等領(lǐng)域率先落地大模型應(yīng)用場景，讓家電變得真正“更懂人心”。三星的電視語音助手同樣結(jié)合訊飛星火大模型能力，實(shí)現(xiàn)了AI智能問答和智能搜索。

軟件等企服市場同樣是科大訊飛“剛需場景”理念的體現(xiàn)。借助訊飛星火不斷迭代的代碼能力，科大訊飛不僅在內(nèi)部使用上了“AI程序員”，還與軟通動(dòng)力、交通銀行等行100多家企業(yè)合作，將“AI程序員”推廣復(fù)制。

在運(yùn)營商市場，基于星火大模型基礎(chǔ)能力，科大訊飛聯(lián)合運(yùn)營商打造通話大模型，并與中國移動(dòng)聯(lián)合發(fā)布5G新通話“商務(wù)速記”產(chǎn)品，商務(wù)人事工作電話可以方便實(shí)現(xiàn)轉(zhuǎn)寫和摘要，解決用戶聽不清、記不全的痛點(diǎn)，“AI秘書”實(shí)現(xiàn)用戶人手一個(gè)智能接聽助理。

公開資料顯示，目前，訊飛星火大模型已與汽車、金融、能源、軟件、家電、運(yùn)營商等各行業(yè)領(lǐng)軍企業(yè)合作，大模型落地千行百業(yè)的勢頭強(qiáng)勁。

而在to C端，科大訊飛則是典型的“產(chǎn)品思維”，從技術(shù)中來，到產(chǎn)品中去，追求更好的用戶體驗(yàn)。

大模型加持下的智能硬件，在科大訊飛的業(yè)務(wù)版圖中表現(xiàn)十分亮眼。財(cái)報(bào)顯示，2023年，訊飛AI學(xué)習(xí)機(jī)整體收入增長達(dá)到120%，訊飛智能辦公本、訊飛智能錄音筆、訊飛智能翻譯機(jī)等智能辦公硬件GMV同比大增84%。

業(yè)績提升、GMV增長的背后，是C端用戶對大模型技術(shù)的認(rèn)可。以AI學(xué)習(xí)機(jī)為例，幾乎每一次的底層通用模型升級(jí)，科大訊飛均會(huì)對智能硬件產(chǎn)品進(jìn)行一次功能迭代。目前，AI學(xué)習(xí)機(jī)已擁有了英語口語陪練、中英作文批改、數(shù)學(xué)互動(dòng)輔學(xué)、百科自由問答、親子教育助手、智能編程助手等8款大模型應(yīng)用。

在最新的春季上新中，結(jié)合星火大模型長文本、長圖文和長語音的升級(jí)，訊飛AI學(xué)習(xí)機(jī)產(chǎn)品，不僅提升在作業(yè)批改等任務(wù)上的精準(zhǔn)性，同時(shí)也結(jié)合多模態(tài)能力升級(jí)了“百科問答”功能。融合了大量圖書知識(shí)的星火大模型，成為了孩子們的“百科全書小助手”，孩子們可以和“愛因斯坦”等虛擬人朋友“一問一答”，在生動(dòng)有趣的互動(dòng)中，提升學(xué)習(xí)能力與提問能力。

除了學(xué)習(xí)機(jī)等成熟硬件產(chǎn)品，科大訊飛還在積極布局下一個(gè)風(fēng)口。在如今“具身智能”掀起融資熱潮時(shí)，很多人并不知道的是，這一國內(nèi)外科技大廠爭向競逐的機(jī)器人賽道，科大訊飛早在2022年就發(fā)布了“訊飛機(jī)器人超腦平臺(tái)”，面向開發(fā)者提供了全棧的工具鏈，包括模型訓(xùn)練、資產(chǎn)生成和軟硬件接入等。

而在大模型到來后，科大訊飛又迅速將星火大模型與“機(jī)器人超腦平臺(tái)”進(jìn)行了深度融合，科大訊飛如今已和頭部人形機(jī)器人明星公司中展開了合作，如智元機(jī)器人、優(yōu)必選、宇樹科技等炫酷的人形機(jī)器人產(chǎn)品背后，是訊飛全鏈路語音與星火大模型的加持。

從拼底座、拼落地再到拼價(jià)值，從這一點(diǎn)來說，比起那些炫酷十足的PPT展示，科大訊飛的大模型實(shí)踐似乎并不“性感”，但卻足夠接地氣。科技史曾告訴我們，無論是iPhone之于智能手機(jī)，還是chatGPT之于大模型行業(yè)，技術(shù)實(shí)現(xiàn)顛覆的前置條件，是讓技術(shù)扎根需求與場景。

而科大訊飛的這一“務(wù)實(shí)”，讓我們看到了在大模型熱潮之下，更期待看到的場景——在不久的將來，大模型能迎來“星火時(shí)刻”，真正在千行百業(yè)中落地生根。

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：黃山五星 > 《經(jīng)濟(jì) 財(cái)富科技》

舉報(bào)/認(rèn)領(lǐng)