通用大模型、行業(yè)大模型

大模型概念層出不窮有何區(qū)別？

交通行業(yè)大模型如何構(gòu)建？怎樣落地？

千方的角色是什么？優(yōu)勢有哪些？

智慧交通ITS114專訪千方科技副總裁孫亞夫

請亞夫總為我們上了一堂大模型課

問：我們應(yīng)該如何理解大語言模型，以及大語言模型在交通領(lǐng)域有哪些可能應(yīng)用場景？

答：從哲學(xué)上講，人類基于概念理解世界，而大語言模型構(gòu)建了理解世界的概念模型，因此具備了理解、分析、推理等能力，類似于一個接受過通識教育的大學(xué)生。

大語言模型的優(yōu)勢在于其強大的自然語言處理能力，可實現(xiàn)更高效的人機交互、跨應(yīng)用交互、跨系統(tǒng)交互。在交通領(lǐng)域，大語言模型具備發(fā)現(xiàn)問題、分析問題和解決問題的能力。

舉例來說，它可以協(xié)助開展交通運行狀況監(jiān)測，如圖像和視頻分析、自然語言處理和語音識別等?？杀挥?xùn)練用于分析圖像和視頻，以檢測和識別車輛、人或其他交通運行特征，賦能交通管理部門實時監(jiān)測和分析車輛、道路、信號燈等信息，智能協(xié)調(diào)交通流量，減少交通擁堵、降低交通安全隱患，讓交通更安全、更便捷、更智能。

問：交通領(lǐng)域?qū)τ诖笳Z言模型是否有強需求？大語言模型在現(xiàn)階段可以扮演哪些角色？

答：大語言模型與以往的人工智能不同，它具備了通用智能，可以說應(yīng)用范圍近乎無限。凡是人們對專家需求強烈的地方，對人工智能亦然。

我們認為，現(xiàn)階段大語言模型的角色相當于AI助理，它能夠在原有業(yè)務(wù)系統(tǒng)、應(yīng)用系統(tǒng)與客戶之間充當輔助者、支撐者，根據(jù)指令執(zhí)行任務(wù)，如寫一篇稿件，生成一份分析報告。以交通運行協(xié)調(diào)中心TOCC場景為例，以往需要由技術(shù)人員操作系統(tǒng)，按需求生成分析報告，在應(yīng)用大語言模型后，客戶便可以從系統(tǒng)中自動生成各類分析報告。

問：什么是行業(yè)大模型？如何訓(xùn)練一個交通行業(yè)大模型？

答：我們可以把大模型分為兩類，一類是通用大模型，如ChatGPT，具備各個領(lǐng)域的基礎(chǔ)知識；另一類是基于通用大模型開發(fā)的行業(yè)大模型，如交通行業(yè)大模型，具備交通行業(yè)的深度知識、實踐經(jīng)驗并經(jīng)過驗證優(yōu)化。

行業(yè)大模型的訓(xùn)練，類似于將一個大學(xué)生培養(yǎng)為一位行業(yè)專家。對于交通行業(yè)大模型而言，首先，需要向大模型提供交通領(lǐng)域的專業(yè)知識。其次，將交通領(lǐng)域的案例、最佳實踐和專家經(jīng)驗整理為訓(xùn)練材料，讓模型不斷學(xué)習(xí)。與此同時，將模型帶入行業(yè)實踐不斷驗證，并針對問題持續(xù)給與指導(dǎo)、優(yōu)化。

問：如何解決交通行業(yè)大模型訓(xùn)練過程中的數(shù)據(jù)安全問題？您認為理想的訓(xùn)練、迭代模式是怎樣的？

答：目前業(yè)內(nèi)大多采用公有云部署進行訓(xùn)練，并將數(shù)據(jù)保留在本地的方式，這種方式既解決了數(shù)據(jù)安全問題，又為大模型訓(xùn)練提供了適當條件。當前行業(yè)大模型不會采用私有化部署，原因在于，其一，行業(yè)大模型部署需要較高的算力和成本，單個客戶私有化部署的投入產(chǎn)出比較低，多客戶共享服務(wù)可大大提升效益；其二，行業(yè)大模型處于持續(xù)演化的過程中，公有云部署便于客戶實時、快速的反饋和互動，有利于行業(yè)大模型的快速迭代。其三，隨著技術(shù)發(fā)展和行業(yè)大模型的成熟，通過對行業(yè)大模型進行微調(diào)，能夠訓(xùn)練出特定場景的小模型，在算力需求減少且成本降低的情況下，可以考慮私有化部署。行業(yè)大模型的發(fā)展方向之一，就是私有化和小型化。

問：智能交通企業(yè)在交通行業(yè)大模型的應(yīng)用進程中扮演什么角色？千方有哪些優(yōu)勢？

答：智能交通企業(yè)是交通行業(yè)大模型的創(chuàng)造者和提供者，如前所述，行業(yè)大模型有賴于行業(yè)深度知識，因此行業(yè)大模型必定由行業(yè)內(nèi)的企業(yè)創(chuàng)造。提供通用大模型的企業(yè)不可能獨自打造出交通行業(yè)大模型，而交通行業(yè)大模型也需要以通用大模型為基礎(chǔ)。

構(gòu)建行業(yè)大模型，對于企業(yè)的綜合能力有很高要求，涉及行業(yè)理解、實踐經(jīng)驗及技術(shù)能力等多方面。千方專注交通行業(yè)23年，業(yè)務(wù)場景覆蓋全面，行業(yè)知識積淀深厚，已有200多位行業(yè)專家，擁有成熟的方法論和豐富的實踐經(jīng)驗。自2015年起積極布局人工智能領(lǐng)域，建立了國際領(lǐng)先的人工智能團隊，現(xiàn)已形成六類900余項全景AI算法，不斷推出算法產(chǎn)品與解決方案。在交通領(lǐng)域，我們攜手阿里云“通義千問”，共同推進大模型在行業(yè)內(nèi)的應(yīng)用落地。在AIoT領(lǐng)域，公司旗下宇視科技已推出行業(yè)大模型「梧桐」。

問：交通行業(yè)大模型的落地應(yīng)用，面臨哪些挑戰(zhàn)？如何解決？

答：主要的挑戰(zhàn)包括如何以最高效率和最低成本，在通用大模型的持續(xù)迭代中進行行業(yè)大模型的迭代。其次，需要培養(yǎng)客戶對于交通行業(yè)大模型的理解和應(yīng)用，以獲得更多反饋。以及如何平衡投入成本高，初期產(chǎn)出相對較低的問題。

在解決這些問題時，需要考慮交通行業(yè)大模型的應(yīng)用階段。首先，數(shù)字化程度越高的行業(yè)，會越快產(chǎn)生行業(yè)大模型，而交通行業(yè)大模型的產(chǎn)出周期可能相對較長。其次，需要隨著市場的發(fā)展逐步迭代和落地應(yīng)用，這是更切實可行的方法。

問：您對于交通行業(yè)大模型的應(yīng)用路徑如何判斷？是否會曇花一現(xiàn)？還是會成為行業(yè)必需品？

答：未來，AI就像水、電一樣，是一個基礎(chǔ)能力，所有行業(yè)都會被重新AI化一次。我們認為，交通行業(yè)大模型的應(yīng)用可以分為四個階段：

第一階段，我們以通用大模型作為提升效率的工具。交通行業(yè)的業(yè)務(wù)系統(tǒng)偏To G、To B，需要大量定制開發(fā)，客戶需求也是不斷變化的，開發(fā)周期長、交付效率低，利用大模型可在客戶前端快速編碼，實現(xiàn)快速交付。

第二階段，結(jié)合應(yīng)用場景進行新產(chǎn)品開發(fā)。千方科技主要有兩類場景，一類與視覺感知有關(guān)，另一類是交通場景，包含交通信號優(yōu)化、調(diào)度場景、交通運輸查違章等。原有的視覺AI模型缺乏對世界的理解，結(jié)合通用大模型后，可以快速根據(jù)場景進行落地應(yīng)用。

第三階段，在通用大模型基礎(chǔ)上，結(jié)合行業(yè)知識與專家經(jīng)驗，形成交通行業(yè)大模型。這方面我們在做一些嘗試，具體應(yīng)用取決于行業(yè)、市場對它的理解，以及客戶的接受程度，需要一個過程。它的滲透不會像消費市場那么快，但門檻非常高，一旦建立很難被跨越。

第四階段，結(jié)合千方科技的前端感知設(shè)備、邊側(cè)智能設(shè)備和云端的行業(yè)大模型，我們有可能會把交通系統(tǒng)變成一個半無人或者由人監(jiān)督的自動化運行系統(tǒng)，這是我們未來研發(fā)的目標。