LLM就是框架，Agent就是應(yīng)用，Workflow就是架構(gòu)

天承辦公室 2024-04-09 發(fā)布于北京

展開全文

很多人都在思考，LLM-based時(shí)代的應(yīng)用應(yīng)該怎么去開發(fā)。然而，時(shí)代的慣性會(huì)束縛我們的思維，就像iphone顛覆式出現(xiàn)一樣，在它成為市場(chǎng)主流之前，我們根本想不出在手機(jī)屏幕上的軟件會(huì)如此不同。這讓我想到那句著名的論斷，汽車出現(xiàn)之前，人們對(duì)交通工具的究極想象都是圍繞馬展開，給馬帶上昂貴的裝備，給馬車裝上牛逼的助推器，而當(dāng)汽車出現(xiàn)時(shí)，人們才恍然大悟，原來(lái)交通工具可以不需要馬。AI時(shí)代的到來(lái)，新的iphone時(shí)刻，是否會(huì)改變?nèi)藗兪褂眯畔⒓夹g(shù)的方式？人機(jī)的交互方式，還會(huì)永遠(yuǎn)和當(dāng)下一樣嗎？計(jì)算機(jī)上的各種功能，將會(huì)以怎樣的方式在我們的工作和生活中提供能力？本文將詳細(xì)聊一聊這個(gè)話題。

LLM是基礎(chǔ)設(shè)施

前段時(shí)間，英偉達(dá)發(fā)布了自己的本地大模型服務(wù)，購(gòu)買它的顯卡，可以直接在硬件上運(yùn)行一個(gè)LLM。馬斯克開源了迄今為止開源界參數(shù)最大的Grok，有人將它的源代碼整理成一個(gè)可視化的3D模型，用以演示Grok的神經(jīng)網(wǎng)絡(luò)，人們發(fā)現(xiàn)Grok的架構(gòu)如此復(fù)雜，層數(shù)如此之多，以完全超出現(xiàn)代工程的人力承受范圍。大語(yǔ)言模型已經(jīng)成為一種價(jià)格昂貴但唾手可得的基礎(chǔ)設(shè)施。

去年大家都在討論LLM的能力涌現(xiàn)，例如推理能力，當(dāng)然，也無(wú)法避開它的幻覺(jué)。然而，今年，世界似乎已經(jīng)發(fā)生了翻天覆地的變化。市場(chǎng)上的大模型應(yīng)用越來(lái)越多，但目前來(lái)看，很多都是類Chat類應(yīng)用，要說(shuō)出現(xiàn)井噴式爆發(fā)，還為時(shí)尚早。

當(dāng)然，現(xiàn)在仍然有非常多的人對(duì)LLM的理解還停留在ChatGPT的形式上，他們把大模型等同于和ChatGPT形式一模一樣的聊天機(jī)器人。只有較少的人會(huì)把LLM理解為更底層的工具，它用以支撐和驅(qū)動(dòng)新能力的開發(fā)，這類工具我們常常稱為框架。簡(jiǎn)單講，框架就是一系列工具的集合，以提升開發(fā)效率，讓開發(fā)形成一種范式。而在AI領(lǐng)域做應(yīng)用開發(fā)，在LLM之前有各種模式，現(xiàn)在LLM已經(jīng)一統(tǒng)江湖，任何的AI應(yīng)用，都可以用LLM來(lái)開發(fā)，這讓我們的智能化應(yīng)用（或者說(shuō)需要智能化的功能）開發(fā)變得極為簡(jiǎn)單了。

舉個(gè)例子，前幾天，我在公眾號(hào) wwwtangshuangnet 中講了自己利用AI來(lái)設(shè)計(jì)自己的DSL，里面除了借助chat來(lái)獲得靈感外，另一個(gè)重要的點(diǎn)，就是直接利用LLM將自然語(yǔ)言生成DSL。

這在以前幾乎是不可能的，也就意味著如果用戶沒(méi)有掌握平臺(tái)定制的DSL，就無(wú)法使用某些功能，而在LLM成為基礎(chǔ)設(shè)施之后，我們的開發(fā)更加貼近用戶，更容易把用戶的想法放到產(chǎn)品中去執(zhí)行。而在這個(gè)過(guò)程中，我們甚至可以減少編程中間過(guò)程，因?yàn)楝F(xiàn)在很多大模型都有了直接執(zhí)行代碼的能力（functional calling）。這也代表著，必須一個(gè)字一個(gè)字準(zhǔn)確編程的時(shí)代過(guò)去了，新的基于LLM的編程，可以在模糊的表達(dá)下完成編程過(guò)程，因此，也有人說(shuō)，“面向?qū)ο蟆睂?huì)消失，“面向目標(biāo)”將會(huì)爆發(fā)，以描述目標(biāo)（而非機(jī)器執(zhí)行）為編程內(nèi)容的范式會(huì)逐漸興起，這和SQL的設(shè)計(jì)極為相似，恰巧的是，有一個(gè)叫Chat2DB的項(xiàng)目，可以實(shí)現(xiàn)智能的數(shù)據(jù)查詢和報(bào)表能力，直接用自然語(yǔ)言替代了SQL。

此外，LLM自身的封裝性良好，這也就意味著，我們切換底層框架的靈活性大大提升。當(dāng)我們發(fā)現(xiàn)更好更智能的LLM的時(shí)候，我們可以用非常小的代價(jià)切換底層設(shè)施到新的依賴上，這也使得我們的架構(gòu)設(shè)計(jì)更加靈活，安全性更強(qiáng)，可持續(xù)迭代的能力更可靠。

Agent是AI時(shí)代的主角

之前的文章中，我有講過(guò)，Agent作為AI時(shí)代功能搭建的基本單位，會(huì)出現(xiàn)真正的百花齊放。在移動(dòng)互聯(lián)網(wǎng)時(shí)代，APP是我們享受信息網(wǎng)絡(luò)的入口，而到了AI時(shí)代，Agent就會(huì)替代APP，成為新時(shí)代的信息網(wǎng)絡(luò)入口。

AI時(shí)代的核心使命，是極速的提升人們獲取信息的效率和質(zhì)量。人類獲取信息的模式經(jīng)歷了很多次變革，從口口相傳到結(jié)繩記事，從檔案文書到信息管理，今天，我們將面臨著走向知識(shí)管理的終極——智慧發(fā)掘。LLM-based AI把這種信息獲取的難度拉的極低，以前我們要了解一個(gè)知識(shí)，需要從一部百科全書圖書中去查找，效率和質(zhì)量都很低，而在LLM的加持下，我們可能只需要10秒鐘就可以獲得高質(zhì)量的知識(shí)內(nèi)容。接下來(lái)的時(shí)代，我們需要把這一智能利用往前推一部，讓人類突破信息傳遞的次元壁，能夠讓人類借助AI的力量，在有限的人類腦力前提下，獲得最大程度的智力加持。

過(guò)去，我們有一個(gè)說(shuō)法，手機(jī)是人類身體長(zhǎng)出來(lái)的第三器官。因?yàn)槿祟愐呀?jīng)無(wú)法離開手機(jī)了，所以它就像器官一樣被我們需要和使用。而我相信，AI會(huì)成為人類的第二大腦，同時(shí)，人類還會(huì)長(zhǎng)出第四器官。作為第三器官，手機(jī)智能在虛擬層面幫助人們解決一些效率問(wèn)題，作為第四器官，Agent將會(huì)借助各種硬件，直接在現(xiàn)實(shí)中增強(qiáng)人類的生理極限。過(guò)去，讓人長(zhǎng)出第三只手，或者讓人長(zhǎng)出一對(duì)翅膀，人類的大腦是無(wú)法承受的，過(guò)去通過(guò)腦電波的形式來(lái)實(shí)現(xiàn)人體外肢的實(shí)踐，即使再過(guò)幾十年也不會(huì)有大的進(jìn)展。而在大模型加持下，自適應(yīng)的外肢并不需要大腦的直接控制，而是可以由大模型為大腦的AI系統(tǒng)控制，與人體的其他系統(tǒng)協(xié)調(diào)工作，就像人的淋巴系統(tǒng)、內(nèi)分泌系統(tǒng)一樣，與大腦協(xié)同工作。

AI系統(tǒng)是由Agent作為最小單元分工協(xié)作構(gòu)成的，我們需要井噴式的Agents來(lái)為我們的創(chuàng)意提供原材料，就像開放世界游戲一樣，只有當(dāng)能滿足我們創(chuàng)意的原材料都具備的時(shí)候，我們才能快速實(shí)現(xiàn)它，而當(dāng)下，Agent還是太匱乏。

我認(rèn)為很多人把Agent的設(shè)計(jì)看的太過(guò)復(fù)雜，我認(rèn)為Agent就是非常簡(jiǎn)單的輸入輸出模式，對(duì)于我們現(xiàn)有的很多功能，都是可以重新設(shè)計(jì)為Agent的，甚至有時(shí)候不一定需要LLM，只要它能按照某種Agent協(xié)議，實(shí)現(xiàn)輸入輸出接口，就可以被用到AI系統(tǒng)中，作為組成宏大目標(biāo)的一部分。

這個(gè)圖是我提出來(lái)的一種設(shè)計(jì)模式，感知Agent和行動(dòng)Agent本身通過(guò)事件協(xié)議與中樞部分溝通，通過(guò)端口與外界的硬件、軟件聯(lián)系。一旦這種通用的協(xié)議形成共識(shí)，我們的Agent市場(chǎng)將會(huì)很快豐富起來(lái)。有了足夠多的Agent，我們接下來(lái)要辦的事，就是讓這些Agent能夠協(xié)同工作。

Agent Workflow會(huì)是終極嗎？

工作流是串聯(lián)一系列單元，使它們能夠按照開發(fā)者目標(biāo)完成動(dòng)作的有效方式。這些工作單元，如果獨(dú)立去看，可能與我們最終的目標(biāo)相去甚遠(yuǎn)，但是我們通過(guò)工作流，把這些看上去相去甚遠(yuǎn)的單元組織在一起，有效的分配任務(wù)，就可以實(shí)現(xiàn)我們自己的目標(biāo)。世界上很多事情都是這樣，看上去相去甚遠(yuǎn)的部件，可能在系統(tǒng)中起著關(guān)鍵作用，就像制作釣魚竿的碳纖維材料成為我國(guó)航天公關(guān)中的關(guān)鍵突破，就像我們平時(shí)寫的代碼分看來(lái)每個(gè)語(yǔ)法都平平無(wú)奇，組合在一起卻功能強(qiáng)大。

對(duì)應(yīng)到我們的編程中，Workflow就是架構(gòu)，即用以實(shí)現(xiàn)我具體目標(biāo)的整體AI工作系統(tǒng)，與構(gòu)成該系統(tǒng)的Agent工作單元之間的交互、聯(lián)系、調(diào)度等等。

前幾天，我看到一則消息，國(guó)外某實(shí)驗(yàn)室正在嘗試讓AI訓(xùn)練AI。當(dāng)我們?cè)试SAI在解決我們提出的具體需求時(shí)，且它自己認(rèn)為自己無(wú)法滿足該需求的情況，可以通過(guò)訓(xùn)練一個(gè)具有針對(duì)性的AI來(lái)解決該問(wèn)題時(shí)，AI就實(shí)現(xiàn)了自舉。當(dāng)這一現(xiàn)象產(chǎn)生時(shí)，意味著真正的AGI時(shí)刻到來(lái)了。那么這里有個(gè)問(wèn)題，AI訓(xùn)練AI是我們的設(shè)定，還是AI自己的決策呢？如果在我們的設(shè)計(jì)中，沒(méi)有這種設(shè)計(jì)，AI是否有能力自己想到要去訓(xùn)練一個(gè)AI來(lái)解決具體問(wèn)題？

所以，當(dāng)我們?nèi)ピO(shè)計(jì)Agent工作流時(shí)，我們應(yīng)該換一個(gè)角度，即每一個(gè)Agent都是一個(gè)舉足輕重的角色，就像工作中的同事，如果屏蔽了具體形象，只要它能完成工作流中的環(huán)節(jié)任務(wù)，那么無(wú)論他有沒(méi)有實(shí)體生命，都需要在工作中被平等看待。

上圖是一種擬人化的Agent工作流設(shè)計(jì)，這種設(shè)計(jì)把Agent作為工作環(huán)節(jié)上的角色，完成特定工作內(nèi)容。雖然這些角色可以由人來(lái)代替，但是我們現(xiàn)在是在討論AI系統(tǒng)，我們作為用戶，期望得到的是結(jié)果。

從上面的設(shè)計(jì)來(lái)看，AI系統(tǒng)本身并不具備自舉的潛力，因?yàn)槲覀兺粫?huì)根據(jù)當(dāng)下的業(yè)務(wù)需要來(lái)設(shè)計(jì)工作流。即使我們?cè)诠ぷ髁鳝h(huán)節(jié)中，允許AI進(jìn)行AI訓(xùn)練，也會(huì)是把AI訓(xùn)練交給具體的Agent來(lái)完成，而Agent本身并不是主動(dòng)決策自己要進(jìn)行AI訓(xùn)練，它更多的是承擔(dān)“人力”而非“人才”的角色。至于整套系統(tǒng)來(lái)說(shuō)，就更不存在自己訓(xùn)練AI的說(shuō)法。（當(dāng)然，我們并不排除有人就是要設(shè)計(jì)一個(gè)可以訓(xùn)練AI的AI系統(tǒng)，而且據(jù)我所知，現(xiàn)在頭部的大廠們，確實(shí)就是在用AI來(lái)訓(xùn)練大模型。）

結(jié)語(yǔ)

本文從思考AI時(shí)代的人機(jī)交互形式出發(fā)，提出了AI時(shí)代的Agent等效于移動(dòng)互聯(lián)網(wǎng)時(shí)代的APP的觀點(diǎn)。手機(jī)上的APP是軟件，而Agent則不局限于軟件，還可以是硬件等。過(guò)去我們比較關(guān)注代碼實(shí)現(xiàn)，“面向?qū)ο蟆笔亲盍餍械木幊谭妒?。但在以LLM為基礎(chǔ)設(shè)施的時(shí)代，我們可以大幅減少對(duì)代碼實(shí)現(xiàn)的依賴，比如一些算法、提取、轉(zhuǎn)化、分析等，一起我們可能需要寫大段代碼，甚至搭建一套系統(tǒng)來(lái)實(shí)現(xiàn)，而現(xiàn)在，基于LLM的能力，可以直接獲得結(jié)果。目前來(lái)說(shuō)，其實(shí)我們的LLM基礎(chǔ)設(shè)施已經(jīng)很強(qiáng)了，比較欠缺的是Agent，現(xiàn)在的Agent實(shí)在是太少了，想要構(gòu)建AI系統(tǒng)，任何功能（Agent）都需要自己從0去造。當(dāng)然，或許這也是機(jī)會(huì)。

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來(lái)自：天承辦公室 > 《005矩陣應(yīng)用》

舉報(bào)/認(rèn)領(lǐng)