實(shí)際上用AI打造程序員并不是那么新鮮的事情，其實(shí)從去年開始就有很多這方面的有趣的嘗試，比如ChatDev項目，在github上已經(jīng)斬獲2萬顆星，也是在AI程序員的打造上大膽的一項嘗試。 

在一個軟件項目當(dāng)中，我們可以定義CEO、CTO、開發(fā)工程師、測試人員、產(chǎn)品經(jīng)理等各類的角色，讓這些角色根據(jù)用戶提供的需求自行完成一個軟件開發(fā)項目。這些角色之前可以對話、可以開會、討論問題并達(dá)成結(jié)論。源碼地址：https://github.com/OpenBMB/ChatDev

在ChatDev之前，還有一個項目特別火，而且ChatDev也是借鑒了這個項目，叫作斯坦福小鎮(zhèn)，用AI技術(shù)構(gòu)造很多角色，讓這些角色在虛擬世界里生活，它們之間可以無縫交流，組織活動、一起解決問題。源碼地址：https://github.com/joonspk-research/generative_agents

這些項目歸根揭底來自Agent技術(shù)，在Agent框架下大模型可以起到控制流程的作用，它可以帶領(lǐng)每個領(lǐng)域的專家協(xié)作完成一個任務(wù)。用Agent開發(fā)AI程序員僅僅是Agent領(lǐng)域的一個應(yīng)用場景，你也可以基于Agent來寫一個完整的小說、生成完整的課程、組織一場社群活動等，這里有太多的想象空間。 

我們一直認(rèn)為2024年是Agent領(lǐng)域爆發(fā)的一年，很多公司也會開始下場做Agent的開發(fā)項目，那作為開發(fā)工程師或者算法工程師，在24年從事一項Agent項目必定是職業(yè)生涯最好的選擇，能夠踏上這一班車意味著比別人領(lǐng)先一大步。 

那如何學(xué)習(xí)Agent？市面上有體系的教程比較少、都是碎片化的內(nèi)容。在這里，我們強(qiáng)烈推薦貪心科技發(fā)布的《大模型開發(fā)應(yīng)用實(shí)戰(zhàn)營》+《大模型微調(diào)實(shí)戰(zhàn)營-應(yīng)用篇》組合學(xué)習(xí)路徑，從課程內(nèi)容豐富度，知識前沿性，講師專業(yè)度，體系化設(shè)計等各個維度可以說做到了遙遙領(lǐng)先，會讓你在短時間內(nèi)快速上手實(shí)現(xiàn)達(dá)模型類項目，極大提升學(xué)習(xí)效率。 

感興趣的朋友歡迎掃描下方二維碼咨詢，具體大綱詳見下面。 

• 為什么要學(xué)習(xí)大模型開發(fā)？
• 對學(xué)員期望與課程目標(biāo)
• 課程安排概覽
• 學(xué)習(xí)評估
• 需要準(zhǔn)備的工具和環(huán)境

• 大模型發(fā)展史
• 從大模型預(yù)訓(xùn)練、微調(diào)到應(yīng)用
• GPT結(jié)構(gòu)剖析
• 大模型家族、類別、應(yīng)用場景
• RAG，Agent與小模型

• 通過API調(diào)用大模型
• 單論對話與多輪對話調(diào)用
• 開源模型與閉源模型調(diào)用
• ChatGLM，Baichuan，Yi-34B調(diào)用
• GPT，LLaMA模型調(diào)用
• 模型的部署、容器化

• 提示詞的常見結(jié)構(gòu)
• 提示詞的模版化
• Zero-shot與Few-shot
• In-context learning
• Chain of thought prompting

• Tree of thought prompting
• Graph of thought promting
• Self-consistency
• Active-prompt
• Prompt chaining

• 為什么需要RAG？
• RAG的經(jīng)典應(yīng)用場景
• RAG的經(jīng)典結(jié)構(gòu)與模塊
• 向量數(shù)據(jù)庫
• 檢索與生成

• 產(chǎn)品介紹與核心功能
• 技術(shù)方案與架構(gòu)設(shè)計
• 文檔讀取和解析
• 文檔的切分和文檔向量化
• query搜索與文檔排序
• 提示模版與大模型API接入
• 模型部署與Web應(yīng)用

• 根據(jù)每個Sentence切分
• 根據(jù)固定字符數(shù)切分
• 根據(jù)固定sentence數(shù)切分
• 根據(jù)遞歸字符來切分
• 根據(jù)語義相似度來切分

• 常用向量數(shù)據(jù)庫以及類別
• 向量數(shù)據(jù)庫與索引算法
• 到排表與搜索優(yōu)化
• KNN與近似KNN
• Product Quantization

• HSNW算法在索引中的重要性
• NSW算法解讀
• NSW圖中的搜索問題
• Skip List講解
• 具有層次結(jié)構(gòu)的NSW

• 推薦系統(tǒng)原理、應(yīng)用場景以及架構(gòu)剖析
• 傳統(tǒng)推薦算法與基于LLM推薦算法
• 新聞數(shù)據(jù)的準(zhǔn)備與整理
• 推薦中的召回與精排
• 精排與Prompt構(gòu)建
• 模型部署與測試

• 為什么需要LangChain?
• 通過一個小項目快速理解各個模塊
• LangChain調(diào)用模型
• PromptTemplate的應(yīng)用
• 輸出格式設(shè)定
• Pydantic Object設(shè)計

• 什么是 Function Calling
• 自定義輸出結(jié)構(gòu)
• 基于OpenAI調(diào)用Function Calling
• Function Calling的穩(wěn)定性
• LangChain與Function Calling

• Document Loaders
• Text Splitters
• Text Embedding模型
• 常用的向量數(shù)據(jù)庫調(diào)用
• 常用的Retriever

• 為什么需要Chain？
• LLMChain, Sequential Chain
• Transform Chain
• Router Chain
• 自定義Chain

• 經(jīng)典RAG的幾個問題
• Self-querying retrieval
• MultiQuery retriever
• Step-back prompting
• 基于歷史對話重新生成Query
• 其他Query優(yōu)化相關(guān)策略

• Sentence window retrieval
• Parent-child chunks retrieval
• Fusion Retrieval
• Ensemble Retrieval
• RPF算法

• 為什么需要評估RAG
• RAG中的評估思路
• 評估指標(biāo)設(shè)計
• 套用在項目中進(jìn)行評估
• RAGAS評估框架的缺點(diǎn)

• 需求理解和系統(tǒng)設(shè)計
• 經(jīng)典RAG架構(gòu)下的問題
• 檢索器優(yōu)化
• 生成器優(yōu)化
• 系統(tǒng)部署與測試

• 模型私有化部署的必要性
• 中英開源模型概覽與分類
• ChatGLM, Baichuan，Yi等中文開源模型
• LLaMA，Mistral系列英文開源模型
• 微調(diào)所需要的工具和算力

• 判斷是否需要模型微調(diào)
• 模型微調(diào)對模型的影響和價值
• 選擇合適的基座模型
• 數(shù)據(jù)集的準(zhǔn)備
• 微調(diào)訓(xùn)練框架的選擇

• GPU與CPU
• GPU的計算特性
• 微調(diào)所需要的算力計算公式
• 常見GPU卡介紹與比較
• 搭建GPU算力環(huán)境

• 全量微調(diào)與少量參數(shù)微調(diào)
• 理解LoRA訓(xùn)練以及參數(shù)
• PEFT庫的使用
• LoRA訓(xùn)練硬件資源評估
• 認(rèn)識QLoRA訓(xùn)練

• 理解ChatGLM模型家族以及特性
• 導(dǎo)入模型以及tokenizer
• 設(shè)計模型參數(shù)以及LoRA參數(shù)
• 訓(xùn)練以及部署微調(diào)模型
• 測試微調(diào)模型

• 什么是Agent
• 什么是Plan, Action, Tools
• 經(jīng)典的Agent開源項目介紹
• 編寫簡單的Agent程序
• Agent目前面臨的挑戰(zhàn)與機(jī)遇

• LangChain所支持的Agent
• 什么需要自定義Agent
• @tool decorator的使用
• 編寫自定義Agent工具
• 編寫完整的Agent小項目

• 回顧什么是CoT
• CoT和Action的結(jié)合
• 剖析ReAct框架的Prompt結(jié)構(gòu)
• 從零實(shí)現(xiàn)ReAct（from Scratch)
• ReAct框架的優(yōu)缺點(diǎn)分析

• 開源Agent項目以及分類
• AutoGPT項目講解
• MetaGPT項目講解
• 其他開源項目
• Agent技術(shù)目前存在的問題

• Agent的planning
• Agent的reasoning
• Agent的knowledge
• Agent的memory
• Agent的泛化能力

• 需求設(shè)計和系統(tǒng)設(shè)計
• 工具的設(shè)計
• AI面試中的深度詢問方案設(shè)計
• 提示工程設(shè)計
• Memory的設(shè)計
• 智能體開發(fā)與部署

• AI旅游規(guī)劃師
• AI產(chǎn)品銷售
• AI房租推薦
• AI圖像處理
• AI網(wǎng)站開發(fā)

• 多個Agent的協(xié)同
• Agent的group行為
• Agent Society
• Agent的Personality
• 斯坦福小鎮(zhèn)案例

• 智能設(shè)備特性以及資源限制
• 模型優(yōu)化的必要性
• 常見的模型壓縮技術(shù)
• 輕量級模型架構(gòu)介紹
• 開源小模型

• 多大的模型適合
• 部署流程概述
• 模型轉(zhuǎn)換工具
• 模型部署實(shí)戰(zhàn)
• 性能測試與優(yōu)化

• 邊緣計算的概念和重要性
• 模型所要滿足的要求與性能上的平衡
• 模型在邊緣設(shè)備上的應(yīng)用案例
• 未來“小”模型發(fā)展趨勢
• 24年“小”模型機(jī)會

• 什么是多模態(tài)模型
• 多模態(tài)的應(yīng)用場景
• DALLE-3與Midjourney
• Stable Diffusion與ControlNet
• 語音合成技術(shù)概述
• 主流TTS技術(shù)剖析

• 多模態(tài)大模型最新進(jìn)展
• Sora對多模態(tài)大模型會產(chǎn)生什么影響
• 案例：MiniGPT-4與多模態(tài)問答
• 案例：BLIP與文本描述生成
• 案例：Video-LLaVA與多模態(tài)圖像視頻識別

• 大模型技術(shù)局限性
• 大模型的隱私性和準(zhǔn)確性
• 大模型和AGI未來
• GPT商城的機(jī)會
• 多模態(tài)的機(jī)會
• 對于開發(fā)工程師未來的啟示

• 課程介紹與目標(biāo)
• 學(xué)習(xí)安排與課程結(jié)構(gòu)
• 學(xué)員參與要求
• 課程項目與技術(shù)概覽
• 推薦工具和開源資源

• 大模型的概念與歷史發(fā)展
• 關(guān)鍵技術(shù)和算法基礎(chǔ)
• 數(shù)據(jù)準(zhǔn)備與預(yù)處理
• 預(yù)訓(xùn)練、指令微調(diào)、對齊
• 模型評估以及能力分析

• 微調(diào)與全量訓(xùn)練的區(qū)別
• 微調(diào)在不同領(lǐng)域的應(yīng)用案例
• 選擇微調(diào)任務(wù)和數(shù)據(jù)
• 微調(diào)的效果評估方法
• 微調(diào)項目的規(guī)劃與管理

• Transformer模型的基礎(chǔ)架構(gòu)
• Self-Attention機(jī)制的工作原理
• Transformer在NLP任務(wù)中的應(yīng)用
• Transformer模型的變種與發(fā)展
• 使用Transformer模型的實(shí)用技巧
• Encoder和Decoder介紹

• 常見的中英開源大模型介紹
• 模型選擇標(biāo)準(zhǔn)與評估
• 開源模型的獲取與使用
• 社區(qū)支持與資源分享
• 開源大模型發(fā)展方向

• Huggingface介紹
• 本地下載開源模型
• 理解HF相應(yīng)的庫以及導(dǎo)入大模型
• 模型封裝以及部署
• 性能優(yōu)化與成本控制

• 指令微調(diào)的概念與應(yīng)用價值
• 指令集設(shè)計與實(shí)現(xiàn)
• 微調(diào)流程與實(shí)踐技巧
• 性能評估與優(yōu)化策略
• 指令微調(diào)的挑戰(zhàn)與解決方案

• LoRA微調(diào)的方法
• 實(shí)施LoRA微調(diào)的步驟
• LoRA微調(diào)在實(shí)際項目中的應(yīng)用
• 性能評估與調(diào)優(yōu)技巧
• LoRA微調(diào)的局限與未來展望

• Alpaca項目介紹
• 指令數(shù)據(jù)的理解
• LoRA微調(diào)的實(shí)施與調(diào)優(yōu)
• 項目評估與效果分析
• 經(jīng)驗總結(jié)與案例分享

• 為什么需要大模型壓縮
• 模型壓縮的方法與技術(shù)
• 壓縮對模型性能的影響
• 壓縮模型的常見方法
• 模型服務(wù)化的最佳實(shí)踐

• QLoRA微調(diào)技術(shù)介紹
• 微調(diào)策略與實(shí)施過程
• 應(yīng)用QLoRA的案例
• QLoRA微調(diào)的性能調(diào)優(yōu)
• 面臨的問題與解決方法

• 設(shè)計QLoRA微調(diào)方案
• 準(zhǔn)備數(shù)據(jù)與環(huán)境配置
• 開源模型選擇
• 執(zhí)行微調(diào)與性能監(jiān)控
• 項目經(jīng)驗分享與討論

• DeepSpeed框架概述
• 配置與環(huán)境搭建
• 在大模型訓(xùn)練中使用DeepSpeed
• 分布式訓(xùn)練介紹
• 框架背后技術(shù)實(shí)現(xiàn)
• DeepSpeed參數(shù)理解
• 實(shí)戰(zhàn)案例與經(jīng)驗分享

• Megatron-LM框架介紹
• 框架安裝與配置指南
• 應(yīng)用Megatron-LM進(jìn)行模型訓(xùn)練
• 框架背后技術(shù)實(shí)現(xiàn)
• Megatron-LM參數(shù)理解
• 實(shí)戰(zhàn)案例與經(jīng)驗分享

• 為什么需要Flash Attention
• GPU計算背景知識
• Flash Attention技術(shù)背后
• 在大模型中應(yīng)用Flash Attention
• 實(shí)際部署與應(yīng)用案例

• 微調(diào)模型性能測試的重要性
• Benchmark工具與方法介紹
• 執(zhí)行Benchmark的步驟與技巧
• 結(jié)果分析與解讀
• Benchmark設(shè)計與業(yè)務(wù)場景

• 結(jié)合QLoRA和Flash Attention的策略
• 微調(diào)與部署的一體化流程
• 項目實(shí)施的關(guān)鍵步驟
• 成果評估與性能優(yōu)化
• 經(jīng)驗分享與問題解決

• 開源模型的概述
• 常見的開源模型分類
• 選擇開源模型的考量因素
• 開源模型的獲取和使用指南
• 維護(hù)和貢獻(xiàn)開源模型的最佳實(shí)踐

• ChatGLM模型家族介紹
• ChatGLM1到ChatGLM3迭代
• ChatGLM的私有化部署
• ChatGLM的特色
• 微調(diào)ChatGLM模型的步驟和技巧
• 微調(diào)案例分享

• 理解需求以及技術(shù)方案設(shè)計
• 醫(yī)療指令數(shù)據(jù)的搜集
• 醫(yī)療Benchmark的獲取和整理
• 微調(diào)ChatGLM+LoRA模型
• 微調(diào)案例分享

• Qwen和YI模型家族概述
• 兩個模型家族的迭代
• Qwen和YI大模型的私有化部署
• 兩個大模型家族的特色
• 微調(diào)Qwen和YI模型的實(shí)踐指南
• 微調(diào)案例分享

• LLaMA模型家族特點(diǎn)
• LLaMA大模型的迭代和架構(gòu)變化
• LLaMA大模型的私有化部署
• 微調(diào)LLaMA模型的方法和建議
• LLaMA模型微調(diào)的案例分析
• 微調(diào)案例分享

• Mistral和Phi模型家族簡介
• Mistral和Phi在多語言中的應(yīng)用
• 兩大模型家族的特色
• 量大模型家族的私有化部署
• 微調(diào)Mistral和Phi模型的流程
• 微調(diào)案例分享

• MoE（Mixture of Experts）模型概念
• MoE模型在大規(guī)模數(shù)據(jù)處理中的優(yōu)勢
• 微調(diào)MoE模型的關(guān)鍵點(diǎn)
• MoE模型的應(yīng)用案例
• MoE模型的擴(kuò)展性和可維護(hù)性問題
• Mistral 8x7b
• 微調(diào)案例分享

• 理解需求以及技術(shù)方案設(shè)計
• 智能客服指令數(shù)據(jù)收集
• Benchmark的獲取和整理
• 微調(diào)Mistra 8x7b+QLoRA模型
• 模型評估以及驗收報告制作

• Baichuan中文大模型
• Falcon模型家族
• Bloom模型介紹
• 不同領(lǐng)域開源模型的應(yīng)用實(shí)例
• 微調(diào)這些開源模型的技術(shù)指導(dǎo)

• 評估開源模型的關(guān)鍵標(biāo)準(zhǔn)
• 匹配項目需求和模型特性
• 實(shí)踐中選擇開源模型的經(jīng)驗分享
• 開源模型使用中的常見陷阱
• 社區(qū)和資源的重要性

• 大模型對齊的重要性和應(yīng)用場景
• 基本對齊技術(shù)和方法概述
• 對齊過程中的數(shù)據(jù)處理和預(yù)處理
• 模型對齊的評估指標(biāo)
• 大模型對齊的挑戰(zhàn)和策略

• 開源數(shù)據(jù)集的重要性和來源
• 選擇和處理對齊用的開源數(shù)據(jù)
• 開源數(shù)據(jù)在模型對齊中的應(yīng)用
• 數(shù)據(jù)隱私和倫理考量
• 維護(hù)和更新開源數(shù)據(jù)集

• RLHF（強(qiáng)化學(xué)習(xí)從人類反饋）技術(shù)介紹
• RLHF在模型對齊中的應(yīng)用案例
• 實(shí)施RLHF技術(shù)的步驟
• RLHF技術(shù)的效果評估
• 解決RLHF應(yīng)用中的問題
• RLHF實(shí)戰(zhàn)案例分析

• DPO（Direct Preference Optimization）概念
• DPO在優(yōu)化模型對齊中的作用
• 實(shí)現(xiàn)DPO的關(guān)鍵技術(shù)點(diǎn)
• DPO應(yīng)用的案例和效果分析
• DPO技術(shù)的挑戰(zhàn)和前景
• DPO實(shí)戰(zhàn)案例分享

• 需求分析以及技術(shù)方案設(shè)計
• 數(shù)據(jù)收集和預(yù)處理
• 訓(xùn)練Reward Model
• 訓(xùn)練RLHF完整微調(diào)
• 項目的評估和優(yōu)化

• 需求分析以及技術(shù)方案設(shè)計
• 對齊數(shù)據(jù)的準(zhǔn)備和處理
• 執(zhí)行DPO模型對齊流程
• 對齊效果的評估和調(diào)整
• 項目中遇到的挑戰(zhàn)

• 當(dāng)前大模型對齊技術(shù)的發(fā)展趨勢
• 模型對齊在大模型中的真正價值
• 對齊在工程上挑戰(zhàn)
• 模型對齊技術(shù)的倫理和社會影響
• 資源推薦和學(xué)習(xí)路徑

• 垂直領(lǐng)域的研發(fā)符合中國現(xiàn)狀
• 垂直領(lǐng)域大模型研發(fā)pipeline
• 微調(diào)大模型的基本方法和流程
• 選擇合適的微調(diào)策略
• 微調(diào)中的性能優(yōu)化技巧
• 微調(diào)項目的評估和調(diào)整

• 智能問診領(lǐng)域的應(yīng)用場景和需求
• 大模型能力維度設(shè)計
• 領(lǐng)域內(nèi)benchmark設(shè)計
• 快速測試開源模型能力并選擇合適的模型
• 微調(diào)模型以適應(yīng)醫(yī)療數(shù)據(jù)
• 模型部署以及RAG設(shè)計

• 金融領(lǐng)域通用大模型需求分析
• 金融領(lǐng)域大模型benchmark
• XuanYuan開源項目剖析
• 金融領(lǐng)域大模型案例解讀
• 微調(diào)模型在金融Benchmark上的評估
• 金融領(lǐng)域中的未來潛在落地場景

• 教育領(lǐng)域的大模型應(yīng)用場景和需求
• 微調(diào)大模型進(jìn)行個性化學(xué)習(xí)支持
• EduChat開源項目剖析
• 指令數(shù)據(jù)和對齊數(shù)據(jù)的整理
• Benchmark以及大模型評估
• 教育領(lǐng)域中的未來潛在落地場景

• 課程學(xué)習(xí)要點(diǎn)回顧
• 項目成果分享和評估
• 學(xué)習(xí)心得和經(jīng)驗交流
• 未來發(fā)展趨勢和學(xué)習(xí)路徑

• 多家上市公司技術(shù)戰(zhàn)略顧問
• 曾任金融科技獨(dú)角獸公司首席科學(xué)家
• 曾任量化投資初創(chuàng)公司首席科學(xué)家
• 曾任美國亞馬遜推薦系統(tǒng)工程師
• 深耕人工智能領(lǐng)域十余年，授課培養(yǎng)AI學(xué)員數(shù)萬人

• 貪心科技資深算法工程師

• 擁有豐富的大模型應(yīng)用開發(fā)與微調(diào)經(jīng)驗，曾參與基于大模型的智能客服、智能招聘系統(tǒng)、無人直播、面試機(jī)器人、智能助教、等數(shù)十余個項目的開發(fā)和落地