有沒有類似 Coze 的開源項目？

目前有兩個 Coze 的開源平替，同樣支持智能體搭建：FastGPT 和 Dify。

就目前的體驗來看，二者各有優(yōu)劣：

• FastGPT：在知識庫召回上更優(yōu)；
• Dify：支持的大模型更豐富，插件生態(tài)更完善。

關(guān)于 FastGPT，可以看之前的教程：0基礎(chǔ)搭建本地私有知識庫，給 GPT 插上翅膀

今日分享，將手把手帶大家私有化部署體驗 Dify，并把它接入個人微信。

1. Dify 簡介

?

在線體驗：https:///

開源地址：https://github.com/langgenius/dify

官方文檔：https://docs./v/zh-hans

Dify 是 Do it for you （為你而做）的簡稱。

和 Coze 非常類似，Dify 也內(nèi)置了構(gòu)建 LLM 應(yīng)用所需的關(guān)鍵技術(shù)棧，包括對數(shù)百個模型的支持、直觀的 Prompt 編排界面、高質(zhì)量的 RAG 引擎、穩(wěn)健的 Agent 框架、靈活的流程編排，以及一套易用的界面和 API。

如果你用過 Coze 搭建智能體，那么遷移到 Dify 會非常絲滑。

如果你沒用過 Coze，那么可以前往上面的在線體驗地址，先去點點看~

如果不想自己部署，官方地址也提供了一定的免費額度，不過只支持上傳 50 個文檔，且支持 RAG 的向量空間也只有 5 MB。

如果不想付費，且對自己的私有數(shù)據(jù)安全有更高要求，那么強烈建議你本地私有化部署，參考下面步驟，相信你也能搞定！

2. Dify 私有化部署

?

參考文檔：https://docs./v/zh-hans/getting-started/install-self-hosted/docker-compose

首先，克隆 Dify 源代碼至本地，然后進(jìn)入 docker 目錄，復(fù)制一份環(huán)境變量，采用默認(rèn)端口，一鍵啟動：

啟動成功后，你會發(fā)現(xiàn)共有 9 個容器：包括 3 個業(yè)務(wù)服務(wù) api / worker / web，以及 6 個基礎(chǔ)組件 weaviate / db / redis / nginx / ssrf_proxy / sandbox。

內(nèi)存占用共計 1690 M，所以至少確保有一臺 2G 內(nèi)存的機(jī)器。

因為項目中啟動了一個容器 nginx 將 web 服務(wù)轉(zhuǎn)發(fā)到 80 端口，所以在瀏覽器中，直接輸入公網(wǎng) IP 即可，設(shè)置一下管理員的賬號密碼，進(jìn)入應(yīng)用主界面。

3. 接入大模型

整個界面非常簡單，先不管能干啥，我們先把大模型接入進(jìn)來。

怎么接入？

不得不說，Dify 把這么重要的需求設(shè)置的實在太隱秘了，著實折騰了一段時間才找到??

在設(shè)置里找到模型供應(yīng)商，這里已經(jīng)支持了上百款模型，我這里主要先接入了三款有免費額度的。

其中：

• SiliconFlow 提供了大量免費的 LLM API，即便是需要付費的模型，新注冊用戶也有 2000W Token 的體驗額度?？汕巴?strong>領(lǐng)?。?/strong>https://cloud.?referrer=clxv36914000l6xncevco3u1y
• 火山引擎的方舟大模型也提供了一定的免費額度，怎么接入？

在火山方舟控制臺找到：在線推理-創(chuàng)建推理接入點，就可以拿到接入點名稱。

如果你打算采用本地部署的大模型，Dify 也提供了對 Ollama 的支持：

不了解 Ollama 的小伙伴，可以回看教程：本地部署大模型？看這篇就夠了，Ollama 部署和實戰(zhàn)

如果你有用過 OneAPI 管理過各種大模型，Dify 也提供了對 OpenAI-API-compatible 的支持：

不了解 OneAPI 的小伙伴，可以回看教程：一鍵封裝成OpenAI協(xié)議，強推的一款神器！

4. 創(chuàng)建工作流

回到主頁，點擊創(chuàng)建空白應(yīng)用，這里的聊天助手和文本生成應(yīng)用，是功能最為單一的 LLM 應(yīng)用，都不支持工具和知識庫的接入。

Agent 和 工作流有什么區(qū)別？

• Agent：智能體，基于大語言模型的推理能力，可以自主選擇工具來完成任務(wù)，相對簡單。
• 工作流：以工作流的形式編排 LLM 應(yīng)用，提供更多的定制化能力，適合有經(jīng)驗的用戶。

通常，我們需要 Agent 和 工作流配合使用，Agent 負(fù)責(zé)對話理解，Workflow 處理具體的定制功能。

今天，我們就把上一篇在 coze 做的微信消息轉(zhuǎn)發(fā)插件遷移過來，給大家展示一下工作流的搭建方式。看看 Dify 能否完成同樣的功能。

先創(chuàng)建一個工作流，進(jìn)來后，在開始中添加后面添加添加兩個參數(shù)：好友昵稱 和 消息內(nèi)容：

然后在開始后面添加一個 Http 請求：

在 Http 請求中填入相關(guān)信息：url 就是上篇中搭建的機(jī)器人的發(fā)送消息的API，body 內(nèi)容參考請求體參數(shù)填寫，如下圖所示。

注意，上述填寫 json 結(jié)構(gòu)體時，一定要將變量加雙引號，否則后面測試不通。

最后，創(chuàng)建一個結(jié)束流程，把 http 請求接口的結(jié)果進(jìn)行返回。

創(chuàng)建成功后，點擊運行測試一下：

運行測試沒問題后，你需要將它發(fā)布為一個工具（類似 coze 中的插件），才能供后面的 Agent 調(diào)用。

注意：這里的工具調(diào)用名稱，是后續(xù)給大模型調(diào)用的，工具描述需要寫清楚。

5. 創(chuàng)建 Agent 應(yīng)用

工具發(fā)布以后，回到首頁，在工具 tab 頁的工作流中可以看到：

接下來，我們來創(chuàng)建一個 Agent 應(yīng)用，來調(diào)用該工具：

可以先設(shè)置一下角色提示詞：

你作為一個聊天機(jī)器人，能夠深刻理解對話內(nèi)容背后的意圖?？梢允褂脀echat_msg工具，給對方的微信號發(fā)送答復(fù)。

然后，在下方的工具處，把我們剛發(fā)布的工具添加進(jìn)來：

最后，如果指令任務(wù)執(zhí)行的不夠好，右上角選擇切換一個大模型：

在右側(cè)的預(yù)覽與調(diào)試區(qū)域，測試一下吧~

測試案例一：