Dify 框架配置


什么是 Dify

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。

部署 Dify

Dify 提供了无需部署即可使用的云服务,你可以前往:https://cloud.dify.ai/ 进行登录使用。

觅思文档推荐用户使用 Docker Compose 部署 Dify,其官方文档地址为:https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted/docker-compose

配置 Dify

配置模型

Dify 是一个大语言模型框架,支持接入各类模型供应商(OpenAI的ChatGPT、百度的文心一言、Gitee AI和自部署的Ollama等)。在部署好 Dify 之后,你需要在 Dify 中配置模型供应商。

在「设置」-「模型供应商」中,配置你的模型:

invalid image (图片无法加载)

创建一个空白知识库

Dify 知识库的作用在于让 Dify 应用进行聊天时,能够从知识库中检索内容,然后根据检索的内容进行回答。如果你不需要 Dify 接入的大语言模型进行针对性知识库的问答,可以忽略此步骤。

部署好 Dify 之后,在 Dify 的「知识库」栏目下,点击「创建知识库」:

invalid image (图片无法加载)

你可以选择上传你本地的知识库文件,或者「创建一个空知识库」,觅思文档推荐你创建一个空知识库专门存储来自于觅思文档的数据。

invalid image (图片无法加载)

点击「创建一个空知识库」,输入知识库的名称进行创建:

invalid image (图片无法加载)

这样,一个 Dify 知识库就创建完成了。

获取知识库API密钥

在 Dify 知识库页面的「API」中获取知识库的API密钥以备用:

invalid image (图片无法加载)

创建应用

在 Dify 工作室页面,点击「创建空白应用」,选择「聊天助手」和「基础编排」:

invalid image (图片无法加载)

创建好应用之后,点击进入应用设置页面。

在右上角,为你的应用选择模型:

invalid image (图片无法加载)

按照你的实际需要,进行提示词编写,例如:

请根据上下文,回答用户的问题;如果上下文中没有相关信息,请回复「我暂时无法回答你的问题」,所有的回答以 Markdown 样式进行输出

在上下文中,添加创建的知识库作为应用的上下文。

最后发布应用。

获取应用嵌入网站代码

点击「发布」按钮,在下拉菜单中选择「嵌入网站」:

invalid image (图片无法加载)

在弹出的对话框中选择第二个类型,复制其代码,以备用。

invalid image (图片无法加载)

获取应用API密钥

在应用内选择「访问API」,点击「API密钥」创建一个应用的对话API密钥,以备用:

invalid image (图片无法加载)

配置 MrDoc

1、在后台管理「AI接入」页面的「基础配置」中,AI框架选择「Dify」。

2、在后台管理「AI接入」页面的「Dify配置」中,填入 Dify 的「API地址」、「对话API密钥」、「知识库API密钥」、「文本生成API密钥」;

3、点击「读取Dify知识库」,选择需要绑定的 Dify 知识库。

4、如果「基础配置」中启用了「聊天对话框」,在「Dify配置」的嵌入代码中,填入 Dify 应用的「嵌入网站代码」。


州的先生 2025年3月10日 23:23 收藏文档