Dify 中应用类型及简介

Dify中提供了五种类型的应用

聊天助手 文本生成应用 Agent 对话流 工作流

如果需要创建一个新的应用

那么直接在导航栏中的工作室页面中,选择从空白创建一个即可。

需要设置名字和图标等。

除了这种方式,也可以将创建好的应用作为DSL文件进行导出

将DSL文件导入为应用

这里首先创建一个聊天助手

进入到编排页面

首先给出提示词

主要是告诉AI该做什么,扮演什么角色,有什么可用的上下文

除此外,还有些优化项,比如加上对话开场白

添加数个开场白,让每次对话的时候使用随机开场白

对于一些支持读取文件的LLM,可以在下方开启文档的功能,让LLM支持读取文件。

之后就可以进行调试了,同时还支持多模型调试

可以让一个问题同时调用多个大模型,最终方便调试

其次对于Agent

Agent这个概念可以查看本博客LangChain的介绍

在使用中,可以直接将工具添加给Agent

目前,Dify提供了第一方的工具和自定义工具(需要符合OpenAPI或者Swagger规范)

还支持设置LLM的推理模式,无论是Function calling还是ReAct模式。

对于某些尚未支持Function calling的模型,可以使用ReAct框架实现。

最后我们聊聊LLM中的增强功能

刚刚说了开场白,除此外还有

下一步建议

比如根据之前的对话内容继续生成3个提问,引导开启下一轮对话

文字转语音

语音转文字

引用与归属(支持LLM在对话中,将自己的回复引用自哪个文档一并抛出)

内容审查

此支持检测特定敏感词,或者调用特定供应商提供的审查的API,

诸如OpenAI Moderation API,以及我们可以自定义一个Api进行集成。(判断用户输入词)

标注回复

类似设定提前写好的问题+回复

如果用户提出的问题可以匹配向量库中存储的问题的时候,直接返回预先设定好的回复。

需要开启并设置Score和Embedding模型,其中Embedding模型供文本向量化和查询。

使用方式为

编辑回复。

别忘了在应用构建-日志标注-标注中开启标注回复开关。

除此外还支持标注的导入导出功能以及查看标注命中历史。

Dify 中应用类型及简介

Dify中提供了五种类型的应用

聊天助手 文本生成应用 Agent 对话流 工作流

如果需要创建一个新的应用

那么直接在导航栏中的工作室页面中,选择从空白创建一个即可。

需要设置名字和图标等。

除了这种方式,也可以将创建好的应用作为DSL文件进行导出

将DSL文件导入为应用

这里首先创建一个聊天助手

进入到编排页面

首先给出提示词

主要是告诉AI该做什么,扮演什么角色,有什么可用的上下文

除此外,还有些优化项,比如加上对话开场白

添加数个开场白,让每次对话的时候使用随机开场白

对于一些支持读取文件的LLM,可以在下方开启文档的功能,让LLM支持读取文件。

之后就可以进行调试了,同时还支持多模型调试

可以让一个问题同时调用多个大模型,最终方便调试

其次对于Agent

Agent这个概念可以查看本博客LangChain的介绍

在使用中,可以直接将工具添加给Agent

目前,Dify提供了第一方的工具和自定义工具(需要符合OpenAPI或者Swagger规范)

还支持设置LLM的推理模式,无论是Function calling还是ReAct模式。

对于某些尚未支持Function calling的模型,可以使用ReAct框架实现。

最后我们聊聊LLM中的增强功能

刚刚说了开场白,除此外还有

下一步建议

比如根据之前的对话内容继续生成3个提问,引导开启下一轮对话

文字转语音

语音转文字

引用与归属(支持LLM在对话中,将自己的回复引用自哪个文档一并抛出)

内容审查

此支持检测特定敏感词,或者调用特定供应商提供的审查的API,

诸如OpenAI Moderation API,以及我们可以自定义一个Api进行集成。(判断用户输入词)

标注回复

类似设定提前写好的问题+回复

如果用户提出的问题可以匹配向量库中存储的问题的时候,直接返回预先设定好的回复。

需要开启并设置Score和Embedding模型,其中Embedding模型供文本向量化和查询。

使用方式为

编辑回复。

别忘了在应用构建-日志标注-标注中开启标注回复开关。

除此外还支持标注的导入导出功能以及查看标注命中历史。

发表评论

邮箱地址不会被公开。 必填项已用*标注