FastGPT 学习
本章主要的目的是学习FastGPT
但是由于其和Dify的相似性,所以这一次更多的是对不同点的比较,算是一种站在Dify上看FastGPT的感觉。那么我们就直接开始。
- 初步上手中知识库的差异
在初步上手过程中,必须要选择索引模型,这是不同的。
其次是是上传的时候,让我们选择上传方式
这地方的不同点在于,FastGPT提供了手动输入QA段的方式,通过预设的问答对来进行生成问答。
从这一点来说,相比较比较友好。
之后是入门的AI参数配置
基本的配置是一致的,包括了
流式响应 | 支持以流式进行响应推送 |
最大上下文 | 模型最大可以容纳的文字数量 |
图片识别 | 模型是否支持视觉传递 |
温度 | 是否越来越严谨 |
回复上限 | 最大回复token |
提示词 | 引导模型的提示词 |
记忆轮数 | 配置模型支持的记忆轮数 |
接下来在新手教程中,FastGPT提到了一个Dify中没有引入的概念
引用模板及引用提示词
这一点在Dify中是默认直接填充进了上下文之中,而在FastGPT中,可以设置
引用模板和引用提示词。两者一般成对出现
通常是先编辑引用模板,再编辑引用提示词
引用模板中涉及到了q, a 等一些预先设定好的变量,我们就利用这些预先设置好的变量拼接为模板
{instruction:”{{q}}”,output:”{{a}}”,source:”{{source}}”}
这样可以将知识库中返回的数据转换为如下的格式
{instruction:”电影《铃芽之旅》的导演是谁?”,output:”电影《铃芽之旅》的导演是新海诚。”,source:”手动输入”}
{instruction:”本作的主人公是谁?”,output:”本作的主人公是名叫铃芽的少女。”,source:””}
{instruction:”电影《铃芽之旅》男主角是谁?”,output:”电影《铃芽之旅》男主角是宗像草太,由松村北斗配音。”,source:””}
{instruction:”电影《铃芽之旅》的编剧是谁?22″,output:”新海诚是本片的编剧。”,source:”手动输入”}
之后再引入提示词中,借助{{quote}}来使用引用模板
这样就会在上下文之中进行格式化返回的知识库知识了。
提供预定义的问题引导
在Dify中也有,FastGPT中也是存在,这里强调下是支持通过接口调用的
通过暴露一个接口来让进行用户在输入的时候,根据预先定义的问题,来引导用户更快的进行提问。
在新手教程中
FastGPT提到了支持知识库标签功能,但只给商业版的FastGPT暴露
但是在Dify中则是开源直接使用。
文件解析功能
FastGPT中支持文件上传,进行配置后即可使用。
工作流中则是可以由大模型进行文档解析
因为LLM没有直接解析文档的能力,一般都是通过文档转文字后进行实现。
图像的由支持视觉的大模型实现。
文档解析则是只解析本轮工作流接收的文旦类型的文档
而文档只要一旦提交了,就会存放在内部服务中,传递给文档解析起URL,并输出String。