FastGPT 学习

本章主要的目的是学习FastGPT

但是由于其和Dify的相似性,所以这一次更多的是对不同点的比较,算是一种站在Dify上看FastGPT的感觉。那么我们就直接开始。

  1. 初步上手中知识库的差异

在初步上手过程中,必须要选择索引模型,这是不同的。

其次是是上传的时候,让我们选择上传方式

这地方的不同点在于,FastGPT提供了手动输入QA段的方式,通过预设的问答对来进行生成问答。

从这一点来说,相比较比较友好。

之后是入门的AI参数配置

基本的配置是一致的,包括了

流式响应 支持以流式进行响应推送
最大上下文 模型最大可以容纳的文字数量
图片识别 模型是否支持视觉传递
温度 是否越来越严谨
回复上限 最大回复token
提示词 引导模型的提示词
记忆轮数 配置模型支持的记忆轮数

接下来在新手教程中,FastGPT提到了一个Dify中没有引入的概念

引用模板及引用提示词

这一点在Dify中是默认直接填充进了上下文之中,而在FastGPT中,可以设置

引用模板和引用提示词。两者一般成对出现

通常是先编辑引用模板,再编辑引用提示词

引用模板中涉及到了q, a 等一些预先设定好的变量,我们就利用这些预先设置好的变量拼接为模板

{instruction:”{{q}}”,output:”{{a}}”,source:”{{source}}”}

这样可以将知识库中返回的数据转换为如下的格式

{instruction:”电影《铃芽之旅》的导演是谁?”,output:”电影《铃芽之旅》的导演是新海诚。”,source:”手动输入”}

{instruction:”本作的主人公是谁?”,output:”本作的主人公是名叫铃芽的少女。”,source:””}

{instruction:”电影《铃芽之旅》男主角是谁?”,output:”电影《铃芽之旅》男主角是宗像草太,由松村北斗配音。”,source:””}

{instruction:”电影《铃芽之旅》的编剧是谁?22″,output:”新海诚是本片的编剧。”,source:”手动输入”}

之后再引入提示词中,借助{{quote}}来使用引用模板

这样就会在上下文之中进行格式化返回的知识库知识了。

提供预定义的问题引导

在Dify中也有,FastGPT中也是存在,这里强调下是支持通过接口调用的

通过暴露一个接口来让进行用户在输入的时候,根据预先定义的问题,来引导用户更快的进行提问。

在新手教程中

FastGPT提到了支持知识库标签功能,但只给商业版的FastGPT暴露

但是在Dify中则是开源直接使用。

文件解析功能

FastGPT中支持文件上传,进行配置后即可使用。

工作流中则是可以由大模型进行文档解析

因为LLM没有直接解析文档的能力,一般都是通过文档转文字后进行实现。

图像的由支持视觉的大模型实现。

文档解析则是只解析本轮工作流接收的文旦类型的文档

而文档只要一旦提交了,就会存放在内部服务中,传递给文档解析起URL,并输出String。

发表评论

邮箱地址不会被公开。 必填项已用*标注