欢迎光临散文网 会员登陆 & 注册

NAS下搭建FastGpt,一个基于 LLM 大语言模型的知识库问答系统

2023-08-15 20:47 作者:熊猫不是猫QAQ  | 我要投稿

前言

FastGPT是一个基于LLM大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过Flow可视化进行工作流编排,从而实现复杂的问答场景!该项目为群有提供,且他自己部署了一个,用着我感觉还不错,而且官方也有体验版本可以使用。感兴趣可以去看看:https://fastgpt.run/

部署

FastGPT提供了docker-compose,所以我们可以直接用它官方项目的文件做到快速部署。官方两份不同的文档,分别提供了非host版本与host版本。根据自己情况选择使用。


这里我选择的为非host版本,需要检查一下端口,更改为自己不冲突端口就可以了。代码如下:

其中涉及到了一些文件,我们需要提前创建好,在docker-compose文件中也有写,根据提示创建即可,也可以直接参考我的设置。



最后我们打开群晖的ssh端口,并用ssh工具连接到群晖,cd到fastGPT目录后输入命令:docker-compose up -d便可以启动项目了(需要注意文件格式,切换到utf-8)。



启动成功之后会出现如下的界面,此时就能在docker UI中看到三个容器了。


体验

浏览器输入http://nasip+端口号就能看到项目界面了,此时我们点击右上角的登录就可以了。


如果你没有更改默认配置,那么用户名便是root,密码为1234。


使用需要配置好openAI才行,简单模式下也可以用,但是采用的是基础库,没有3.5以及4.0这么智能。


至于更多功能,可以自行去体验哦。熊猫对于GPT一类的都不是很感兴趣。

总结

工具是个好工具,不过知识库需要搭建好,同时GPT的收费看似很低,日常用下来后你会发现用起来很快,无形中就没了。所以我还是选择bingAI吧!

以上便是本期的全部内容了,原创不易,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!



NAS下搭建FastGpt,一个基于 LLM 大语言模型的知识库问答系统的评论 (共 条)

分享到微博请遵守国家法律