GPT4All, CPU本地运行70亿参数大模型整合包!
GPT4All, CPU本地运行70亿参数大模型整合包!

GPT4All 官网给自己的定义是:一款免费使用、本地运行、隐私感知的聊天机器人,无需GPU或互联网。同时支持windows,mac,Linux!!!

其主要特点是:
本地运行🐶
无需GPU
无需联网
同时支持Windows、MacOS、Ubuntu Linux(环境要求低)
是一个聊天工具
学术Fun将上述工具制作成一键启动包,点击即可使用,避免大家配置Python环境出现各种问题,下载地址: https://xueshu.fun/3216/,在此页面右侧区域点击下载!
注意电脑配置如下
:
windows,mac,Linux
8G内存
下载使用教程
下载压缩包 下载地址: https://xueshu.fun/3216/,
在此页面右侧区域点击下载!
解压,
不能有中文路径
,解压后,如下图所示,第一个框是模型文件,包含70b和7b的参数,运行7b模型需要8G的内存,70b的模型需要24G内存。

上图中,
.run , .dmg, .exe
分别为Linux、MAC和windows的安装包,下面以windows为例演示安装过程双击安装,一直点下一步即可

安装过程需要联网,但不是下模型,模型已经包含在压缩包里

安装后,打开软件,在下图中选择你压缩包解压的位置,不能有中文!

进入软件,选择不同模型进行对话
