欢迎光临散文网 会员登陆 & 注册

GPT4All, CPU本地运行70亿参数大模型整合包!

2023-11-10 16:11 作者:IT教程精选  | 我要投稿

GPT4All, CPU本地运行70亿参数大模型整合包!

GPT4All 官网给自己的定义是:一款免费使用、本地运行、隐私感知的聊天机器人,无需GPU或互联网。同时支持windows,mac,Linux!!!

其主要特点是:

  1. 本地运行🐶

  2. 无需GPU

  3. 无需联网

  4. 同时支持Windows、MacOS、Ubuntu Linux(环境要求低)

  5. 是一个聊天工具

学术Fun将上述工具制作成一键启动包,点击即可使用,避免大家配置Python环境出现各种问题,下载地址: https://xueshu.fun/3216/,在此页面右侧区域点击下载!

注意电脑配置如下

  • windows,mac,Linux

  • 8G内存

下载使用教程

  • 下载压缩包 下载地址: https://xueshu.fun/3216/,在此页面右侧区域点击下载!

  • 解压,不能有中文路径,解压后,如下图所示,第一个框是模型文件,包含70b和7b的参数,运行7b模型需要8G的内存,70b的模型需要24G内存。

  • 上图中,.run , .dmg, .exe分别为Linux、MAC和windows的安装包,下面以windows为例演示安装过程

  • 双击安装,一直点下一步即可

  • 安装过程需要联网,但不是下模型,模型已经包含在压缩包里

  • 安装后,打开软件,在下图中选择你压缩包解压的位置,不能有中文!

  • 进入软件,选择不同模型进行对话




GPT4All, CPU本地运行70亿参数大模型整合包!的评论 (共 条)

分享到微博请遵守国家法律