欢迎光临散文网 会员登陆 & 注册

川虎Chat本地一键整合包!

2023-11-30 11:24 作者:IT教程精选  | 我要投稿

川虎🐯Chat本地一键整合包!

川虎 Chat 🐯 Chuanhu Chat为ChatGPT等多种LLM提供了一个轻快好用的Web图形界面和众多附加功能

  • 支持 GPT-4

  • 基于文件问答

  • LLM本地部署

  • 联网搜索

  • Agent 助理

  • 支持 Fine-tune 开源项目地址https://github.com/GaiZhenbiao/ChuanhuChatGPT, 使用效果如下视频所示:https://xueshu.fun/3292/

学术Fun将上述工具制作成一键启动包,点击即可使用,避免大家配置Python环境出现各种问题,下载地址: https://xueshu.fun/3292/,在此页面右侧区域点击下载!

注意电脑配置如下

  • windows 10/11

  • 6G显存以上英伟达显卡

下载使用教程

  • 下载压缩包 下载地址: https://xueshu.fun/3292/,在此页面右侧区域点击下载!

  • 解压,最好不要有中文路径,解压后,如下图所示,双击启动.exe文件运行

  • 浏览器访问http://127.0.0.1:7860/,即可在浏览器使用

  • 整合包已经内置默认chatglm2-6b-int4模型,其他模型通过下拉选择可以自行下载。支持模型如下表所示,其中API调用模型需要API-key,本地部署模型会自动下载,但请根据自己显卡内存大小选择。

支持模型

API 调用模型备注本地部署模型备注ChatGPT(GPT-4)支持微调 gpt-3.5ChatGLM (ChatGLM2)
Azure OpenAI
LLaMA支持 Lora 模型Google PaLM不支持流式传输StableLM
讯飞星火认知大模型
MOSS
Inspur Yuan 1.0
通义千问
MiniMax


XMChat不支持流式传输

Midjourney不支持流式传输

Claude


使用技巧

💪 强力功能

  • 川虎助理:类似 AutoGPT,全自动解决你的问题;

  • 在线搜索:ChatGPT 的数据太旧?给 LLM 插上网络的翅膀;

  • 知识库:让 ChatGPT 帮你量子速读!根据文件回答问题。

  • 本地部署LLM:一键部署,获取属于你自己的大语言模型。

🤖 System Prompt

  • 通过 System Prompt 设定前提条件,可以很有效地进行角色扮演;

  • 川虎Chat 预设了Prompt模板,点击加载Prompt模板,先选择 Prompt 模板集合,然后在下方选择想要的 Prompt。

💬 基础对话

  • 如果回答不满意,可以使用 重新生成 按钮再试一次,或者直接 删除这轮对话;

  • 输入框支持换行,按Shift+Enter即可;

  • 在输入框按↑↓方向键,可以在发送记录中快速切换;

  • 每次新建一个对话太麻烦,试试 单论对话 功能;

  • 回答气泡旁边的小按钮,不仅能 一键复制,还能 查看Markdown原文

  • 指定回答语言,让 ChatGPT 固定以某种语言回答。

📜 对话历史

  • 对话历史记录会被自动保存,不用担心问完之后找不到了;

  • 多用户历史记录隔离,除了你都看不到;

  • 重命名历史记录,方便日后查找;

  • 魔法般自动命名历史记录,让 LLM 理解对话内容,帮你自动为历史记录命名!

  • 搜索历史记录,支持正则表达式!

🖼️ 小而美的体验

  • 自研 Small-and-Beautiful 主题,带给你小而美的体验;

  • 自动亮暗色切换,给你从早到晚的舒适体验;

  • 完美渲染 LaTeX / 表格 / 代码块,支持代码高亮;

  • 非线性动画、毛玻璃效果,精致得不像 Gradio!

  • 适配 Windows / macOS / Linux / iOS / Android,从图标到全面屏适配,给你最合适的体验!

  • 支持以 PWA应用程序 安装,体验更加原生!

👨‍💻 极客功能

  • 支持 Fine-tune(微调)gpt-3.5!

  • 大量 LLM 参数可调;

  • 支持更换 api-host;

  • 支持自定义代理;

  • 支持多 api-key 负载均衡。



川虎Chat本地一键整合包!的评论 (共 条)

分享到微博请遵守国家法律