langchain对接chatglm2-6b，喂饭级教程，以及提供整合包一键启动

我没有超过8G显存的显卡，只能使用int4量化的glm2-6b模型。实测，可以对话和加载知识库，但是新建知识库之后上传文本会黑屏重启，我不确定是不是我何处操作有问题，亦或是环境、硬件等问题

以下是在鹅包基础上的修改过程。

1.下载量化后的模型文件丢进一个文件夹：https://huggingface.co/THUDM/chatglm2-6b-int4/tree/main

百度和天翼的压缩包

https://cloud.189.cn/t/BnEbimfYnA32 （访问码：l4yt）

链接：https://pan.baidu.com/s/1skyl0Q1-HcppNNOI-fa3mA?pwd=ei3d 

提取码：ei3d 

2.修改“model_config.py”

路径"\langchain\langchain-ChatGLM\configs\model_config.py"

2.1添加int4段落，比如模型路径是D:/aipackrunner/langchain/chatglm2-6b-int4

===============

 "chatglm2-6b-int4": {

    "name": "chatglm2-6b-int4",

    "pretrained_model_name": "THUDM/chatglm2-6b-int4",

    "local_model_path": "D:/aipackrunner/langchain/chatglm2-6b-int4",

    "provides": "ChatGLM"

  },

================

2.2修改加载模型

================

LLM_MODEL = "chatglm2-6b-int4"

================

3.没了，双击 一键启动.bat

可以正常对话，可以使用作者的知识库

但是一旦上传文本就会黑屏重启，遗照

毫无征兆，CMD里、事件查看器里一点痕迹都没有