【重磅】清华ChatGLM对标ChatGPT开源60亿参数-教程见评论区
2023-03-17 19:28 作者:11460431278_bili | 我要投稿

P主笔记
记笔记
糖柚子Merasusu
2023-03-15 13:14
102粉丝
关注
安装教程如下:
1,首先确保你有一个Nvidia的显卡,不少于6G的显存,安装最新的驱动,以及畅通的网络。
2,打开官方项目地址:
https://github.com/THUDM/ChatGLM-6B
点 code 然后点 Download Zip 下载项目文件包
并解压到C盘,路径为:C:\ChatGLM-6B-main
3,用记事本打开其中的web_demo.py文件,修改第五行内容,在.half()后面增加.quantize(4),也就是改为:.half().quantize(4).cuda()
4,搜索并安装 Anaconda3
5,安装完成后从开始菜单进入Anaconda Prompt (anaconda3)提示行。
6,依次逐行输入以下命令,每个命令都需要一定时间执行
cd C:\ChatGLM-6B-main
conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
pip install -r requirements.txt
pip install gradio
python web_demo.py
7,当你看到 Running on local URL: http://127.0.0.1:7860 这样的文字后,表示启动成功了
8,使用浏览器打开 http://127.0.0.1:7860 就可以使用了