欢迎光临散文网 会员登陆 & 注册

从零开始的ChatGLM教程(二)

2023-04-12 11:33 作者:摸鱼王阿卫  | 我要投稿

写在前面

本文中所有的内容仅供参考,本人并不对任何产生的后续问题负任何责任。

硬件的配置方法与注意事项

如果你最终决定使用CPU进行模型的推理及训练那么只需要注意你的内存需要大于等于32G即可,恭喜你,你不需要其它更多的配置。

而如果你决定使用GPU进行推理及训练,那么接下来的配置对你来说就不能省略了。首先,你需要寻找显卡支持的NVIDIA驱动,以及与显卡版本对应的CUDA组件,并且下载Cudnn配置环境。NVIDIA显卡驱动你可以在官网找到,CUDA也是,而Cudnn组件的安装需要你首先在cmd中输入nvidia-smi并回车,查看CUDA Version :XX.X。我的CUDA版本是11.0,那么我需要在官网https://developer.nvidia.com/rdp/cudnn-download中注册并下载11代Cudnn,如果你的是12.X,那么你就应该下载12代的Cudnn。下载好的Cudnn是一个压缩包的形式,解压它并将其所有的内容复制并粘贴至你的CUDA安装目录下。如果遇上是否需要覆盖一律选择是就可以了。至此,你的前置环境就配置完成了。恭喜你,可以准备进行推理或训练模型了。在下一篇中我将介绍软件的选择与使用。

专业图像卡的更多配置

这一段是为了和我一样选择了专业图像卡的人准备的,如果你使用的是游戏显卡那么这段可以略过不看。

图像卡本身并不是为了在常规家用式机箱中运行所设计的。它的设计是通过服务器的暴力扇进行降温的被动式散热,其本身并不带有散热风扇。因此你可能需要对卡进行一定程度上的散热改造,这部分请自行机智。但不经改造直接上机压力运行可能会造成卡的过热甚至损坏,为了你的钱包着想请不要这么干。

图像卡并不是为了显示游戏画面所设计的,所以你可以看到它本身并不带有显示接口,这意味着你必须使用核显进行画面输出或者是另接一张亮机卡,请自行选择。

图像卡并不是为了显示游戏画面所设计的,因此当你将它插上并安装驱动后并不能看到它显示在任务管理器中,也不会显示相关的温度以及占用参数,你必须对它进行调整。大部分的图像卡拥有两种模式:TCC与WDDM,TCC模式仅用作计算,而WDDM模式能兼顾计算与图形输出。图像卡默认启动是TCC模式。这两种模式都不影响模型的推理或训练。但如果你想将它直观的显示出来,你有两种方法:

  1. 查看该教程(https://www.bilibili.com/read/cv19405017),下载专用GRID驱动。

  2. 修改注册表,打开注册表(cmd命令行运行regedit回车即可),定位到:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Class\{4d36e968-e325-11ce-bfc1-08002be10318}\0001或者是0000。多张显卡中这个数字对应不同的显卡,请自行分别。(因为我的是核显加N卡,因此只需要找里面有CUDA的那个。)然后开始修改:1.删除"AdapterType" 这个键; 2.将"FeatureScore" 这个键的键值改为d1(209,显示为0x000000d1); 3.右键新建一个DWORD32值,将名字改为“EnableMsHybrid”,并将值改为1(显示为0x00000001) 4.右键新建一个DWORD32值,将名字改为“GridLicensedFeatures”,并将值改为7。

最后再在设备管理器中禁用专业图像卡,再启用,就可以看到它能被正常显示了。

本文中如有错误或疏漏,欢迎私信我或在下方留言,我会修正或补充

从零开始的ChatGLM教程(二)的评论 (共 条)

分享到微博请遵守国家法律