关于使用M40运行ChatGLM模型弹出报错问题

在使用M40显卡运行ChatGLM时弹出报错 RunTimeError: no kernel image is available for execution on the device.

该问题的产生原因有二：

1. CUDA版本与M40核心版本不同，CUDA版本过高导致无法调用GPU。解决办法：将CUDA降级并彻底清理注册表后更换为11.x版本（我用的是11.0）。

   
   

2. 没有安装Cudnn，需要自行寻找并下载与CUDA版本兼容的11代Cudnn。（链接稍后补充）