Stable Diffusion LoRA训练Windows系统下启用Lion8bit优化器的方法
2023-05-19 17:17 作者:Impossib1e嗨 | 我要投稿
效果:

Lion8bit优化器需要使用到facebook的bitsandbytes库的0.38版本,但是交叉编译的Windows版本更新较慢并且加载动态链接库有BUG,故简单修改了一下文件
在训练脚本根目录下打开CMD/PWSH,启用venv环境
2. 因为交叉编译的版本并没有cuda11.8的库,需要重新安装torch2.0+cu117版本
3. 安装bitsandbytes 0.38的预编译wheel(在同一目录下执行)
4. 使用我修改好的加载文件替换库里自带的(直接覆盖venv)
5. 开始使用
库文件:https://wwpe.lanzoub.com/iqJ9t0wlgv9a 密码:des2
bitsandbytes的wheel文件:https://wwpe.lanzoub.com/isx4N0wlhu8j 密码:518v
P.S:这个只是临时解决方式,因为cudart和libbitsand的路径直接写死在文件里了,之后等更新吧。