欢迎光临散文网 会员登陆 & 注册

Stable Diffusion LoRA训练Windows系统下启用Lion8bit优化器的方法

2023-05-19 17:17 作者:Impossib1e嗨  | 我要投稿

效果:

Lion8bit优化器需要使用到facebook的bitsandbytes库的0.38版本,但是交叉编译的Windows版本更新较慢并且加载动态链接库有BUG,故简单修改了一下文件

  1. 在训练脚本根目录下打开CMD/PWSH,启用venv环境

   2. 因为交叉编译的版本并没有cuda11.8的库,需要重新安装torch2.0+cu117版本

   3. 安装bitsandbytes 0.38的预编译wheel(在同一目录下执行)

   4. 使用我修改好的加载文件替换库里自带的(直接覆盖venv)

   5. 开始使用

库文件:https://wwpe.lanzoub.com/iqJ9t0wlgv9a 密码:des2

bitsandbytes的wheel文件:https://wwpe.lanzoub.com/isx4N0wlhu8j 密码:518v


P.S:这个只是临时解决方式,因为cudart和libbitsand的路径直接写死在文件里了,之后等更新吧。



Stable Diffusion LoRA训练Windows系统下启用Lion8bit优化器的方法的评论 (共 条)

分享到微博请遵守国家法律