欢迎光临散文网 会员登陆 & 注册

【玩转SD】SDLX提速50% AITemplate x Comfyui

2023-08-13 01:17 作者:小志Jason  | 我要投稿

大家好,我是小志Jason,一个正在Latent Space的程序员。

各位好久不见,最近都在尝试SDXL各种lora训练参数和设置,终于找到一个比较不错的基准,以高复原度和良性泛化为核心的训练参数和打标方式。具体还在做各种测试,这方面之后再讲。

今天为大家带来的是具有降维打击的提速插件AIT,AITemplate For Comfyui

AITemplate是meta推出的一个python推理框架,可以把神经网络转为 CUDA (NVIDIA GPU) / HIP (AMD GPU)的C++代码,以实现高速推理。

具体里面的技术细节我也没太了解,不过有人实现了comfyui在这方面的插件,可以在使用comfyui的时候用上AITemplate,经过我个人测试3090跑150步的图,可以从原来的196秒降到97秒,只用了原来50%的时间来实现近似的效果,可以说是相当的惊人了。

不过目前AIT插件只支援windows 30和40系,其他的显卡不支持,linux平台和amd据说之后会支持。

另外comfyui官方据说也在开发AITemplate的支持,之后可能可以不用插件直接用启动参数的形式开启,不过SAI官方的东西什么时候搞好不太好说,可能会和controlnet一起推出吧,不太肯定。


需要注意的是,使用AIT不能开tae live preview,不然会发生错误。

解决方法:把ComfyUI\models\vae_approx里面的文件删了


AIT Comfyui插件

git repo: https://github.com/FizzleDorf/AIT

安装:

AIT.zip里面的文件解压到ComfyUI\custom_nodes\AIT里面

链接:https://pan.baidu.com/s/1_7Wd6wjD9HzUc7aaguLNVQ 

提取码:l2dv


30,40系的modules

由于使用AIT的时候会自动从HF下载相关的模组,这里放一些我已经下载的模组。

如果还需要下载,视乎情况魔法。

安装:

下载解压缩,放到ComfyUI\custom_nodes\AIT\AITemplate\modules里

链接:https://pan.baidu.com/s/1ypkNg1ihzCsADDn54OJQgg 

提取码:1xiv


欢迎点赞投币转发加群

群号:866612947

验证:小志Jason



【玩转SD】SDLX提速50% AITemplate x Comfyui的评论 (共 条)

分享到微博请遵守国家法律