欢迎光临散文网 会员登陆 & 注册

一键包本地部署vits推理项目

2023-07-06 19:34 作者:热力学的火炬  | 我要投稿

这个教程是介绍如何使用快速部署包来本地部署vits推理项目。

快速部署

第一步,下载快速部署包https://github.com/Artrajz/vits-simple-api/releases/tag/v0.2.0

第二步,解压,将自己的vits模型放到Model文件夹中。(其实也可以随便放哪里,重要的是后面模型路径填对就行)

第三步,修改模型路径。打开config.py,找到MODEL_LIST这个变量,仿照默认给出的路径,修改为自己模型的路径。

ABS_PATH代表项目的绝对路径,不懂的把模型放到Model文件夹后照着修改就可以了。

路径前面有#的是注释,表示不加载此模型,写好以后可以使用注释选择加载哪些模型。

MODEL_LIST示例

第四步,双击start.bat启动。我这里只加载了一个模型,加载完成后应该是这样的。

后台界面

如果没问题的话,使用浏览器访问http://127.0.0.1:23456就可以访问webui界面了。

webui界面

GPU推理

GPU推理需要安装CUDA。可以先检测自己有没有安装过:使用打开cmd,输入nvcc -V回车,如果没有报错就说明安装过了。


CUDA版本信息

如果没有安装,可以在官网下载https://developer.nvidia.com/cuda-11-7-0-download-archive?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local
具体安装过程就不赘述了,网上教程也很多,安装也比较简单没有什么坑。

如果是其他部署方式可能需要自行安装GPU版pytorch,但是因为快速部署包里已经安装好了所以可以忽略,只需要安装cuda。

使用API

启动后,可以使用get方法或者post方法调用api,get方法比较简单,例如直接访问http://127.0.0.1:23456/voice/vits?text=你好,こんにちは&id=0就会返回一个音频流,修改text参数就可以更改合成的文本,修改id可以更改说话人。

还有其他调用方法可以看项目文档,这里就不介绍了,因为本篇教程只是说明如何部署vits。

 

中文项目文档https://github.com/Artrajz/vits-simple-api/blob/main/README_zh.md

一键包本地部署vits推理项目的评论 (共 条)

分享到微博请遵守国家法律