一键包本地部署vits推理项目
这个教程是介绍如何使用快速部署包来本地部署vits推理项目。
快速部署
第一步,下载快速部署包https://github.com/Artrajz/vits-simple-api/releases/tag/v0.2.0
第二步,解压,将自己的vits模型放到Model文件夹中。(其实也可以随便放哪里,重要的是后面模型路径填对就行)
第三步,修改模型路径。打开config.py,找到MODEL_LIST这个变量,仿照默认给出的路径,修改为自己模型的路径。
ABS_PATH代表项目的绝对路径,不懂的把模型放到Model文件夹后照着修改就可以了。
路径前面有#的是注释,表示不加载此模型,写好以后可以使用注释选择加载哪些模型。

第四步,双击start.bat启动。我这里只加载了一个模型,加载完成后应该是这样的。

如果没问题的话,使用浏览器访问http://127.0.0.1:23456就可以访问webui界面了。

GPU推理
GPU推理需要安装CUDA。可以先检测自己有没有安装过:使用打开cmd,输入nvcc -V回车,如果没有报错就说明安装过了。

如果没有安装,可以在官网下载https://developer.nvidia.com/cuda-11-7-0-download-archive?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local
具体安装过程就不赘述了,网上教程也很多,安装也比较简单没有什么坑。
如果是其他部署方式可能需要自行安装GPU版pytorch,但是因为快速部署包里已经安装好了所以可以忽略,只需要安装cuda。
使用API
启动后,可以使用get方法或者post方法调用api,get方法比较简单,例如直接访问http://127.0.0.1:23456/voice/vits?text=你好,こんにちは&id=0就会返回一个音频流,修改text参数就可以更改合成的文本,修改id可以更改说话人。
还有其他调用方法可以看项目文档,这里就不介绍了,因为本篇教程只是说明如何部署vits。
中文项目文档https://github.com/Artrajz/vits-simple-api/blob/main/README_zh.md