可在线运行的notebook：在kaggle网站搜索

XVERSE-13B-Chat

首先需要安装量化资源包：

接着我们使用4比特量化加载模型：

加载完模型后即可向模型进行提问：