可在线运行的notebook示例:再kaggle网站搜索 ExampleSentence
这里将采用ChatGLM2-6B-int4作为基底模型,需要安装以下依赖包:
接着定义回复的类,用于初始化模型和生成相似句子:
定义完类之后,我们即可实例化类:(同时你还可以更改为huggingface中的其他模型)
现在,我们可以定义需要生成的数据格式:
最后,需要调用生成的方法,得到返回的列表: