可在线运行的notebook链接:在kaggle网址搜索:Yi-6B
首先需要安装魔搭社区依赖包:
接着从国内的魔搭社区加载该模型:
最终我们使用示例的方式来进行提问,这里不直接提问是因为该模型只是一个基底模型,而不是对话模型: