Qwen-7B-Chat

Qwen-7B是阿里云研发的通义千问大模型系列的70亿参数规模的模型，Qwen-7B是基于Transformer的大语言模型。

模型地址：https://www.modelscope.cn/models/qwen/Qwen-7B-Chat/files

环境安装

操作系统Ubuntu20.04

官方推荐Anaconda环境，实测python3.7不兼容。

torch使用1.12，cuda使用11.3。

安装NLP包

实际运行时，缺啥补啥，如本文缺少tiktoken。

模型下载

默认地址为：~/.cache/modelscope/hub

使用

加载本地模型，如报错缺啥补啥。

问

答