欢迎光临散文网会员登陆 & 注册

实测4GB的RTX3050ti好像不能跑ChatGLM-6B

2023-03-29 12:16 作者:科幻朱朱侠 0人读过 | 我要投稿

CUDA out of memory，应该显存不够

in4量化运行

版本CUDA 11.6.134

显卡驱动版本 512.36

标签：

实测4GB的RTX3050ti好像不能跑ChatGLM-6B的评论 (共条)