你自己跑过吗? 自己用一般电脑下载个模型跑一下CHATbot就知道有多慢了

本帖于 2026-02-05 16:58:17 时间, 由普通用户 testmobile 编辑
回答: 不是可以int4 batch处理吗?伯克希尔哈萨维2026-02-05 16:55:14
请您先登陆,再发跟帖!