要看显存大小。我用的4080，16G显存，96G内存，跑14B的很快，但是32b就很慢

来源: 于 2025-01-28 20:07:21 [旧帖] [给我悄悄话] 本文已被阅读：次

跑32b的时候内存被拿来当虚拟显存，速度就慢多了