要看显存大小。我用的4080，16G显存，96G内存，跑14B的很快，但是32b就很慢

来源: gyarados 于 2025-01-28 20:07:21 [] [旧帖] [给我悄悄话] 阅读数 : (75 bytes)

跑32b的时候内存被拿来当虚拟显存，速度就慢多了

请您先登陆，再发跟帖！