这种一般是用开源模型，下载到本地，如果本地机没有GPU

来源: 于 2025-05-13 11:26:58 [旧帖] [给我悄悄话] 本文已被阅读：次

输出速度确实会很慢，一个字一个字地慢慢吐出来。如果有本地机上GPU，速度可能提高几倍。

稍微大一点的模型，本地就玩不了了。