这种一般是用开源模型，下载到本地，如果本地机没有GPU

输出速度确实会很慢，一个字一个字地慢慢吐出来。如果有本地机上GPU，速度可能提高几倍。

稍微大一点的模型，本地就玩不了了。