Nvidia GPU的更新换代很快，没那么容易被替代。

所有跟帖： 

• 只是LLM基础模型训练要求高。LLM微调训练笔记本就可以胜任了。我们公司几乎所有项目都是AI，连A100 -study169- ♂ (18 bytes) () 02/03/2024 postreply 22:28:05

• 开源的LLM虽然能微调，但是性能不咋样，用于专项评测时和随机回答的结果差不多。你公司用的是开源的SLMs吧？ -uptrend- ♂ (0 bytes) () 02/03/2024 postreply 22:37:14

• 除了专做LLM基础模型的，大多数公司用开源模型，我们也是。AI应用有太多细分领域 -study169- ♂ (0 bytes) () 02/03/2024 postreply 22:52:15

• 大概什么性能的笔记本？要有独立显卡吗？我们都没微调，只是用开源模型做推理，都运行不出来。 -Wm.Knabe- ♀ (110 bytes) () 02/04/2024 postreply 01:41:20

• 一个同事用笔记本做过演示 -study169- ♂ (300 bytes) () 02/04/2024 postreply 04:17:05