有没有懂AI的大神?小弟有个疑问:这些科技公司说明年要花很多钱在AI上面,难道真的需要那么多钱吗?

(1)训练大模型是要很多钱,但是好像一年前就在说地球的数据已经用尽了,也就是说大模型所处理的数据量已经枯竭了。多出来的数据无非都是些垃圾重复数据而已。那么未来训练大模型为什么还需要那么多钱?

(2)女大很久没出新品了,也就是说现有的架构已经完全满足当前的训练要求。为何还要买那么多的GPU?需求在哪里?

(3)最近agent,bot之类的玩意貌似很火。这些小玩意其实只需要联网就行了,即便推理端有很多需求,也不至于需求那么多。推理的GPU用很低端的就行了吧?何况还有DeepSeek之类的硬件架构能极大地减小计算需求。那么在这方面也用不上更好的GPU了。如果这个假设成立,那么这里也花不了什么钱。

(4)AI编程能极大提高效率。也不需要更多的程序员去编程了。顶多也就是需要它们去测试一下。或者测试也不需要,用AI机器人左右互搏也能搞出个七七八八。这又能花多少钱?

那么,到底哪里要花那么多钱?

所有跟帖: 

(5)一两千亿难道很多吗?之前不是说台湾台积电给美国就有5000亿吗?这些科技公司难道都不如台湾的一半? -伯克希尔哈萨维- 给 伯克希尔哈萨维 发送悄悄话 (102 bytes) () 02/05/2026 postreply 16:44:52

AI不光训练大模型需要钱, 连前端每个提问的推理过程都需要GPU来大量计算, 因为不是像数据库一样去大模型里找一下就完了 -testmobile- 给 testmobile 发送悄悄话 (0 bytes) () 02/05/2026 postreply 16:52:05

不是可以int4 batch处理吗? -伯克希尔哈萨维- 给 伯克希尔哈萨维 发送悄悄话 (0 bytes) () 02/05/2026 postreply 16:55:14

你自己跑过吗? 自己用一般电脑下载个模型跑一下CHATbot就知道有多慢了 -testmobile- 给 testmobile 发送悄悄话 (0 bytes) () 02/05/2026 postreply 16:57:17

没跑过,跑那些东西没意思。 -伯克希尔哈萨维- 给 伯克希尔哈萨维 发送悄悄话 (0 bytes) () 02/05/2026 postreply 16:59:20

这就是一般人和技术人员眼里AI的不同之处, 我在家跑了几次本地GPT就知道这东西推广很难, 太耗资源了 -testmobile- 给 testmobile 发送悄悄话 (0 bytes) () 02/05/2026 postreply 17:02:42

就是剽窃而已。没必要用什么大模型。 -伯克希尔哈萨维- 给 伯克希尔哈萨维 发送悄悄话 (0 bytes) () 02/05/2026 postreply 17:05:57

还有所谓的AI编程, 我用最新的CLAUDE, 一半以上的结果都需要我花时间手动修改, 不知道如何做到大量提高生产力的 -testmobile- 给 testmobile 发送悄悄话 (0 bytes) () 02/05/2026 postreply 17:05:02

一定会有更好的方法吧。像deepseek -五谷不分- 给 五谷不分 发送悄悄话 五谷不分 的博客首页 (0 bytes) () 02/05/2026 postreply 16:58:22

deepseek都开源了,这些科技公司的牛马难道都不知道抄一抄,减少成本吗? -伯克希尔哈萨维- 给 伯克希尔哈萨维 发送悄悄话 (0 bytes) () 02/05/2026 postreply 17:00:24

我用了最新的kimi, 个人电脑上也是很慢 -testmobile- 给 testmobile 发送悄悄话 (0 bytes) () 02/05/2026 postreply 17:00:33

用户多了也花资源处理提问和推理,是一般数据库用量的十几倍倍。 -Tan7th- 给 Tan7th 发送悄悄话 Tan7th 的博客首页 (0 bytes) () 02/05/2026 postreply 20:18:00

请您先登陆,再发跟帖!