说的没有错,但老黄没有说清楚

来源: 2025-02-26 19:24:01 [博客] [旧帖] [给我悄悄话] 本文已被阅读:

推理(Thinking/Reasoning)比 直接给出答案(Zero-shot)需要10~100x 的算力和电力消耗。推理时间越长,算力消耗越大。

如果要想支持100M用户同时使用,就需要巨大的算力。