Google TPU v6e vs AMD MI300X vs NVIDIA H100/B200

Google TPU v6e vs AMD MI300X vs NVIDIA H100/B200: Artificial Analysis’ Hardware Benchmarking shows NVIDIA achieving a ~5x tokens-per-dollar advantage over TPU v6e (Trillium), and a ~2x advantage over MI300X, in our key inference cost metric

In our metric for inference cost… pic.twitter.com/EsWnSggjz8

— Artificial Analysis (@ArtificialAnlys) November 27, 2025

所有跟帖： 

• Key points：TPU v6e is priced for on-demand at $2.70 per chip -香虞- ♀ (648 bytes) () 11/27/2025 postreply 06:36:02

• 性能比较运行的是Llama 3.3 70B开源模型。都能运行，说明CUDA的护城河已经没有那么宽了。模型 -study169- ♂ (188 bytes) () 11/27/2025 postreply 07:26:07

• 肯定需要分散投资 关键在于定比例 这个比例决定了最终的收益 -香虞- ♀ (0 bytes) () 11/27/2025 postreply 07:36:08

• 有竞争就是好，以后AI的Cost-per-Token要降下来才能进入盈利正循环。AI各个环节里GPU的利润比例应该会降下 -GandalfOld- ♂ (635 bytes) () 11/27/2025 postreply 08:59:26

• 领悟是投资者最重要的一个品质，其次要眼观六路，耳听八方，建立在扎实的 -620Oaks- ♂ (434 bytes) () 11/27/2025 postreply 09:25:04

• 多谢分享。很有意思的发展！ -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 09:27:31

• TPU v6e 是最新的吗？ 都比H200差很多。那Blackwell 来了不完全碾压呀？ -QQQ2074- ♂ (77 bytes) () 11/27/2025 postreply 09:27:48

• TPU 7好象快出来了 -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 09:51:22

• 从投资角度来看是不是两家都买比较好 -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 09:32:45

• TPU的优势不是便宜吗？ 那个图完全没看出来呀 -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 10:06:35

• 成本有两个价格，TPU的买入价格，运行价格。这里聊的可能是运行价格吧。一次性筷子比象牙筷磨损快，大家还是喜欢，呵呵 -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 10:23:04

• 就是没把TPU/GPU 本身的价钱算进去？ -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 10:28:16

• 我上面可能是错的，再读了一遍原文，是用目前最便宜的租金算的成本，可能两个成本都折算进去了 -GandalfOld- ♂ (218 bytes) () 11/27/2025 postreply 10:30:17

• 那TPU 没什么戏呀？ Blackwell 的总成本比H100低很多 -QQQ2074- ♂ (564 bytes) () 11/27/2025 postreply 10:40:17

• TPU是underdog, NVDA还是龙头老大。市场看到了另一种演化的可能性而已，不应该一根K线推翻原来的看法，呵呵 -GandalfOld- ♂ (34 bytes) () 11/27/2025 postreply 10:57:41

• 推理端TPU比Blackwell性价比好多了，推理重的是内存量和读的速度，Blackwell做推理是开着法拉利送外卖 -dancingpig- ♀ (0 bytes) () 11/27/2025 postreply 11:50:44