说了很多遍了,我再放一次录音机。H800算力和H100 一摸一样,只有在GPU之间的通信带宽减了三分之一
所有跟帖:
•
DS的突破就是针对减少使用带宽,压缩KV,控制第二层内存等等。现在看,搞不好也指点过。
-加州lalin-
♀
(0 bytes)
()
01/31/2025 postreply
12:30:36