Deepseek 出现对AVGO 这种ASIC 冲击更大

本帖于 2025-01-01 12:30:42 时间, 由普通用户 cnrhm2017 编辑

我认为LLM 算法一直会改进,目前Deepseek出现,相当于定制版的LLM,或者硬件中的ASIC,就是针对它要分析的数据做定制的算法。

https://wallstreetcn.com/articles/3738170

文章中提到deepseek用的是在开头筛选数据源里的信息,利用A800的芯片特点,提高parallel的处理数据能力,同时侧重处理某些类型的数据,而弱在某些方面的数据处理。总之是看到数据,然后偏科处理,这样在大多数方面反应速度不错,但是全面分析来看,还有欠缺。对大多数专业的需要精密和准确的判断工作来说,没法用,因为它的一个错误信息就会导致失去同行的信任。

这种实际上是NVDA必须要面对的,我在2023年就有类似的判断,对NVDA是好事,因为GPU需要面对不同的task做处理。今天是不同的算法,明天可能是不同的task,训练robot,或者训练某个行业的智能系统如无人战斗机。而这可是avgo这种定制芯片系统的风险。

所有跟帖: 

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:23:15

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:24:15

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:27:46

我对华为的熟悉程度远远大于这里的多数人 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (0 bytes) () 01/01/2025 postreply 12:31:41

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:34:22

当年华为内部很难创新,狼文化是一方面,一个团队短期做不出成绩,马上座位都要换到其他地方 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (0 bytes) () 01/01/2025 postreply 13:45:00

这么想,政府在AI人才方面的培养很早就开始了。所以应该不奇怪deepseek 的震惊世界 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:37:49

原来大陆是自动化专业呀,80年代就在做了 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (0 bytes) () 01/01/2025 postreply 12:41:39

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:41:52

3 -island09- 给 island09 发送悄悄话 (0 bytes) () 01/01/2025 postreply 12:43:00

是。OPENAI 有很多华裔面孔。OPENAI前,一位非常有名的AI公司就是一位华裔学生创业的。我现在也在继续关注飞飞 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (0 bytes) () 01/01/2025 postreply 12:46:54

DeepSeek的算法改进主要在training,ASIC主要用于inference,LLM结构没有大的变化的情况下, -study169- 给 study169 发送悄悄话 (37 bytes) () 01/01/2025 postreply 12:39:12

多谢提醒我对inference和avgo的关系的理解 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (0 bytes) () 01/01/2025 postreply 13:04:48

女大也可以做ASIC,但是黄原来说没法顾及到这方面,现在也慢慢开始了 -cnrhm2017- 给 cnrhm2017 发送悄悄话 cnrhm2017 的博客首页 (377 bytes) () 01/01/2025 postreply 13:48:28

The main use case of GPU and XPU is training for now -远走他乡- 给 远走他乡 发送悄悄话 (364 bytes) () 01/01/2025 postreply 20:04:47

five cents just buy not simply say, your money is true -sleepbird- 给 sleepbird 发送悄悄话 (0 bytes) () 01/01/2025 postreply 17:25:35

请您先登陆,再发跟帖!