时事述评

从谷歌Gemini失利,谈中国DeepSeek到底是中草药还是AI利器? - 金笔 - 给 金笔 发送悄悄话 金笔 的博客首页 (2236 bytes) () 01/26/2025  21:00:32

Bingo! 击中要害,厉害!数据库。对的。数据库收费,那也就是数据收费了。以后再搞到免费的数据就难了。这个就像人脑一 - 越活越有劲 - 给 越活越有劲 发送悄悄话 (144 bytes) () 01/26/2025  21:19:26

呵呵,终于有人赞同我的了~! - 金笔 - 给 金笔 发送悄悄话 金笔 的博客首页 (0 bytes) () 01/26/2025  21:24:00

用“蒸馏”过的数据,直接上RL,省了pre-taining ,是大胆,也算是“二次开发”。当然省时省钱。 - kl3527 - 给 kl3527 发送悄悄话 kl3527 的博客首页 (0 bytes) () 01/26/2025  21:43:00

蒸馏?那就更没有原汁原味了。谢谢补充。没有花时间研究它,只是觉得DeepSeek不会靠谱而已。。。! - 金笔 - 给 金笔 发送悄悄话 金笔 的博客首页 (0 bytes) () 01/26/2025  21:57:51

蒸馏是指从用大模型比如DeepSeek R1去训练参数少的小模型,从而得到8B,14B,32B等等对资源要求较少的版本。 - 监考老师 - 给 监考老师 发送悄悄话 监考老师 的博客首页 (0 bytes) () 01/26/2025  22:55:17

看AI所实现的方向。如果是推理性的,数据大小并不重要。好比google 的alphaZero战胜AlphaGo并不是通过 - 小八腊子2 - 给 小八腊子2 发送悄悄话 小八腊子2 的博客首页 (164 bytes) () 01/27/2025  10:50:13

DeepSeek没有从原数据开始,是用现存的开源模型,可能还蹭了ChatGPT的input/output - 破棉袄 - 给 破棉袄 发送悄悄话 (0 bytes) () 01/27/2025  13:28:04

同意~ - oldpp - 给 oldpp 发送悄悄话 oldpp 的博客首页 (0 bytes) () 01/27/2025  20:52:05

数据库?GOOGLE早就定时存互联网数据了。 - ahhhh - 给 ahhhh 发送悄悄话 (159 bytes) () 01/27/2025  19:46:50

啥都不懂啥都敢说,无知者无畏 - zxw968 - 给 zxw968 发送悄悄话 (0 bytes) () 01/27/2025  20:19:51

GOOGLE的数据集如何?就算不和OpenAI比,比Claude都差。 - busboy - 给 busboy 发送悄悄话 (0 bytes) () 01/27/2025  22:39:33

zt: 堪比 AlphaGo 的惊世一跃:DeepSeek R1 如何创造 AI 推理“神迹”?、 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (251 bytes) () 01/26/2025  20:47:52

如果 R1算神迹,比它厉害的o3又算啥迹? - pichawxc - 给 pichawxc 发送悄悄话 pichawxc 的博客首页 (0 bytes) () 01/26/2025  20:56:24

这有个和o3 的比较。不过DeepSeek现在展现的指数级的成本优势。 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (392 bytes) () 01/26/2025  21:07:38

如果其它大模型公司包括Meta能再现成功,那前一阶段说的各种算力瓶颈/电力瓶颈都会暂时消失。 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (0 bytes) () 01/26/2025  21:08:57

在这吹和黑都没有用, 都需要等其它大模型公司复现DeepSeek的方法。 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (0 bytes) () 01/26/2025  21:41:26

除了省钱便宜,其它还差不少。毕竟R1在一些方面与o1差不多,如果下一步AI还需要算力,openAI 优化算法后,又会 - pichawxc - 给 pichawxc 发送悄悄话 pichawxc 的博客首页 (106 bytes) () 01/26/2025  21:21:59

所以要让子弹飞一会,看看其它大模型公司是否能重复R1的成本优势。 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (0 bytes) () 01/26/2025  21:45:18

再等等看,看它靠“蒸馏”别人处理过的数据还能不能“跃”:) - kl3527 - 给 kl3527 发送悄悄话 kl3527 的博客首页 (0 bytes) () 01/26/2025  21:32:00

这个不是重点。 - dakinglaile - 给 dakinglaile 发送悄悄话 dakinglaile 的博客首页 (0 bytes) () 01/26/2025  21:52:12

这是OpenAI,Google等的重点,都在努力找下一个“transformer”式的飞跃。DS算是捡了个漏,华为7纳米类似的产 - kl3527 - 给 kl3527 发送悄悄话 kl3527 的博客首页 (0 bytes) () 01/26/2025  21:56:00

进步终结了,更要命的是:人类已死! - longson - 给 longson 发送悄悄话 longson 的博客首页 (1183 bytes) () 01/26/2025  19:45:50

进步终结了,更要命的是:人类已死! - longson - 给 longson 发送悄悄话 longson 的博客首页 (1161 bytes) () 01/26/2025  19:45:47

我的论坛收藏夹

加入收藏夹
回到顶部