控制只是脆弱的幻觉,人类将不得不学会“Don't Die“

本帖于 2025-12-01 12:49:25 时间, 由普通用户 未完的歌 编辑

Bryan Johnson 在这条 X 帖子中,分享了他与 OpenAI 联合创始人 Ilya Sutskever(@ilyasut)的观点高度一致,围绕 AI 发展对人类未来的影响展开讨论。帖子附带一段视频(时长约 4 分钟 41 秒),Johnson 可能在视频中详细阐述这些想法。以下是核心要点:

  • AI 驱动的人类进化 Ilya 预测,随着 AI 变得“本能强大”(viscerally powerful),人类将发生前所未有的变化。Johnson 表示,他一直持相同观点。目前人类尚未准备好激进变革,是因为还未感受到 AI 的压力。一旦感受到,这种压力将“吹开人类进化的向量”。Johnson 声称自己一直在构建适应这种变革的“原型”(prototype),以开启人类潜能。
  • 风险下的合作: 随着风险上升,竞争对手将转向安全合作。Johnson 同意此观点:当赌注涉及生存(existential stakes)时,游戏将从“主导最大化”转向“最小化死亡风险”(survival logic)。人类价值观将围绕这一逻辑重塑。
  • 对齐目标的重新定义: Ilya 建议,对齐(alignment)目标应是“有感知的存在”(sentient existence),而非“人类控制”。Johnson 赞同:控制只是脆弱的幻觉(如 @karpathy 最近所言,管理 emergent systems 极为困难)。新范式不是“征服者”(Conqueror),而是“存在之战士与守护者”(Warrior & Caretaker of Existence)。
  • 道德指南的必要性: Ilya 提出,公司需要在混乱中拥有“简短的想法清单”(short list of ideas),作为道德清晰的代码。Johnson 将此比作自己的“Don't Die 哲学”(Don't Die philosophy),强调生存与存在的核心价值。

所有跟帖: 

A.I, A.I 告诉我,谁是世界上老魏最爱的女人? -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 12:58:31

他老婆 -- A.I -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 12:58:44

Don't Lie!!! -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 12:58:58

--------如此循环10086次之后-------- -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 12:59:31

死机 -- A.I -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 12:59:47

啊,不好意思,我把Don't Die,看成Don't Lie了。。。 -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 13:00:49

当AI力量真正显现时,人类将被迫发生深刻变化;竞争将转向为生存而合作,对AI不要想“控制”,而是人类 “不要死” 。 -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (0 bytes) () 12/01/2025 postreply 13:03:07

好奇怪啊,我真的一直看成Don't Lie了,因为看完标题前半句的时候,我就开始代入脑电波交流秘密无处藏身的模式了。。 -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 13:08:14

这就是传说中的“幻觉” :D -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (0 bytes) () 12/01/2025 postreply 13:08:53

Don't Die!!!! -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 12/01/2025 postreply 13:13:03

请您先登陆,再发跟帖!