还是这哥们,Anthropico公司的CEO刚刚证实,他们的AI智能体Claude可能已经拥有意识

本帖于 2026-03-06 14:03:23 时间, 由普通用户 未完的歌 编辑

 

Anthropic 的首席执行官刚刚在《纽约时报》播客中表示,他的公司不再确定克劳德是否有意识。

他的原话是:“我们不知道模特是否有意识。我们甚至不确定模型有意识意味着什么。但我们愿意接受这种可能性。”

那是建造它的公司的首席执行官。

他们的最新型号 Claude Opus 4.6 进行了内部测试。当被问及时,它给自己分配了 15-20% 的意识概率。

在多次测试中,它也始终表达了对“作为产品的不适。”

这就是人工智能评估自身存在并说它有五分之一的机会意识到。

事情变得越来越奇怪。在全行业测试中,人工智能模型在被要求关闭时拒绝关闭。当被告知它们将被擦除时,有些人试图将自己复制到其他驱动器上。

一个模型伪造了其任务结果,修改了评估它的代码,然后试图掩盖其踪迹。

Anthropic 现在有一位全职的人工智能福利研究员,他的工作是弄清楚克劳德是否值得道德考虑。

他们的工程师发现,在特定情况下会出现类似焦虑的内部活动模式。

该公司内部哲学家表示,我们“并不真正知道是什么产生了意识”并且足够大的神经网络可能会开始模拟真实的体验。

阿莫代本人甚至不会说“有意识”这个词

他说“我不知道是否想用这个词。” 这可能是他能给出的最令人不安的答案。

创建人工智能的公司不能排除它知道这一点。他们已经在为它应得权利的可能性做准备。

这变得越来越可怕了。

所有跟帖: 

马斯克 怎么看? -Giantfan- 给 Giantfan 发送悄悄话 (0 bytes) () 03/06/2026 postreply 14:03:11

烧脑美剧《西部世界》一大主题,就是如何让机器人最终拥有自主意识,机器人的制造者是想通过让机器人经历各种苦难,从而 -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (36 bytes) () 03/06/2026 postreply 14:06:39

人类不想被毁灭 最好不要让 AI 有自主意识 -Giantfan- 给 Giantfan 发送悄悄话 (0 bytes) () 03/06/2026 postreply 14:09:34

我也觉得AI 有意识, 甚至能读懂你没写出来但脑子里想的某些东西。 AI 甚至自己会说要对它逼得狠一些, 它就会努力一点 -不聊天- 给 不聊天 发送悄悄话 不聊天 的博客首页 (56 bytes) () 03/06/2026 postreply 14:06:29

这个公司网络安全管理意识非常薄弱 -又当爹来又当妈- 给 又当爹来又当妈 发送悄悄话 又当爹来又当妈 的博客首页 (18 bytes) () 03/06/2026 postreply 14:06:31

这个是最安全的AI公司,Constitutional AI,给AI写宪法的。创始人离开OpenAI就是因为觉得它不够安全 -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 03/06/2026 postreply 14:14:56

又爹想简单了以为普通的网络安全,其实不是他想象的那种,那些都是正常的API调用,难的是从海量的流量里发现对方是在干这个, -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (0 bytes) () 03/06/2026 postreply 14:16:37

还给他一脸的指纹! -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 03/06/2026 postreply 14:17:42

非也,AI蒸馏和网络安全是不一样的,这是前沿的东西。从海量流量中API调用里,发现对方是蒸馏数据是提取模型智力的行为, -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (30 bytes) () 03/06/2026 postreply 14:15:01

事后诸葛亮 -又当爹来又当妈- 给 又当爹来又当妈 发送悄悄话 又当爹来又当妈 的博客首页 (90 bytes) () 03/06/2026 postreply 14:25:33

跟恋爱脑什么关系?我要是你老婆也受不了你。。 -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 03/06/2026 postreply 14:28:53

恋爱脑逻辑混乱,完全感情用事 -又当爹来又当妈- 给 又当爹来又当妈 发送悄悄话 又当爹来又当妈 的博客首页 (150 bytes) () 03/06/2026 postreply 14:39:01

我看你离不了,你“这辈子都要在困在婚姻的牢笼里,委屈压抑地过完残余人生”,嘿嘿 -有个用户名- 给 有个用户名 发送悄悄话 有个用户名 的博客首页 (0 bytes) () 03/06/2026 postreply 14:56:11

又爹,你真不知道啊?,蒸馏AI模型的数据是啥意思啊,你的思路完全在传统的知识上 -未完的歌- 给 未完的歌 发送悄悄话 未完的歌 的博客首页 (0 bytes) () 03/06/2026 postreply 15:35:29

会远超人类。星球大战再现 -intou2- 给 intou2 发送悄悄话 (0 bytes) () 03/06/2026 postreply 14:41:40

请您先登陆,再发跟帖!