AGI的未来

来源: 未完的歌于 2023-11-20 06:42:24 [档案] [博客] [旧帖] [给我悄悄话] 本文已被阅读：次 (6327 bytes)

本文内容已被 [ 未完的歌 ] 在 2023-11-20 07:17:12 编辑过。如有问题，请报告版主或论坛管理删除.

OpenAI这几天开除CEO奥特曼终于尘埃落定。

最终董事会主席Greg与CEO奥特曼去了微软，原twitch的CEO接受OpenAI董事会邀请出任OpenAI新CEO。

开除奥特曼具体原因未明，董事会的官方说法是沟通出了问题（CEO不听话，隐瞒），更多的猜测是跟AGI方向有关。

看过程，是OpenAI首席科学家Ilya主导了这场辞职大戏。

昨晚看了一个关于AGI的纪录片，作者正是Ilya。

他对AGI能力的担心是非常大的，对AI感兴趣的，很值得一看。

Artificial General Intelligence. AGI,
a computer system that can do any job or any taskthat a human does, but only better.

The very first AGIs will be basically be very, very large data centres.
Packed with specialised neural network processors working in parallel. Compact, hot, power hungry package, consuming like, 10m homes' worth of energy.
You're going to see dramatically more intelligent systemsand I think it's highly likely that those systems will havecompletely astronomical impact on society.

Will humans actually benefit?
The beliefs and desires of the first AGIs will be extremely important and so it's important to programme them correctly. I think that if this is not done, then the nature of evolution, of natural selection, favour those systems prioritise their own survival above all else.

被开除之前，在APEC上的奥特曼说很快会出现“让人无法想象，远远超出人们期待的东西“。。。

我感觉看见两人的冲突了。。。。

在Sam 奥特曼被解雇的前一天，他在APEC的一次会议上，他暗示了OpenAI已经开发出比现在GPT 4更加强大，让人无法想象，远远超出人们期待的东西...

这可能是被解雇的导火索，导致Ilya等董事会成员认为他隐瞒了很多信息，没有和董事会分享。

Sam… pic.twitter.com/6rPhkmh9yD
— 小互 (@xiaohuggg) November 19, 2023

OpenAI董事会，现在的新CEO是Emmett Shear

昨天还看到一封信，写的很有意思。

CEO是想的是用户和市场，首席技术官想的是技术，，，

=================

亲爱的 Mira 和 Ilya，

恭喜你们在 OpenAI 成功的政变。鉴于你们两位作为创业者从未筹集过资金，接下来的情况可能需要我来说明一下。

首先，你们必须开始筹资，因为你们公司的每笔交易成本模式根本不切实际。记住，每次有人向 ChatGPT 提出一个愚蠢的问题，你们就要花费 0.3 美元。有时候，我甚至会重复问同一个问题五次。

更重要的是，最近那笔估值高达 800 亿美元的交易已经成为过去，就像埃及的法老一样，虽然听起来很辉煌，但它已经成为历史尘埃，不会再回来了。

不仅如此，你们还意外冒犯了你们最大的合作伙伴，微软。尽管他们在公开场合会说些恭维话，但你我都明白，他们肯定对此感到极度愤怒。

你们的一些顶尖研究员已经离职，而如果说 Sam Altman 特别擅长的是什么，那无疑就是筹集和运用资本。在你们的名片上印上 “CEO” 和 “实际 CEO” 之前，Sam 可能就已经启动了一个新公司，筹集到了 10 亿美元的投资，并向你们所有即将离去的顶尖产品人员和研究员发出了邀请。

这样一来，你们迎接下周的，将是失去了顶级交易人、顶尖研究员、最具远见的产品领袖、最重要的合作伙伴和最大的投资者，而你们的业务单位经济模型也非常糟糕。

而且，别忘了，你们俩并不是真正的企业家。你们董事会的大多数成员从未真正从事过科技行业工作。你们从未经历过向众多投资者推销、经过种种流程最终达成交易的过程中所遭遇的屡屡拒绝。有时候，即使投资者嘴上说“是”，心里却并非如此。有时甚至在合同上签字了，却并不打算真的打款。你们将不得不亲身经历这一切痛苦和拒绝，并承受为你们团队成员提供生计的巨大压力，比如他们的房贷、车贷、孩子的学费等，就像你们在上一次公司野餐时一起玩耍的那些人。

在你们被市场的残酷现实击垮后，你们将最终将 OpenAI 卖给微软，并成为微软位于多雨的西雅图 4 号大楼的全球首席产品经理。微软不会解雇你们，萨蒂亚总是会对你们说恰当的话，因为他是一个讲究荣誉的人。

但在你心底，当你在 Netflix 上观看关于 OpenAI 的电影，看到 Joseph-Gordon Levitt 的妻子扮演的董事会成员在 Google Meet 上解雇 Sam Altman 的场景时，你会反思并意识到，你本可以拥有一切——你本可以成为一家价值 1 万亿美元公司的掌舵人。但历史终将忘记你。Sam、Greg 和所有其他人都会继续前进，把你留在过去。e/acc 最终还是会创造出 OpenAI 的基本替代品。