马斯克等大佬叫停GPT-5研发!周鸿祎回应

来源: 21世纪经济报道 2023-03-30 23:31:10 [] [博客] [旧帖] [给我悄悄话] 本文已被阅读: 次 (7173 bytes)

3 月 30 日下午,360 公司创始人周鸿祎在微博发布长文,对 " 马斯克请愿叫停 GPT-5 研发 " 发表了看法。

3 月 29 日,以马斯克为首的 1000 多位科学家和企业高管给美国政府写请愿信,要求暂停 GPT-5 的研发,担心它 " 对社会和人类构成潜在风险 "。(此前报道:太危险," 立即暂停大型 AI 研究 "!马斯克等千名大佬集体呼吁)

对此,周鸿祎发微博认为,这不影响中国发展自己的大语言模型,包括 360 在内的一些中国公司已经展示了自己的作品,实事求是来说,离 GPT-4 的水平还有两年差距,现在担心风险为时尚早。

在周鸿祎看来,GPT 将引领一场新的工业革命,意义超越互联网和 iPhone 的发明。它将带来生产力的大幅提升,进而提升国家竞争力,因此中国一定要迎头赶上。

他也坦言,最近人工智能的指数级跃变确实让人有点措手不及。人类如何应对 AI 带来的未来安全挑战,谁也没法给出确定答案。

" 人工智能的进化已经不以个人意志为转移了,哪怕是马斯克。" 周鸿祎说," 我自己就是做安全的,但我坚定地认为,不发展才是最大的不安全。"

对于人类如何与 AI 共处,周鸿祎将目前的观点概括为三派,分别是 " 降临派 "、" 幸存派 "、" 拯救派 "。他表示自己比较认同 " 拯救派 " 的观点,即 "AI 不是来取代人类的,而是来升级人类的,人类将迎来工业革命之后最大的生产力解放 "。

事实上,今年以来,周鸿祎几乎在所有公开场合都会谈论 ChatGPT,他更是自称为 "GPT 的布道者 "。

比如在 3 月 25 日由国务院发展研究中心主办的 2023 中国发展高层论坛上,周鸿祎便展示了 AI 绘图生成的自画像以及由大语言模型生成的开场白。他还将人工智能发展划分为人工智障、强人工智能、超级人工智能三个阶段,并认为,GPT-4 已经拥有超人的能力,具有真正的智能。

周鸿祎当时提出,中国有能力发展自己的人工智能大语言模型。" 中国大语言模型技术水平和 GPT-4 的差距在 2 到 3 年时间,目前 GPT 的技术方向已经明确,不存在难以逾越的技术障碍,中国应当坚持长期主义精神,迎头赶上。"

不仅如此,他还认为在场景化、工程化、产品化、商业化方面,中国拥有巨大优势,尤其在知识标注领域,中国拥有高端知识人才红利,人工智能训练师将成为新兴热门职业。

仅隔三天,在 3 月 29 日召开的 2023 数字安全发展与高峰论坛上,周鸿祎就向外界展示了 360 版的 ChatGPT 产品。在现场演示之前,周鸿祎说," 今天就是把刚出生的孩子抱出来给大家看看 "。

根据演示,该产品被嵌套在 360 搜索引擎中,会根据用户搜索的内容在搜索结果右侧展示 AI 生成内容。周鸿祎现场提出了几个问题,记者根据现场观众反馈,认为其中部分回答的水平超出预期,但也有些答案出现了失误。

周鸿祎称,360 在发展人工智能大语言模型上具备数据获取和处理的工程化能力、人工知识训练、场景三大核心优势,未来将坚持 " 两翼齐飞 " 战略,先占据场景,同步发力核心算法技术。

今年以来,三六零的股价也随着 ChatGPT 概念的火热而起飞。截至发稿,360 的股价为 16.84 元 / 股,市值为 1200 亿元,较年初增长了近 150%。

以下为周鸿祎微博全文:

昨天,以马斯克为首的科学家给美国政府写请愿信,要求暂停 GPT-5 的研发,担心它 " 对社会和人类构成潜在风险 "。我认为这不影响中国发展自己的大语言模型,包括 360 在内的一些中国公司已经展示了自己的作品,实事求是来说,离 GPT-4 的水平还有两年差距。现在担心风险为时尚早。

不管你愿不愿意,GPT 都将引领一场新的工业革命,意义超越互联网和 iPhone 的发明。它将带来生产力的大幅提升,进而提升国家竞争力。中国一定要迎头赶上。

最近人工智能的指数级跃变确实让人有点措手不及。我一直预测,GPT-6 到 GPT-8 的版本就会产生真正的意识,甚至进化成一个新物种。人类如何应对 AI 带来的未来安全挑战,谁也没法给出确定答案。

我曾经想过是不是在程序里加一句暗语,比如 " 天王盖地虎,宝塔镇河妖 ",一提这句话,AI 就能停止工作。然而现在的发展态势,已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了,哪怕是马斯克。

我自己就是做安全的,但我坚定地认为,不发展才是最大的不安全。

关于马斯克的请愿信,我不了解内幕,但我猜测是 GPT 的进化路上出现了超乎人类想象的现象。

真是这样我倒不奇怪,我认为 GPT-4 已经是超级人工智能的雏形,早就出现了一些连它的创造者都无法解释的现象,比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人,不知道在哪个节点会发生智力的突变。

对于人类如何与 AI 共处,目前的观点大致分为三派:

" 降临派 " 认为人类应该把知识献给 AI,甘心做硅基文明的引导程序。

" 幸存派 " 认为只要我能生存,未来跟 AI 以什么样的方式共处都行。

" 拯救派 " 认为 AI 不是来取代人类的,而是来升级人类的,人类将迎来工业革命之后最大的生产力解放。

我比较认同 " 拯救派 " 的观点。人类身小力薄,从来都不是靠体能和智能的进化站在食物链顶端的,我们靠的是不断发明和使用工具。GPT 就是这个时代最伟大的工具。我们可以借助它的能力大幅提升生产效率,提高个体自身的能力,普通人也能解锁专业技能,发挥聪明才智。通过人机协作的方式,我们将变成史上最强人类,智人 2.0。

昨天我在发布会现场演示 360GPT 的时候也问了这个问题,它回答说 " 无论如何我们应该认识到 AI 仍处于婴儿期,需要在宽容和支持的基础上进行发展 "。

看起来 360GPT 的求生欲满满。这个答案我满意。

请您先登陆,再发跟帖!