细思恐极:跟人学,变小狗,小狗咬你三大口

这是我在上幼儿园还是小学时候听的儿歌,当时用来笑话小朋友跟人学,没想到这许多年后,居然变成了这一波人工智能的写照。

我们都知道,当下最热门的人工智能的实现方式,是 Generative AI: 给计算机/神经网络引擎灌输大量人类已有的文本对话,古今中外,圣哲先贤,让计算机只专做一件事:鹦鹉学舌。

于是神奇的事情发生了:我们能想到的任何语境任何场合的任何问题,其他人在其他场合基本都已重复过无数次。计算机只需要仿照此前类似语境的人的类似回答,重组一下答案,答案不但很靠谱,而且似乎充满了智慧。

水平还超过百分之八九十的人类的平均值。

跟人学,变小狗,小狗反咬人三大口。

----

我刚来美国读书的时候,谈了个女朋友。有一天我开她的玩笑:“你知不知道孔子有一句名言,唯女子与小人难养也?“

她一点也不生气,笑着跟我说,”哎呀巧了,夫子一句话把咱俩都说进去了。“

这是我完败的一次斗嘴。我对她佩服的五体投地,一直记到今天。虽然其实后来她告诉过我,她以前听过这个应对。

我讲这段故事,只是想说明,完全的”原创“并没有那么重要。我们每个人其实都是在用以前听到过,看到过,记住了的文字和语言,来重组回答新的情况。

非原创的”学舌“,百分百的可以给听者‘智慧’,甚至‘天才’的印象。

读书破万卷,下笔如有神。AI 读过而且牢记的,是老庄孔孟李杜白,是 Plato,Aristotle,Dostoyevsky。它说出来的话,想不高大上都很难。

----

我做的行业大概和自动驾驶有点儿关系,不是狭义的 Generative AI。但文生图,图生文,Occupancy Networks,等等等等,包括编代码,写文档,业界 AI 忽然用的都是同一套路数。

灌进去海量的人类数据,AI 似乎就‘学会了’。虽然我们不知道它是怎么学会的。

养过小孩的父母,肯定都知道一种感觉:"How in the world did he/she learn to do THAT?"

AI 最近就常给我这种感觉。

----

所以我觉得,AI 在很多场合全面碾压人类,将是已经或者必然的发生。

但让我害怕的,是人脑也不过就是这样。

我怕人类不过是在和AI一样的 重组/Generate ‘新’的 content:所谓的创造力,灵感,情绪,甚至灵魂,都仅仅是恰好重组出很出色的结果。

也就是说,人类不一定是具有灵魂,「(神)照着自己的形像」创造出来的神的儿子,而不过是一个比大猩猩计算量快几百几千倍的高级大猩猩。

这才是最让我害怕的事。




更多我的博客文章>>>

所有跟帖: 

我觉得是儿时启智的问题:现在孩子基本玩拼图,搭积木,重在组合。我们小时候自由奔放多了,玩泥巴,那可是自己撮土,捧水,调个 -ling_yin_shi- 给 ling_yin_shi 发送悄悄话 ling_yin_shi 的博客首页 (123 bytes) () 10/08/2024 postreply 18:42:27

是啊,小时候玩泥巴玩过家家,一玩就是好几个小时,好怀念啊 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (0 bytes) () 10/08/2024 postreply 19:47:17

这是一种 -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (381 bytes) () 10/08/2024 postreply 18:46:52

贴一段 -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (353 bytes) () 10/08/2024 postreply 18:51:01

境界高低立见啊 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (121 bytes) () 10/08/2024 postreply 19:52:54

It really gives me a good chuckle -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (0 bytes) () 10/08/2024 postreply 20:03:17

我可以认同她的这个 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (174 bytes) () 10/08/2024 postreply 19:50:39

想了好一会儿, -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (1482 bytes) () 10/08/2024 postreply 20:32:18

那我们还是挺不一样的 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (374 bytes) () 10/08/2024 postreply 21:31:10

咱们这个分歧很经典 -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (893 bytes) () 10/09/2024 postreply 10:07:06

嗯,我也看过这个Hero's Journey -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (765 bytes) () 10/09/2024 postreply 17:53:42

以前没有跟三国,跟LOTR 联系起来。还真的是呀 -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (0 bytes) () 10/09/2024 postreply 20:29:05

走廊这两天好像是为诺奖颁布做准备 - The Nobel Prize in Physics 2024 -老键- 给 老键 发送悄悄话 老键 的博客首页 (333 bytes) () 10/08/2024 postreply 18:58:27

一剑和直言两兄务请细看,AI居然进了物理奖,颠覆三观了吧 -老键- 给 老键 发送悄悄话 老键 的博客首页 (158 bytes) () 10/08/2024 postreply 19:11:36

没任何颠覆,反而觉得发迟 诺奖没给计算机 全球早就议论纷纷了。基因科技一样 获奖也会有泡沫。。。 -zhiyanle- 给 zhiyanle 发送悄悄话 zhiyanle 的博客首页 (0 bytes) () 10/08/2024 postreply 19:27:47

见下我的猜测 生物DNA的3D数据管理,早晚有诺奖 也是早有很多议论了。。。 -zhiyanle- 给 zhiyanle 发送悄悄话 zhiyanle 的博客首页 (0 bytes) () 10/08/2024 postreply 19:33:12

诺贝尔奖加一个新的cateogry 可不是件容易的事 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (0 bytes) () 10/08/2024 postreply 20:00:39

说的很是, 非常非常艰难。。。 -zhiyanle- 给 zhiyanle 发送悄悄话 zhiyanle 的博客首页 (0 bytes) () 10/08/2024 postreply 20:06:15

因为我是看涨 AI 的 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (0 bytes) () 10/08/2024 postreply 19:53:33

“这才是最让我害怕的事“。这句话就区分了人和AI/大猩猩 -Wtp003- 给 Wtp003 发送悄悄话 Wtp003 的博客首页 (0 bytes) () 10/08/2024 postreply 19:17:58

我也和朋友讨论过这个问题:self aware -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (313 bytes) () 10/08/2024 postreply 19:58:10

见过这张图片吧: -糯米粥- 给 糯米粥 发送悄悄话 糯米粥 的博客首页 (349 bytes) () 10/08/2024 postreply 20:14:12

属于fearmongering吧。多瑙那些AI歌根本听不得,绘画啊视频啊也是多看头晕。AI能写你的文,我的诗?远着呢 -老键- 给 老键 发送悄悄话 老键 的博客首页 (0 bytes) () 10/08/2024 postreply 22:32:53

上帝创造了人=人创造了AI……同理 -土豆-禾苗- 给 土豆-禾苗 发送悄悄话 土豆-禾苗 的博客首页 (0 bytes) () 10/09/2024 postreply 10:57:17

然后 Nietzsche 就宣称,God is Dead。然后某 AI 就宣称,goto hell, sapiens -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (0 bytes) () 10/09/2024 postreply 17:55:36

这一段 -陶陶三- 给 陶陶三 发送悄悄话 陶陶三 的博客首页 (77 bytes) () 10/09/2024 postreply 08:07:12

有啥好怕的 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (0 bytes) () 10/09/2024 postreply 09:56:35

人脑不过如此,不过,人不仅仅是人脑。这个是只有宗教修行才能解决的问题。 -freemanli01- 给 freemanli01 发送悄悄话 freemanli01 的博客首页 (0 bytes) () 10/09/2024 postreply 15:15:10

人不仅仅有脑袋,更重要的是还有 -木有文化- 给 木有文化 发送悄悄话 木有文化 的博客首页 (39 bytes) () 10/09/2024 postreply 17:57:54

呵呵文化兄,我是认真的。其实佛教的根本内容,之一,就是区分心和脑,心也不是通常感受的肉心。肉体的心和脑只是“真心”的工具 -freemanli01- 给 freemanli01 发送悄悄话 freemanli01 的博客首页 (0 bytes) () 10/10/2024 postreply 00:20:10

请您先登陆,再发跟帖!