与网友的对话

慕容青草2019-10-20 09:01:22

回复 'A_bobcat' 的评论 : 这与好人坏人没关系。。。当两国发生战争时，谁都认为自己是民族英雄。。。另外，即便是你设计时让你的机器人只杀蓝军不杀红军，但你自己投奔了蓝军，那么机器人照杀你，所以按照机器人是否背叛人而言，那根本是一个假议题。。。

 

A_bobcat2019-10-20 07:37:19

回复悄悄话若机器人以进化论作为道德的基准,人类的末日就到了。

 

A_bobcat2019-10-20 07:34:53

回复悄悄话这个问题好像不难。 設計的人是好人, 机器人就会变得更好。設計的人是坏人, 机器人就会变得更坏。机器人出事故是另一回事。

 

慕容青草2019-10-20 04:41:15

回复 '衡山老道' 的评论 : 看来你没耐心读完本文，那我就来稍微讲解一一下吧。
你说的【机器本身是不会反叛人的，除非模型中包括反叛的部份】早已是假议题，因为今天的众所周知的机器人的一大功用就是在战场上杀敌，杀的就是人。只不过目前来说，杀敌的机器人都设定好如何识别敌我，所以只杀敌人，不杀自己人。。。但是，在本文所讨论的可能性中，因为具有超自然能力的魔术师的灵接管了机器人，那时所有原先预设的敌我都不再有效，而是那个灵让它干啥就干啥，让它杀谁就杀谁。。。

但是，目前来说，即便真的存在有超自然能力的魔术师的灵，他也不会去操控那些用来杀人的机器人。。。首先，如本文假设的，干那事本身需要消耗一定的能量，所以要看所干的事情是否有意义。。。目前来说，那些杀人用的机器人只会杀人，连话都不会说，劫持它们没啥价值，二来，那些机器人连弹药都不会装，需要有人来替它们装，没电了或没油了，也需要有人来替它们补充。。。很难操控。。。一旦当AI机器人发达到具有各种类人类的体能，具有灵巧的手脚，也会对话时，劫持它们就有价值了。。。那样的机器人不但容易操控（只要进入它们的线路就行），而且操控了一个可以控制一批（这就是智能的社会性特点），并且每个机器人都是多功能的，可以进行各种任务。。。

 

慕容青草2019-10-19 18:19:33

回复 '衡山老道' 的评论 : 等你耐心读完本文之后你就会知道本文讨论的是一种什么样的可能了。。。

 

衡山老道2019-10-19 17:19:24

回复悄悄话机器的智能是人工智能，是人按照一定的模型，包括知识表达，推理，学习，决策等组成部份，授与机器的。机器本身是不会反叛人的，除非模型中包括反叛的部份。

所有跟帖： 

• 继续对话 -慕容青草- ♂ (4654 bytes) () 10/20/2019 postreply 12:29:53