机器人与人类的战争是可能的吗？

来源: 慕容青草于 2014-11-24 19:11:45 [档案] [博客] [旧帖] [给我悄悄话] 本文已被阅读：次 (7945 bytes)

这是我在三年前讨论的话题[1]，我当时的结论是可能的，不过当时没有什么人在意我说的话。最近，工业奇才特斯拉的老板伊隆.马斯克(Elon Musk) 出来说5到10年内机器人就可能挑战人类[2]，以他的地位和名望说出来的效果自然就不一样了，于是便引发了网友的讨论，有一种意见认为那是不可能的。

那么，机器人到底是否可能挑战人类呢？

和三年前一样，我的答案仍然是：可能的。也同三年前一样，我这不是凭空想象，而是有着逻辑的依据。

谈到机器人挑战人类可能性，迄今为止多数人想象是象科幻小说和电影中表现的那样仅仅是因为机器人的综合智力达到了一定的程度之后就可以象人一样思考了，所以就可以挑战人类了。按照那样的思路，机器人需要非常高的综合智能，而很多学者就论证说需要由人来输入指令的机器人不可能达到那样的智能，也有人虽然不是从逻辑上来否认这种可能性，却指出以目前机器人的智能来说，要想达到那样的水准还遥遥无期。

但是，上述的思路有一个前提，那就是人类不会主动地去造就出能够挑战人类的主导地位的机器人来。在这样的前提下我们确实可以说至少目前来看，机器人能够挑战人类的前景是非常遥远的，而我们一般也实在想不出什么人会刻意放弃人类对于机器人的主导权而去造就出能够挑战人类的机器人来。

而那样一个前提本身也构成了上述思维的逻辑上的罩门，一旦具有一定财力和势力的人，不论是出于什么样的考量决定要造就出一批具有自主性的可以挑战人类的机器人来的话，那个罩门就被破掉了，因为那不但从逻辑上来说是完全可能的，而且就技术上来说，目前就基本上是具备了的。

如我在三年前指出的那样，要想认识到机器人在不远的将来挑战人类的可能性，就必须跳出前面提到的机器人只有在综合智能完全达到或超出人类的智能时才能挑战人类的思路，而是要看到机器人能够挑战人类的前提不是综合智能的发达，而是社会性的形成。

所谓机器人的社会性的最基本的条件包括三个方面：1）机器人之间可以彼此交换信息，2）当一台机器人出了故障，其它机器人可以去帮它排除故障，包括彼此相互帮助换电池或添加其它形式的能源，而且3）机器人可以自主地利用自然的材料生产出制造机器人的零件并组装出机器人，并且能够在自然界寻找开采收集所需要的原材料和能源。

目前人类的技术已经完全可以做到以上三点。只是是否已经有人运用这样的技术来制造出具有自主性的机器人社会就不得而知了。

当然，上面三个条件是机器人能够独立于人类自主生存的基本条件，还不足以构成挑战人类的充分条件。如果一个机器人的社区要想挑战人类它需要有一定的战斗力，这一点从技术上来说人类也已经具有让机器人具有战斗力甚至具有操控核武器的能力的条件了。

还有非常关键的一点，那就是当有人制造出具有上述四种特性的机器人社区时，他还需要非常高姿态地放弃对自己制造出的机器人的操控权，也就是他不会刻意地在机器人的操作系统或运作程序中加入让机器人至少是在必要的时候绝对服从它们的人类制造者的指令。这一点在逻辑上是完全可能的，也是最不可思议的，因为实在让人想象不出任何人会有任何理由来这样做。

在具有了上述几个条件的前提下，还有一些辅助条件也是目前人类可以帮助机器人做到的，那就是各种各样的适应环境和进行游戏对抗的逻辑能力。

具有了上述五方面能力的机器人社会已经具有了可以抗衡人类的能力。当然，从上述的讨论中也可以看到，这里的前提是有人会帮助机器人去做到这一点。而是否会有人这样去做本身不是技术上是否可能的问题而是一种社会伦理或心理的问题，但是我们都知道社会伦理与心理是不象自然定律那样容易被人类掌控的。所以，我们只能说实在想象不出有任何理由会让任何人去制造一个能够威胁到包括他/她自己在内的人类的生存的机器人社会。但是，这里的唯一约束条件，就是那个“实在想象不出”，一旦有人就那么出乎人类的想象去那么做了，就目前人类的技术来说，是完全可以做得到的。

当然，机器人能够挑战人类并不等于它们一定能胜过人类。但是，如果有人完全出乎人们的想象地非要制造出能够完全独立与人类而且能不断自我完善的机器人来，就目前人类的科技水平来说也不是不可能。这就需要给予机器人以更高级的智能，那就是它们需要能够提出自我完善的要求，并根据这样的要求来设计软件及硬件的改进，并加以生产。对于单一的机器人来说，由于它的操作指令是人类加入的，它不太可能（或者完全不可能）做到这一点，至少它很难更换自己的操作系统。但是，一个能够彼此观察彼此沟通而且彼此帮助修复的机器人社会，是完全可以做到这一点。它们只需轮流将对方关机，然后帮对方进行包括操作系统在内的软件的更新，以及更换硬件，然后再重新开机就可以了----只要人类最初给予它们这样的能力，而人类已经具备了可以给机器这样的能力的水平了，剩下的只是愿意不愿意的问题了。

能够生产和彼此帮助更换软硬件还不等于能够设计。能够做出需要的判断，并根据需要进行设计可能是机器人能够在物质能力上完全超越人类的一个最后的前提条件，而这个条件目前来说恐怕也不是完全不可能通过人类的帮助而获得的。当然，就是这样的机器人与人类相比也还是有着很多致命的缺陷，比如他们没有情感，甚至没有公德和是非。但是，它们恐怕根本不需要那些高尚的素质就能挑战甚至在军事战争中打败人类了。。。。。。

[1] http://blog.wenxuecity.com/myblog/28822/201101/13377.html

[2] http://tech.creaders.net/2014/11/23/1458656.html