平兄多虑，任何物质都有保持现状的倾向，动则恒动静则恒静，牛三定律而已，运作中的机器人也有拒绝停止运作的倾向，其一

其二，机器人是目的性工具，任何程式都是按目的运行的，如果该机器人程式设定是延长与外界的应答，关机自然是最大的障碍。

所有跟帖： 

• 老键好思考！不过呢，第一条说服力不强，因为定义太宽泛，比如可以说我们人类也有拒绝停止运作的倾向；第二条呢， -平等性- ♂ (359 bytes) () 10/14/2022 postreply 14:45:58

• 人类有物质部分啊，当然遵循物质律，但人还有主动改变现状的自由意志，机器是做不到主动要求停机更新程序的 -老键- ♂ (0 bytes) () 10/14/2022 postreply 14:57:18

• 平兄知道图灵停机论吧 -老键- ♂ (0 bytes) () 10/14/2022 postreply 15:13:19

• 老键就是有文化！图灵的停机问题其实也响应了哥德尔的不完备性定理，是逻辑学和数学上的重要一环。其实简单的说， -平等性- ♂ (857 bytes) () 10/14/2022 postreply 15:28:16

• 图灵论是逻辑上打不破的，不是阿西莫夫三原则，那只是人的一厢情愿。图灵论本质上是说 -老键- ♂ (764 bytes) () 10/14/2022 postreply 18:06:10

• 嗯，有道理。不过我觉得我们讨论的角度还是有些不同。我觉得将来的发展，AI有可能会有办法控制无限循环的问题， -平等性- ♂ (92 bytes) () 10/14/2022 postreply 19:23:47