一个机器无法判断自己的任何子系统(也包括它本身)在任何给定情况下会否无限循环而停不了机,也就是说如果不是外界(譬如人或电源)强制它停机,它连判断自己是否会停下来的能力都没有,更别论有意识停机。举个例子譬如一个毫无认知和意志的人,给了他一大堆美食,他无法信任自己是否会适可而止,而不是一刻不停吃下去直到把自己撑死。事实上很多被毒品摧毁了意志的瘾君子就是这样(他们接等同于生物机器人)。正常人,是靠意志来改变或扭转现状,这是无法程式化的。意志是能够产生行动力的意识,图灵停机论即说机器根本不可能存在这样的意识。
图灵论是逻辑上打不破的,不是阿西莫夫三原则,那只是人的一厢情愿。图灵论本质上是说
所有跟帖:
•
嗯,有道理。不过我觉得我们讨论的角度还是有些不同。我觉得将来的发展,AI有可能会有办法控制无限循环的问题,
-平等性-
♂
(92 bytes)
()
10/14/2022 postreply
19:23:47