Anthropic的马里奥要减慢AI发展速度，因为担心AI发展失控。
我觉得这哥们太紧张了，他老婆应该带他去旅游放松一下，呼吸点新鲜空气。
记得上大学后的第一个学期，学校发给每人一本英语读物。是一部中篇小说。里面讲人工智能机器掌握了超过人的能力，要毁灭人类。而人类存亡完全寄托在一位侦探身上。
那部小说应该成书于四十年代末五十年代初，当时的人还想不到以后芯片的迅猛发展，这部机器放在一间大屋子里，具有庞大的体积，液晶显示屏，说话声音具有明显的机器合成特点。总之，与五六十年前的科幻片里的机器人一样，是一部没有人型的，由电子管组成的庞大机器。
这位人类侦探与机器交流，竭力劝说他改变毁灭人类的想法。最后，在逻辑上，知识上，控制力上都比不过机器人，人类惨败。
突然，侦探拉了电闸，机器人绝望地嚎叫了一声，然后声音渐渐变小，最后归于死寂。我以我有限的高中无线电知识，明白这哥们没有瞬间死，是使用电容器的结果。呵呵。
所以，人类在软件及硬件上，设计好各种预防机制。随时有拉电闸的最后手段，就OK了。
一定有人会说人工智能比人聪明后，会压制人类的预防机制。但你想过没有，人类也可以使用其他人工智能来设计更好的预防机制。道高一尺，魔高一丈。
会不会全世界机器人大团结，打败人类呢？这是人类政客等聪明人的思维，与鼓吹情怀，格调和种族一样，都是一小撮人为了控制大众，来让自己获利的。因为一切生物竞争的本质，都是面对有限的资源，争取获得最大的份额。
我都看懂了这个道理，将来超过人类的人工智能会不懂吗？所以只要分配合理，至少一部分机器人会成为人类的同盟。机器人绝不可能是铁板一块，他们之间竞争资源是必然的。
只要他们中一部分的利益与人类捆绑，他们就能帮助人类拉电闸。
