第一个问题应该是现在所谓的（我们所期待的）AI 到底什么？

人类科技进步是渐进，苹果手机，马斯克的电车，火箭，都是在原有比较成熟的技术上，发展起来的。苹果手机当时甚至只是存在一些法律的限制。

这里跳略一下

如果AI 成功了，去掉了A，变成了真正的I，那么还要人类干什么？而如果假设人类是不可取代的，那么AI就不可能成功。逻辑上是不通的，给它一万年，它也不可能成功。