哇，Ilya刚刚宣布成立一家AI安全公司，因为超级智能已经触手可及，安全AI迫在眉睫。。。
当大家还在说AI其实挺笨的时候，行业领头人们已经预感的危险。。。
顺便推荐一本以前看过的书，2018年出版的《生命3.0》。
那个时候AI还没有像现在这么引起大家的关注，大家都觉得离我们很远，也没啥可玩的AI的产品。。。
书中提到普罗米修斯，一个巨型的AI计算机。其实英伟达也正计划建个类似AI中心。。。
Ilya预感到普罗米修斯要来了。。。
《摘录》
“欧米茄团队建造的人工智能昵称叫“普罗米修斯”（Prometheus），它一天比一天强大。诚然，它的认知能力在社技能等许多方面还远远落后于人类，但欧米茄团队竭尽全力让它在一
个任务上表现超凡，这个任务就是编写人工智能系统。他们之所以选择这个计划，是因为他们相信英国数学家欧文·古德在1965年提出的“智能爆炸” (1)理论。古德说道：
让我们给“超级智能机器”（ultraintelligent machine）下一个定义，那就是：一台能超越任何人（无论这个人多么聪明）的所有智力活动的机器。由于设计机器也属于
这些智力活动中的一种，因此，一台超级智能机器就能设计出更好的机器；那么，毫无疑问会出现一种“智能爆炸”，到那时，人类的智能会被远远甩在后面。于是，第一台超级智能机
器就会成为人类最后一个发明，只要它足够驯良，并告诉人类如何控制它就行。欧米茄团队认为，只要他们能让这个不断迭代的“自我改善”过程持续下去，那么最终，这台机器就会变得非常聪明，足以自学其他有用的人类技能。”
==================================
