事实上,从Turing Test,到AlphaGo Zero的测试,到无人汽车的测试方法,都是错误的。交通部赵小兰前部长该思考这些问题。
前面说过语言模型需要拓扑、流形、希尔伯特空间所不具有的特征。原来主帖是说从自然语言到数学的“编译器”根本不可能存在。这是数学的缺陷。
想用驴头不对马嘴的环境来淹没正确观点,导致科学走错方向是自欺欺人。
借这地方。向赵小兰前部长建议,办一个面向公众的、较认真的研究性论坛,广开言路。如果全民乱讲,很容易奸佞当道。这样下去,路越走越窄,就麻烦了。
大陆法系和海洋法系在太空时代的演变,更加重要。把bee等同法律中的fish处理,会有什么逻辑影响和教育影响,会不会鼓励指鹿为马的那些人?下面这个帖原来被子女论坛删掉。现在我在这里贴一下。
---------------------------------
加州某法院的裁决把bee等同法律中的fish处理。争议涉及鱼的定义 [注]。本地物种保护本来就很有争议。为什么不修法?
太空时代什么该受保护,什么该被消灭,争议更大。而入侵私人计算机、监控和干扰私人空间活动,又该如何处理?
大陆法系和海洋法系差异很大。未来的法律体系会如何演变,就留给法学专业的人思考。
人类合作需要共同基础。曾经有很多人认为全球化经济可以是人类合作的基础。但现在出现全球性生产过剩,红海竞争在加剧恶化。一系列的经济案件提醒人们经济需要受法律制约,而各国的法律体系是不同的。
伦理可不可以成为超越法律的共同基础?儒家的理想是伦理社会。但很多国家自认为是法制国家。况且不同宗教派别的伦理千差万别。
而人类面对的自然规律是相同的。所以逻辑和科学可以成为很好的合作基础。问题是哥德尔不完备定理意味着人类不得不使用多个世界模型,这会产生很多逻辑问题。未来的太空探索也会遭遇越来越多的逻辑、法律和科学问题。科学逻辑需要怎样的结构和机制去处理inconsistent和incomplete?
现在很多重要的学术问题无人去讨论。到底问题出在哪里,是谁有逻辑问题?人工智能专业里是不是有人在强词夺理?
智力新科学的建立需要纠正一些学术错误。不纠正,诡辩就会流行,导致蒙昧和文明衰退。这些实际上正在发生。
现在的国际政治危机结束后,智力新科学的基础研究、国际太空法及大陆法系、海洋法系的问题就会变得重要起来。这才是美国真正的挑战。
[注] (Reuters) - Bumblebees are eligible for protection as endangered or threatened “fish” under California law, a state appeals court held in a win for environmental groups and the state’s Fish and Game Commission.
The Sacramento-based California Court of Appeal reversed a lower court’s ruling Tuesday for seven agricultural groups who argued that the California Endangered Species Act (CESA) expressly protects only “birds, mammals, fish, amphibians, reptiles, and plants” – not insects.
While “fish” is “commonly understood to refer to aquatic species, the term of art employed by the Legislature … is not so limited,” Associate Justice Ronald Robie wrote for the appeals court.
CESA itself does not define “fish,” but the law is part of the California Fish and Game Code. The code’s definition includes any “mollusk, crustacean, invertebrate (or) amphibian,” Robie wrote. All those categories “encompass terrestrial and aquatic species,” and the state legislature has already approved the listing of at least one land-based mollusk, the opinion said.
“Accordingly, a terrestrial invertebrate, like each of the four bumblebee species, may be listed as an endangered or threatened species,” Robie wrote, joined by Acting Presiding Justice Cole Blease and Associate Justice Andrea Lynn Hoch.
----------------------------------------------------
这不是数学话题:人工智能测试不是QA,黄士杰和黄仁勋两位先生应注意。二十余年前的Avant!案对人工智能生成代码也是警示。
现在Nvidia股票大涨,以后对人工智能测试的需求也大大增加。
人工智能测试和认证需要理解科学逻辑以及智力的结构、机制原理,需要理解智力的模式演变高度不稳定性,才能设计有效检验人工智能技术的实验。
符合这个资格的需要理解Turing Test的本质错误,应该是受过智力新科学系统教育的新型学者。这跟基于简单逻辑的传统计算机程序和QA完全不同。
七年前我就警告过计算机围棋仍有问题。最近有业余棋手可稳定战胜高水准计算机围棋。这说明以前的
无人汽车问题更严重,SAE level 4不可能实现。需要新的、能够有效检测的自动驾驶标准。现在无人汽车的测试结果靠公司自己提供,不规范、不准确、不科学。曾任交通部长的赵小兰女士应该知道。
另外,二十余年前的Avant!案对人工智能生成代码也是警示。其实高科技业界把别人的代码拿来修改成自己的程序,很普遍。当年Avant!被发现,纯属偶然,被抓住的只是少数倒霉蛋。这就是为什么现在这么多业界精英热衷于人工智能生成代码。
不过人工智能在自然语言理解上有严重智力缺陷,对复杂一点的问题,就不能找到合适代码。能准确生成的代码更少,水平也很低。
业界人士应该知道,对有结构问题的复杂程序,常常修改太麻烦,还不如写新的。人工智能的结构理解,很成问题。
作为对照,Linux的内核可以由少数人写,而Google Mobile Services是闭源的。
IT业除了计算机专业的编译器和操作系统,电子专业的芯片制造设备、芯片制造、EDA这几个更重要。2015年智能手机市场达到顶峰,然后萎缩。2018年华为开始受打击,跟操作系统相关的Google Mobile Services、EDA、芯片制造、芯片制造设备都是打击范围。
EDA是把基于简单逻辑的设计转化成电路和芯片实现方案。计算机语言编译器是把基于简单逻辑的高级语言程序转化成低级语言程序。而人类智力和人工智能涉及复杂逻辑,所以人工智能从高层人类思想生成代码,其基本原理跟编译器和EDA都不一样,有严重缺陷和本质问题。
黄仁勋先生对人工智能泡沫化应有特别警惕,高处不胜寒。智能时代未来教育倒是很大的机会,但需要长期积累的科学逻辑和智力结构、机制的基础理论研究和针对人工智能新技术的实验设计和检验,靠创业和快速试错不行。
黄先生现在也是硅谷华人的骄傲和最有影响力的人。有一大批人会出于权势和利益围着他转。这也意味着责任。既有对未来科技和经济走向的责任,也有对社会公正的责任。
以前想创业时,有人要我用开源平台,说否则就要诉我。我根本没决定用什么平台,也没告诉别人我打算implement什么功能。毫无依据就说要诉我,是胁迫,是play evil。还有人说要破坏我的计算机,对我“温水煮青蛙”。这是慢性死亡威胁了。他口头上编些驴头不对马嘴的理由,其实也是胁迫,是play evil。
探索智力新科学,不是浮士德跟魔鬼作交易,需要平等讨论、公正实验。全民乱讲、play evil会把自由、民主玩死。古雅典是前车之鉴。
我反对把我帖放在数学子坛。断章取义、屏蔽我的一些重要分析更可笑。用小动作来转移对学术讨论的关注太无聊。我不想多说,把主帖换成这内容远离数学子坛。原帖在下面:
---------------------------------------
AI语言模型的关键是做一个自然语言到数学的“编译器”,然后数学到计算机语言。
但根据我的智力科学理论,这是不可能的。这可以设计规范实验验证。这两部分都有问题,AI自动生成回到自然语言更不对。这里的“编译器”只是概念上的类比,既不是真的编译器,也不可能存在,所以加上引号。下面有人提起操作系统,只好解释一下。
这跟计算机语言编译器可截然不同。计算机语言编译器是形式语言到形式语言,用简单逻辑就可以。
自然语言涉及复杂语义、复杂逻辑,跟形式语言完全不同。所以研究语言模型问题,不但需要研究自然语言,还要研究语言模型的数学基础Universal Approximation Theorem和word-embedding vector space有什么问题,需要什么结构和机制有拓扑、流形、希尔伯特空间所不具有的复杂性?
科学革命、科学逻辑、科学实验方法超出了数学思维的范围。所以,很多习惯数学思维的人,无法理解现在的人工智能测试理论和方法有严重缺陷。
而很多人觉得数学学得太深很枯燥乏味。连杨振宁教授都说:“The language of modern mathematics is too cold and abstract for a physicist“。不过如果有实际问题去研究相关数学问题,又另当别论。因为实际问题会提供直觉,没有那种枯燥感。
人工智能和语言模型的挑战,也打破了文理分科的传统教育。以后别再文科生、理科生的,那种概念过时了。
有报道说语言模型在挑战医学考试中进展很快。光靠刻苦努力、死记硬背学医的,以后会有麻烦。但医学智力跟数学智力也是很不一样的。学数学出身的,去华尔街转行容易,转行医生不容易吧。
不过科学逻辑和智力科学研究不能急功近利、急切下结论,快速试错无法得到正确结论。而要长期积累,审慎、仔细地选择语言、语义,构建严谨逻辑。年轻聪慧的学生,脑子转得太快,不一定做得了。
陶哲轩教授能不能找出语言模型的问题,能不能找出自然语言和数学的本质区别?
GRE考试有对语言和语义的精确分析,但远远不够。其逻辑部分考试尤其缺乏科学深度,缺乏对科学逻辑和科学革命的理解。这在人类面临人工智能技术挑战时,变得很关键。
我非常乐见人工智能和语言模型去挑战GRE考试,以此提醒通识教育和GRE考试需要改进,以适应未来智能时代的需要。人工智能也需要准备面临人类的改进和反击。
别人皮里阳秋逗趣,我一般不去打扰。我认真谈些学术,别人也不要当作眼中钉。况且现在已是危机深重的时候,全球性生产过剩,恶性竞争加剧,计算机和智能手机市场萎缩。