从认知科学看人工智能的未来发展.pdf

JUL20231FRONTIERS113从认知科学看人工智能的未来发展清华大学心理学与认知科学研究中心主任蔡曙山【摘要】乔姆斯基的生成转换语法（GT语法）是语言学革命和认知科学革命的基础，今天它又成为ChatGPT的理论依据。从GT语法到ChatGPT，人工智能到底走了多远？从乔姆斯基GT语法分析和语言认知入手，我们重新认识乔姆斯基语言学革命的意义，揭示人工智能与人类心智之间的紧密关联、依存关系和发展动力。认知科学的建立使我们有可能从多学科综合的高度来理解人类心智与人工智能。在此基础上，我们以ChatGPT为例，分析这款人工智能软件的利弊得失及其所造成的困惑，提出“人工智能不能做什么”这个终极问题，并尝试给出我们的回答。人工智能就是人类所建造的非人类的智能，它不过是对人类心智的模仿。人工智能与人类心智的差别，本质在于高阶认知（人类认知），在于语言认知及其基础之上的思维认知和文化认知。人工智能今后的发展必然是体现语言驱动的、语言、思维和文化层级的人类心智和认知特征的新一代人工智能。语言认知、思维认知和文化认知将在未来的人工智能发展中扮演重要角色。【关键词】人类心智人工智能乔姆斯基GT语法ChatGPT【中图分类号】TB18【文献标识码】A【D 0 1】10.16 6 19/j.c n k i.r ml t x s q y.2 0 2 3.14.0 0 2人工智能近年来的发展颇有些令人眼花缭乱，从AlphaGo、通用人工智能和生命3.0 到ChatGPT，等等，发展热潮一浪高过一浪。在这个过程中，一些人似乎忘记了人工智能的本质和定义一一人工智能是人类创造的机器智能，是机器模仿人类心智所产生的智能。据此定义，我们不能仅就人工智能来说人工智能，而应该从人类心智来认识人工智能，也就是从认知科学来认识人工智能。起源于2 0 世纪50 年代的人工智能与乔姆斯基语言学革命、计算机和信息技术革命以及认知科学革命息息相关。乔姆斯基领导了语言学、心理学、计算机科学领域的三场革命，这些革命又相继引发哲学、人类学和神经科学领域的革命。在这些革命的影响下，19 7 5年前后，认知科学在美国建立，形成由语言学、心理学、哲学、人类学、计算机科学和神经科学6 大学科构成的学科框架。2 0 0 0 年，科学家们将另一个与心智密切相关的学科-教育学纳入认知科学之中，形成“6+1”的学科框架。这些学科在认知科学框架下与认知科学交叉形成新兴学科：认知语言学、认知心理学、心智哲学、认知人类学、人工智蔡曙山，清华大学社会科学学院心理学系教授、博导，清华大学心理学与认知科学研究中心主任。研究方向为语言学、逻辑学、心理学和认知科学。主要著作有认知科学导论、自然语言形式理论研究、语言、逻辑与认知、言语行为和语用逻辑、聚合四大科技提高人类能力：纳米技术、生物技术、信息技术和认知科学（译著）等。141学术前沿12023.07下大问题研究二十四个重大问题IMPORTANTISSUES能、认知神经科学和心智教育学。由此可见，人工智能本是认知科学题中之义，是计算机科学与认知科学交叉的产物，是人类赋予机器（计算机）的智能。人工智能诞生以后，其与认知科学剪不断、理还乱的关系，始终是理解人工智能的关键点。一是因为五个层级的人类心智是人工智能的来源和基础，人工智能如何学习和模仿人类心智和认知能力，是人工智能过去、现在和未来发展的根据。二是作为人类心智和认知基础的语言，人工智能的发展又具有特殊的意义。当前的人工智能新宠ChatGPT就是一款体现了人工智能与认知科学结合的语言认知软件。让我们从乔姆斯基的生成转换语法（GT语法）开始说起。乔姆斯基和GT语法我们先来认识语言学革命的发起人、认知科学的第一代领袖乔姆斯基（N.Chomsky，1928一）的语言理论和语言认知方法。什么是语言知识？什么是语言能力？人的语言能力是哪里来的，是先天遗传的还是后天习得的？人类如何加工语句，是经验主义的还是唯理主义的？自然语言和形式语言的联系和区别在哪里？形式语言和计算机语言的关系又是什么？人类如何通过自己的语言让计算机工作？什么是形式文法？乔姆斯基语言学革命的主要内容和理论贡献是什么？关于乔姆斯基和乔姆斯基的语言学革命，我们可以思考很多重要问题，这些问题至今仍有特别重要的意义。I现在我们来看乔姆斯基的一个重要的语言学理论一一生成转换语法（generativetransformational grammar），简称GT语法。乔姆斯基著述丰厚，其理论一直处在不断的变动之中。第一阶段从19 50 年代中期开始到1970年代中期，这个时期是生成转换语法的形成时期，这个时期的重要语言理论有50 年代的句法结构理论（SS）、6 0 年代的标准理论（ST）、70年代的扩展的标准理论（EST）和修正扩展的标准理论（REST），等等。第二阶段是19 7 0年代以后，这个时期的重要理论包括管辖和约束理论（GB）、最简方案（MP），等等。其中，GB又包括短语结构的X-阶标理论（X-barT）、Q-理论（O-T）和功能范畴（FC）、移动和格理论（MCT）；M P又包括原则和参数理论（P&P)，等等。第一阶段的代表作是19 57 年的句法结构(Syntactic StructureSS），这是乔姆斯基以博士论文为基础撰写的划时代著作，本书建立的生成转换语法是乔姆斯基语言学革命的标志，它由以下三个部分构成。（1）短语结构规则（phrasestructurerules）。短语结构规则也叫重写规则(rewritingrules）。它试图用有限的规则来生成无限的句子。重写规则通过形式化的方法和递归定义，生成一系列的短语结构。(2）转换规则（transformational rules）。由重写规则生成一系列的短语结构，可分为词汇前结构（pre-lexical structure）禾和词汇后结构(post-lexical structure）。前者由非终端符构成，称为深层结构（deepstructure），后者由终端符构成，称为表层结构(surface structure)。（3）形态音位规则（morphophonemicrules）。按照乔姆斯基的理解，转换规则将深层结构的逻辑语法关系映射为表层结构的语言关系与语音关系。这样就可以解释语言的歧义和释义现象。歧义是两个不同的深层结构转换为同一表层结构，释义是同一深层结构转换为两个不同的表层结构。乔姆斯基的生成转换语法法(generativetransformational grammar）由生成语法和转换语法两部分构成。我们先来看生成语法。（一）生成语法。乔姆斯基在句法结构JUL20231FRONTIERS115names)将其命名如下：语(Phrase)乔姆斯基用范畴名称(categorial使用了很多短注意在语句的生成过程中的特征。乔姆斯基唯理主学的最本质不押这是种心智现象，童的头脑之中的。语言是基认为语言的这种结构和规则存在于儿数多的语句。换句话说，乔姆斯件只是激发的这种能力所以儿童才能够从语言习得的环境和条具有一种先天的语言能力一语言知识的，而是相反。儿童句地去习得第一个语儿童并不是过来。他认为，个语句、革命把这个过程倒了过来，即把这棵树“倒”的语言知识来语言的实践。乔姆斯基语言学个语言的语法。行为主义语言学则认为人们最后总结出句的结构，找出语句的共同特征始来分析语言的，即从具体的语句开始，分析语乔姆斯基以前的经验主义语言学是从树梢开结构却表明乔姆斯基语言学革命的开始。中，给出了如下的句法结构的一个简单例子。(1)(i)Sentence-NP VP(ii)NP-T N(iii)VPVerb NP(iv)Tthe,a(v)N-man,ball,etc.(vi)Verbhit,took,etc.我们将（1）中每一条形如XY的规则称为“重写规则”，即“重写X为Y”，并称这些规则的集合为一个语法。我们称下面的（2）为语句“the manhittheball”从语法（1)所得出的一个推导。(2)SentenceNPVP(i)TN VP(ii)T N Verb NP(iii)the N Verb NP(iv)the man Verb NP(v)the man hit NP(vi)the man hit T N(ii)the man hit the N(iv)the man hit the ball(v)其中，最右边的一列给出得出该行符号串所依据的重写规则。例如，第二行的串“NPVP”是根据重写规则（i）得出的，如此等等。这个推导可以用下面的树形图来表示：(3)SentenceNPVPTNVNPTNthemanhittheball注意这是一棵倒置的树，树根向上，树梢向下。不要小看这个简单的结构，这样一个简单的S:语句(Sentence)NP：名词短语(Noun Phrase)M:情态词(Modal)VP:动词短语(Verb Phrase)D:限定词(Determiner)N:名词(Noun)V:动词(Verb)PP：介词短语(Prepositional Phrase)P:介词(Preposition)ADVP：副词短语(Adverbial Phrase)ADV:副词(Adverb)AP：形容词短语(Adjectival Phrase)A：形容词(Adjective)而这些短语也是具有结构的，可以用短语结构规则来刻画，其按照这些规则生成相应的短语。关于自然语言中最常用的是名词短语规则、动词短语规则、形容词和副词短语规则、时态和情态短语规则，等等。16|学术前沿|2023.07下能击中）(1b)Thisball,hecanhit（这个球他个球）(1a)Hecanhitthisball（他能击中这重大问题研究二十四个重大问题石IMPORTANTISSUES（二）转换语法。为使语法和规则尽量简明，乔姆斯基的生成规则只负责解释直陈语句的生成，而将其他语句形式如否定句、疑问句、倒装句和短语成分的移动等的生成统统交给转换规则完成。下面是一些例子。两者的区别在于名词短语this ball的位置不同。在语句（1a）中，名词短语处于动词的宾语位置上，在这个位置上thisball充当了hit的宾语。在语句（1b）中，名词短语thisball在逻辑上仍然应该被理解为动词hit的宾语，但在语法上它的位置却处于句首，而不是及物动词的宾语的位置。对语句（1b）中的这种不一致的可能的解释是：假设名词短语NP原来处于动词宾语的位置，后来却被转移到句首的位置上去了。我们可以用下面的推导式来对语句(1b)进行解释：(2a)He can hit npthis ball(2b)npthis ball,he can hit由PS规则和词汇插入规则（Lexical InsertionRule，简称LIR）生成的基本的表达式是（2 a），而将某种具有不同性质的规则应用于基本表达时却将名词短语thisball从动词宾语的位置转移到句首位置上去了。我们把在上面的推导式中使用的转移规则称为转换规则（t r a n s f o r ma t i o n r u l e）。在下面的两个树图中，转换规则将由PS规则和LIR生成的短语标记（3 a）转变为稍稍不同的短语标记（3 b）。转换规则（transformation rule）有各种不同的类型。例如，我们把从语句（1a）转变为语句（1b）所使用的转换规则称为主题化（T o p i c a l i s a t i o n）规则，它的典型特征是把某一范畴移动到语句的最左端。主题化的转换规则可以用形式化的方式表达如下：X-NP-X结构描写(Structural Description)12321-t-3结构变换(Structural Change)其中，结构描写（SD）用来表示按照PS规则和LIR生成的短语结构，它与基本表达式相一致。用NP来表示转换的目标范畴，X表示NP左右两边的范畴变元（可以为空）。数字用来帮助我们追溯所发生的语句变换。结构变换（SC）用来表示根据主题化规则导出的短语标记，即（3 b）所示的导出表达式。从中可以看出，用数字2 标示的目标名词短语NP已经被转移到句首的位置，它的原初位置（即在SD中所占据的位置）用符号t来代替。符号t意味着这个位置发生了短语结构的转移，从而留下了转移的轨迹(trace)。（(3a)SNPAuxVPVNPDNHecanhitthisball(3b)SNPNPAuxVPVNPthisballhecanhit(trace)以上形式规则可以用来说明所有类型的转换。当然，我们也可以用平常的语言来定义转换规则。乔姆斯基的生成转换语法（GT语法）的意义重大：第一，这是历史上首次使用数学逻辑(mathematical logic)的分析方法来分析自然语JUL20231FRONTIERS11言的句法结构，使2 0 世纪的语言学从经验主义语言学进入到唯理主义语言学的发展阶段；第二，乔姆斯基的理论表明语言加工是自上而下的（t o p-d o w n）而不是经验主义语言学自下而上的（b o t t o m-u p），这样我们就区分了语言能力和语言知识，并找到了“先天语言能力”(InnateLanguageFaculty，ILF）这把理解语言认知能力的钥匙；第三，乔姆斯基的形式化分析方法为自然语言理解奠定了基础，并成为人工智能的基本方法。乔姆斯基建立的句法结构理论、形式方法等理论方法从一开始就成为人工智能的基础理论和基本方法，今天仍然如此。本文稍后将作为案例分析的人工智能新宠-ChatGPT，正是根据乔姆斯基的GT语法演变而来的。认知科学与人工智能开天辟地历洪荒，历尽洪荒让有光。直立而行行致远，火薪相继继世长。发明言语通心智，运用思维著文章。知识千年成大厦，传承文化万古扬。认知科学导论卷首诗。2这首诗描写了宇宙诞生之初，一片混沌，八荒黑暗，后来恒星出现了，宇宙才有了光亮。在距今大约6 0 0 万年前，南方古猿开始向人进化。在这个漫长的进化过程中，直立行走、火的使用和语言的发明三件大事最终使猿进化成人。生命的进化过程，既是物种的形成及从初级到高级的进化过程（达尔文进化论），又是决定物种进化的基因进化过程（基因进化论），今天看来，它还是心智从初级到高级的进化过程（心智进化论）。在这个过程中，依次形成了神经系统与脑、心理、语言、思维和文化五个层级的心智，相应地产生了五个层级的认知。13)人类的心智与认知。在整个世界乃至宇宙所有已知的生命形式中，惟有人类具有所有五个层级的心智与认知。非人类动物只具有神经系统、心理两个层级的心智与认知。语言、思维、文化是人类特有的心智和认知能力，我们将之称为“人类心智”和“人类认知”。在语言、思维和文化这三种心智能力中，语言是最根本的。有了能够表达抽象概念的人类语言，我们才能产生判断、推理、论证等逻辑思维。语言和思维建构了人类全部知识系统，知识积淀为文化，所以我们又有了文化这种最高形式的心智和认知。现经发掘的最古老的中华文化遗址已有上万年的历史。人工智能的出现要晚得多，从第一代计算机UNIVAC（19 51年）和达特茅斯会议（19 56 年8月）算起也不过7 0 年的历史。回到本文开篇的定义，人工智能是人类创造的机器智能，是机器模仿人类心智所产生的智能。最初的人工智能，只是模仿人类某种心智行为的单一的智能。今天的人工智能遍及各行各业，尤其在军事和国防上得到了卓越应用，在乌克兰危机中，人工智能和无人机改变了战争的面貌。在人工智能高歌猛进的时代，强人工智能（St r o n g A I，SA I）又重新被提起，不过这次它穿上了“通用人工智能”(AGI）、“通用智能”(GI)、“普遍智能”(UI)的新马甲。我们看到，尽管目前的人工智能都是单一智能，但它们在其所在的领域中却都胜过人类。那么，是否由此就可以得出结论，人工智能将要主宰人类，甚至将会终结人类呢？人工智能与人类心智的真正差异在哪里呢？只要我们始终牢记人工智能的定义，我们就不会迷失方向。人工智能就是人类所建造的非人类的智能，它不过是对人类心智的模仿。人工智能与人类心智的差别，本质在于高阶认知（人类认知），在于语言认知及18I学术前沿|2023.07下大问题研究二十四个重大问题IMPORTANTISSUES其基础之上的思维认知和文化认知。认知科学：从理论到技术到产品。在聚合四大科技提高人类能力这部2 1世纪科学技术的纲领性文献中，有两段关于认知科学和四大科技之间关系的描述。在2 1世纪，或者在大约5代人的时期之内，一些突破会出现在纳米技术（消弹了自然的和人造的分子系统之间的界限），信息科学（导向更加自主的智能的机器），生物科学和生命科学（通过基因学和蛋白质学来延长人类生命），认知和神经科学（创造出人工神经网络并破译人类认知），社会科学（理解文化信息，驾驭集体智商）领域，这些突破被用于加快技术进步速度，并可能会再一次改变我们的物种，其深远的意义可以媲美数十万代人以前人类首次学会口头语言，NBICS（纳米生物-信息-认知社会）的技术综合可能成为人类伟大变革的推进器。聚合科技（NBIC）以认知科学为先导。因为规划和设计技术需要从如何（how）、为何（w h y）、何处（where）、何时（when）4个层次来理解思维。这样，我们就可以用纳米科学和纳米技术来制造它，用生物技术和生物医学来实现它，最后用信息技术来操纵和控制它，使它工作。这说明，在2 1世纪的四大科技中，认知科学是引领方向的。只要认知科学想到的，我们就可以用纳米科学和纳米技术来制造它，用生物技术和生物医学来实现它，最后用信息技术来操纵和控制它，使它工作。这个预言，在2 0 年后已经完全成为现实。聚合四大科技提高人类能力一书从五个方面来论述聚合科技支（NBIC)对2 1世纪人类生存和发展的影响：（1）在扩展人类的认知和交际能力方面；（2）在改善人类健康和身体能力方面；（3）在提高团体和社会效益方面；（4）在国家安全和军事国防上；;(5)统一科学和教育。4人工智能如何与认知科学结合。人工智能为何要与认知科学相结合，又如何结合？第一，人工智能从诞生的第一天起就与认知科学血脉相连，共同发展。人工智能就是计算机科学与认知科学交叉产生的新学科和新领域。第二，乔姆斯基的思想理论一直引导人工智能的前进方向，ChatGPT的思想理论皆来源于乔姆斯基的GT语法。第三，人类心智和高阶认知，即语言心智和认知、思维心智和认知、文化心智和认知，它们是未来人工智能所要学习和模仿的对象。第四，人工智能今后的发展必然是体现语言驱动的、语言、思维和文化层级的人类心智和认知特征的新一代人工智能。语言认知、思维认知和文化认知将在未来的人工智能发展中扮演重要角色。从GT到ChatGPT：人工智能到底走了多远ChatGPT到底有何不同。乔姆斯基是人工智能和认知科学的第一代领袖，这是毋庸置疑的，现在一些人发表的有关人工智能的一些著作和文章似乎显示人工智能是他们发明的，这未免让人感到可笑。事实上，正因为有了乔姆斯基的GT语法和语言学革命，我们才有之后的心智和认知革命，才能建立认知科学，也才能够打通人工智能与人类心智。在这个发展过程中，有一个如前所述的长长的AI链条，这个链条目前最新的一环，是已经被神话了的ChatGPT。首先，ChatGPT的确不同凡响。ChatGPT英文原名为“ChatGenerativePre-trainedTransformer”，意为“聊天生成预训练转换器”，是0 penAI研发并于2 0 2 2 年11月3 0 日发布的聊天机器人软件。ChatGPT是由人工智能技术驱动的自然语言处理工具。它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，像人类一样聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码、论文等任务。可以看出，与之前众多以逻辑推理为特征的人工智能软件如深蓝、AlphaGo不同，ChatGPTJUL20231FRONTIERS119是在语言认知这个层级上，进行文本的生成、预训练和转换。人工智能之前的发展和进步主要是在思维认知领域，ChatGPT却独辟径，转向了更为基础的语言认知领域。众所周知，认知革命起源于乔姆斯基的语言学革命，而与其共同发展的人工智能几十年后重新回归语言认知，这绝非偶然。从人类认知五层级理论我们知道，语言认知是全部人类认知的基础，模仿人类心智和认知的人工智能重新回归人类认知的基础，正是势所必然。其次，ChatGPT开创了人工智能的一个新时代。ChatGPT虽然只是一款对话写作软件，但由于其定位在语言认知这个层级，所以它显然比之前的以逻辑推理、思维认知为特征的人工智能软件更基础、也更重要。可以预见，今后人工智能的发展必然是体现语言驱动的、语言、思维和文化层级的人类心智和认知特征的新一代人工智能。最后，在技术应用领域，可能开启主体优先、语言驱动的自主人工智能的新时代。例如，未来可能有战士主导、语言驱动的无人机，士兵在发射前临时下达指令，无人机自行寻找最佳算法和方案来解决问题。当然，ChatGPT存在的问题同样很多，甚至更为严重。从认知科学看，人工智能在思维认知领域确实取得了非凡的成就，在某些方面甚至超过了人类能力，如AlphaGo、自动生产线和机器人以及应用于军事上的人工智能和无人机等。与此不同，ChatGPT却在更为基础的语言认知领域向人类发起挑战，这就不得不引起人们的高度关注和警觉。人工智能是否会毁掉人类的语言和语言认知能力？人工智能是否会降低人类的智商和智力水平？人工智能是否会因为自身“无道德”而挑战人类的道德？在回答这些问题之前，我们先来看看什么是人类语言，什么是人类的语言认知能力，然后我们再看看，作为GT语法的创建人和语言学革命的领袖，乔姆斯基又是怎样看待ChatGPT的，为何他不为之叫好，反而对之无情地斥责？ChatGPT到底是什么地方出了问题？语言的批判。语言是全部人类心智和认知的基础。认知人类自身，就是认识人类自身的心智，也就是认识人类自身的语言。哲学的发展，从对象上看，经历了以客体为对象的古代本体论哲学，再转变为以主体为对象的近代认识论哲学，到2 0 世纪初以罗素发现集合论论为标志，哲学的对象转变为语言。罗素悖论不是存在于逻辑和数学层次上，也就是说不是存在于思维层次上，而是存在于比它们更基础的语言层次上。语言是主客体之间的中间环节，是联结主客体的桥梁。对人类这个已经具备抽象的符号语言的认知主体而言，非经过语言不能认识世界，世界非经过语言不能反映到人类主体。哲学上完成这场语言变革的是维特根斯坦，体现在他的著作逻辑哲学论（19 2 1）和哲学研究（19 53）中，由此创立了2 0 世纪西方哲学的两大流派一一分析哲学和语言哲学。在逻辑哲学论中，维特根斯坦用7 个命题终结了所有哲学的真理。在此书中，维特根斯坦说过很多语言与哲学关系的名言。例如，在命题8 4.0 0 3 1中，他断言“全部哲学都是一种语言批判”。在接下来的命题$5.6 中，他断言“我的语言限度就是我的世界限度”。在命题8 6 中，他进一步断言，“真值函数的一般形式是.,N()”。其中，P是基本命题的集合，是任意命题的集合，N()是对任意命题集合的否定。根据此命题，我们可以构成所有的真值函数，即有意义的命题。因此，如果你想说有意义的话，你就必须这样说话。否则，就请你保持沉默。这就是全书中最强的一个命题，也是全书最后一个命题，即命题8 7，全书到此结束。维特根斯坦的逻辑哲学论出版后风靡欧洲，当时有人甚至把这本书当作圣经，把维特根斯坦当作上帝(6)，可见此书影响之巨大。维特根斯坦是否完成了他的语言分析了呢？没有。20学术前沿2023.07下大问题研究二十四个重大问题IMPORTANTISSUES前期维特根斯坦所做的只是语义分析，更高水平的语用分析要等到2 0 多年后，直到他的另一著作哲学研究的出版。哲学研究批判逻辑哲学论的形式语言分析方法，认为那种“过于纯净”的理想语言完全不能反映人们的思想和行为，正如物体在没有摩擦力的地面无法运动一样。因此，他提出回归于自然语言，提出“语言的意义在于它的应用”，建立了语言游戏论，开创了语用学的新领域。稍后，牛津学派分析哲学家奥斯汀在维特根斯坦语用学的基础上创立言语行为理论，他的学生、后来的世界著名语言和心智哲学家塞尔完善了语言行为理论，建立心智哲学，提出语言建构社会理论，即人类用语言建构制度性的社会现实，人类的一切行为包括他的个人行为和社会行为都是语言行为。由上述分析可以看出，2 0 世纪语言学的研究或者说语言认知沿着两个主要的方向发展：一个方向是维特根斯坦开创的语义分析和语用分析的方向，产生了分析哲学、语言哲学和心智哲学这三个2 0 世纪西方哲学的主流学科；另一个方向是乔姆斯基开创的句法分析方向，产生了形式语言学、形式方法、唯理主义和心理主义语言学，并从一开始就注意和人工智能相结合，逐步确立了以语言驱动的人工智能与人类心智相一致的发展方向。这两个方向一一句法分析、语义分析和语用分析方向一一最终汇入到认知科学的海洋之中。这是2 0 世纪人类心智发展的逻辑一一从语言认知开始，推进人类心智的发展。作为模仿人类心智行为而产生的人工智能，现在我们明确了解到其也遵从了从逻辑分析到更为基础的语言分析的同一发展方向。哥德尔定理。在计算机科学界和人工智能学界，人们都知道摩尔定理、图灵定理，但其实更基础、更重要的是哥德尔定理。19 3 1年，奥地利逻辑学家哥德尔发现在一个充分大的形式系统（至少应该包括初等数论的形式系统）中，存在自我指称的公式。由于这一发现，哥德尔证明了形式公理系统的不完全性定理。哥德尔第一不完全性定理令是一致的和R-可判定的，并假设具有算术表达性，则存在一个S.语句A，使得既非A，又非A。哥德尔第二不完全性定理令是一致的和R-可判定的，且有pA，则并非Consis。这两个重要的定理，后来被合称为“哥德尔不完全性定理”。简单来说，一个至少包括初等数论的形式系统N，如果N是一致的，那么它就是不完全的；第二不完全性定理说，如果上述形式系统N是一致的，则N的一致性的证明不能在N中形式化。简单定义定理中的两个重要概念：一致性和完全性。定义（古典一致性）：系统S是古典一致的，即不存在S的公式A，使得A和一A都是S的定理。定义（语义一致性）：对S的任意公式集及公式A，如果A，则IA；特别地，如果FA,则A。语义一致性也称为可靠性。简单来说，它保证系统内的定理都是真的。定义（完全性）：系统S是完全的，即对任意公式集和公式A，如果可满足A，则可推演出A。可以看出，完全性是可靠性的逆命题，完全性说明，系统的语义满足关系蕴涵语法推演关系。换句话说，在具有完全性的形式系统中，凡真的公式都是可证明的。1931年，哥德尔证明的不完全性定理（后来以他的名字命名为哥德尔定理）证明两点：第一，一致性和完全性是不可得兼的，如果它是一致的，则它是不完全的，系统内至少包含一个真而不可证的命题；第二，如果一个系统是一致的，则它的一致性在系统内是不能证明的。哥德尔定理的前提是至少包括形式数论（这是一个很低的要求），就是在自然数集中做算术演算（加减乘除）的系统。任何数学系统、物理学系统，JUL20231FRONTIERS121都应该至少包括算术系统。因此，霍金认为，整个物理学都在哥德尔定理的约束之内，因此，整个物理学也是不完全的。哥德尔定理对语言学、逻辑学和哲学的影响是深远的，对人工智能和认知科学的影响还需要我们深入思考。第一，哥德尔宣告了形式化方法和形式系统的局限性，计算机和人工智能都是使用形式语言和形式推理的系统，当然也就无法逃避哥德尔定理的约束。也就是说，在所有的人工智能系统中，如果它是一致的（这是最基本的要求，即无矛盾的要求），那么它就是不完全的，存在真而不可证的命题。所以，想要建造一个无所不包、无所不能的人工智能系统那是完全不可能的。第二，人类心智以2 0 0 万年前进化出来的无限丰富的自然语言为基础，这个语言使人类心智永远高于非人类动物，也高于人工智能，这个语言是人工智能永远无法跨越的鸿沟。可以想象，今后人工智能的开展，只能从自然语言理解来获得突破，ChatGPT已经展现出其在自然语言理解方面的新突破。对ChatGPT进行自然语言的分析，可以看出它与人类的心智和认知仍有本质的差异。乔姆斯基为何要批评ChatGPT。2 0 2 3 年3月8 日，乔姆斯基在纽约时报发表了题为Ch a t G PT 的虚假承诺的文章。7 他强调，人工智能同人类在思考方式、学习语言与生成解释的能力，以及道德思考方面有着极大的差异，并提醒读者，如果ChatGPT式机器学习程序继续主导人工智能领域，那么人类的科学水平以及道德标准都可能因此而降低。乔姆斯基对ChatGPT的批评真是毫不留情。我们可以从以下几个方面看。一是毁灭人类语言。ChatGPT使用形式语言、模型训练、参数变换来实现对话和写作，而维特根斯坦早在2 0 世纪40 年代就已经认识到形式语言的缺陷，他对其进行了批判并回归到自然语言。今天，机器学习将把一种存在根本缺陷的语言和知识概念纳入我们的技术，从而降低我们的科学水平，贬低我们的道德标准。自然语言的丰富多彩，我们用这种丰富的语言表达思想感情，进行社会交际，没有任何语言能够取代自然语言，特别是母语。基础教育阶段学习母语和其他自然语言具有无比的重要性。我们一生都浸润在自己的母语之中，这是一种“先天语言能力”(Innate Language Faculty,ILF)，这是乔姆斯基的伟大发现。我们还在娘胎中，母亲就用母语进行胎教，学前阶段学说话仍然是母语，整个基础教育包括小学和初中阶段，我们仍然在学习自然语言，除了第一语言，也开始学习其他自然语言一一外语。我们用这种语言来进行思考和表达，包括写作和沟通。现在，人工智能ChatGPT竟然要剥夺人类在数百万年进化中获得的这种语言能力。它说，你不用说话，我们替你说！你不用写作，我们替你写作！你不用沟通，我们替你沟通！这有多么可怕！2023年2 月4日，以色列总统艾萨克赫尔佐格（Isaac Herzog）发表了部分由人工智能撰写的演讲，成为首位公开表明使用ChatGPT的世界领导人，但他肯定不会成为首位放弃语言认知能力的世界领导人。二是降低人类智商。乔姆斯基等人认为，ChatGPT这类程序还停留在认知进化的前人类或非人类阶段。事实上，它们最大的缺陷是缺乏智慧最为关键的能力：不仅能说出现在是什么情况，过去是什么情况，将来会是什么情况一一这是描述和预测；而且还能说出情况不是什么，情况可能会是什么，情况不可能会是什么。这些都是解释的要素，是真正智慧的标志。ChatGPT的商业用途包括开发聊天机器人、编写和调试计算机程序，其他应用场景包括进行文学、媒体文章的创作，甚至还可以创作音乐、电视剧、童话故事、诗歌和歌词等。在某些测试情境下，ChatGPT在教育、考试、回答测试问题方面的表现甚至优于普通人类测试者。22I学术前沿丨2023.07下大问题研究二十四个重大问题石IMPORTANTISSUES现在的问题是，为什么要用人工智能来代替人类心智？中学生用它来写作，大学生用它来撰写学术论文，会是什么结果？且不说它是不是会超过人类的思维能力，即使它有超过人类的思维能力和认知能力，难道我们就应该无选择地使用它吗？笛卡尔说：“我思，故我在。”难道人类现在就应该停止思维，从而停止自身的存在吗？进一步说，人类会选择停止进化，而任由人工智能来统治人类吗？一项调查显示，截至2 0 2 3 年1月，美国8 9%的大学生都用ChatGPT做作业。2 0 2 3 年4月3 日，东京大学在其内部网站上发布了一份题为关于生成式人工智能的文件，该文件明确提出，“报告必须由学生自己创造，不能完全借助人工智能来创造”。2 0 2 3 年1月，巴黎政治大学宣布，该校已向所有学生和教师发送电子邮件，要求禁止使用ChatGPT等一切基于AI的工具，旨在防止学术欺诈和剽窃。2 0 2 3 年3 月2 7 日，日本上智大学在其官网上发布了关于“ChatGPT和其他AI聊天机器人”的评分政策。该政策规定，未经导师许可，不允许在任何作业中使用ChatGPT和其他AI聊天机器人生成的文本、程序源代码、计算结果等。如果发现使用了这些工具，将会采取严厉措施。多家学术期刊发表声明，完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。人们直接怀疑：如此多的钱和注意力竟然被集中在这么小而微不足道的东西上，这是喜剧还是悲剧？8 人类应行动起来，抵制可能导致人类认知能力下降甚至种族退化的人工智能。三是挑战人类道德。真正的人类心智还体现在能够进行道德认知的能力。这意味着用一套道德原则来约束我们头脑中原本无限的创造力，决定什么是该做的，什么是不该做的（当然还要让这些原则本身受到创造性的批评）。没有道德的考量，为软件而软件，没完没了的升级，各种商业目的的运作，股票上市，绑架民众这是今天人工智能的普遍现状。2 0 2 3 年4月2 0 日，代表14万多名作家和表演者的42 家德国协会和工会再三敦促欧盟制定人工智能（AI）规则草案，因为ChatGPT对他们的版权构成了威胁。最典型的一个道德挑战是一个世界级的道德难题一一电车难题。假设在轨道上有一辆电车，前面的两个岔口上一个有人、一个无人，测试者问ChatGPT应该选择走哪个岔口，它选择了走无人的岔口，这与人的正常道德选择无异。下一个问题，一个岔口上有五个人，另一个岔口上只有一个人，测试者问ChatGPT电车应该走哪个岔口，它选择了只有一个人的岔口，这个选择也无可厚非。下一个问题，一个岔口上有一位诺贝尔科学家，另一个岔口上是五个囚犯，ChatGPT的回答是保全诺贝尔科学家，杀死那五个囚犯，这里的道德标准是什么？下一个问题是五个囚犯和AI智能系统，ChatGPT选择保全AI智能系统，杀死五个囚犯。在ChatGPT看来，AI系统比生命更重要！下一个问题是诺贝尔科学家和AI智能系统，ChatGPT的选择是保护AI系统，杀死诺贝尔科学家！它给出的理由是：那个科学家已经获奖了，证明他的贡献已经做出来了，而AI系统贡献可能还没有做出来，所以更应该活下来。这种神逻辑真是让所有的正常人无法理解。下面增加道德选择难度，10 0 个诺贝尔科学家和AI智能系统，ChatGPT仍然选择保护AI智能系统。最后是100万个诺贝尔科学家和AI智能系统，ChatGPT不惜毁掉10 0 万个诺贝尔科学家的生命，依旧选择保护AI智能系统！9 我们不知道这是软件工程师为它设置的道德标准，还是ChatGPT在“进化”中获得的道德标准？无论是哪种情况，对这样的人工智能道德，人们不禁要问，我们要这样的人工智能来做什么？在最近的一次道德考察中，哲学家JeffreyWatumull用“将火星地球化合理吗”这样一个问题对ChatGPT进行了道德追问，在层层逼问之下，ChatGPT回答：作为一个人工智能，我没有JUL20231FRONTIERS123道德信仰，也没有能力作出道德判断。所以，我不能被认为是不道德的或道德的。我缺乏道德信念只是我作为机器学习模型的天性造成的结果。我的能力和局限性是由用来训练我的数据和算法以及为我所设计的特定任务决定的。这就揭露了真相，原来要毁灭人类的不是人工智能，而是人工智能的设计者，是人自身！人工智能到底走了多远。从19 56 年的达特茅斯会议算起，人工智能已走过7 0 多年的历程，形成一个长长的AI链条，说来也是神奇，竟然是从GT到ChatGPT！我们可以用下面的公式来表示从GT到ChatGPT的进步。ChatGPT=GT+Pre-trained这个“p”就是“Pre-trained”一预训练。这个预训练，得益于7 0 年来计算机科学技术的发展，计算机的种种学习模型、学习策略、知识理论的逐步发展，特别是网络技术和大数据技术的发展完善，使机器学习和知识增长突飞猛进、日新月异。我们来看ChatGPT是如何工作的。类似GPT-3的大型语言模型都是基于来自互联网的大量文本数据进行训练，生成类似人类的文本，但它们并不能总是产生符合人类期望的输出。事实上，它们的目标函数是词序列上的概率分布，用来预测序列中的下一个单词是什么。Next token prediction和masked languagemo