人工智能与教育：政策制定者指南.pdf

人工智能与教育政策制定者指南概 述人工智能与教育：前景与启示人工智能（ArtificialIntelligence，AI）有望解决当今教育面临的部分重大挑战，革新教学实践，最终加快迈向可持续发展目标4的进程。然而，这些技术的快速发展不可避免地带来了种种风险和挑战，目前相应政策讨论与监管框架变革的速度已赶不上其发展速度。本出版物为政策制定者提供指南，指导政策制定者充分利用人工智能与教育深度融合带来的机遇以及应对随之而来的风险。本出版物开篇讲述人工智能的相关必备知识：定义、底层技术和技术应用。然后，详细分析人工智能新兴趋势及其对教学的影响，包括我们如何确保人工智能技术在教育中的应用合乎伦理、包容和公平，教育如何能够帮助人类与人工智能共处与合作，以及如何发掘人工智能潜力促进教育发展。最后，本出版物论述了利用人工智能实现可持续发展目标4所面临的挑战，并且为政策制定者因地制宜规划政策和项目提供切实可行的建议。Short Summary人工智能教育 应用市场规模预计 2024年将达到60亿美元“战争起源于人之思想，故务需于人之思想中 筑起保卫和平之屏障。”序 人工智能与教育政策制定者指南序人工智能（Artificial Intelligence，AI）技术的迅速发展对教育产生着重大影响。人工智能赋能解决方案的进步蕴含着巨大潜力，有望促进社会公益事业和实现可持续发展目标。要使这些成为现实，离不开全系统的政策调整以及对健全的伦理监督的呼吁，也离不开全球从业人员和研究人员的深度参与。政策制定者和教育工作者已然走进未知领域，面临有关未来学习如何与人工智能相互作用的基本问题。人工智能技术在教育中的部署和应用必须遵循包容和公平的原则，这是底线。为此，相关政策必须促进公平和普惠地获取人工智能技术，倡导将人工智能技术作为一种共有物品（publicgood）的非排他性应用，并注重赋能女童、妇女和社会经济弱势群体。新型人工智能技术在教育中的应用日益增长。如若人工智能技术在设计上有意增进以人为本的教学法并尊重伦理规范及标准，那么这一趋势对整个人类有益无害。人工智能技术应以促进每个学生学习、赋能教师队伍和强化学习管理系统为导向。除此之外，帮助受教育者和全体公民在生活和工作中安全有效地利用人工智能是全球范围内面临的一大共同挑战。未来的学习和培训系统必须让所有人具备核心人工智能素养，包括了解人工智能技术如何收集和操纵数据，以及确保个人数据安全和保护的技能。最终，人工智能在本质上是跨行业部门的。有效的人工智能与教育政策规划离不开与各学科领域及部门的利益相关方进行磋商协作。在促进与关键公私部门参与者就这些领域开展对话、掌握相关知识方面，教科文组织一直发挥着牵头作用。各种活动和出版物已使各方进一步认识到人工智能给教育带来的大量机遇和深刻影响，帮助教科文组织成员国着手应对各种复杂挑战。2019年，联合国的教育领域信息通信技术旗舰项目“移动学习周”探讨了 人工智能与可持续发展之间的关系。同年，教科文组织与中国政府在北京携手主办“国际人工智能与教育大会”，主题是“规划人工智能时代的教育：引领与跨越”。大会探讨了人工智能对教育的全系统影响，同时通过并发布成果文件 北京共识。这是有史以来第一份就如何充分利用人工智能技术实现“可持续发展目标42030年教育”提出建议的文件。北京共识 明确建议，教科文组织应该提供相关指引和资源，以支持教育政策制定者的能力建设，并将人工智能技能纳入信息通信技术能力框架。更广泛地讲，该文件呼吁教科文组织纵观全局，与相关伙伴一起加强在人工智能与教育领域的国际合作。人工智能与教育政策制定者指南 是在 北京共识 实施框架下编制的，旨在培养教育领域具备人工智能素养的政策制定者。本出版物会充实教科文组织日益扩展的教育领域智力成果库，并旨在服务政策制定和教育领域的实践人员与专业人士。本出版物旨在形成对于人工智能给教育带来的机遇的共同认知，及其对人工智能时代必备素养的启示的理解。本出版物通过呈现一份效益风险评估，以此来激发各方发挥批判性思维思考如何借助人工智能技术应对实现可持续发展目标4过程中面临的挑战，以及如何发现和化解潜在风险。本出版物汇集了相关的新兴国家政策，以及如何借助人工智能强化教学质量的实践典范。本出版物也可作为制定人工智能与教育政策的指导手册，从规划人本的和战略性目标，到制定关键建设政策组成部分和实施策略，皆有助益。因此，我希望本出版物中提出的关键政策问题、分析的经验教训以及分享以人为本的政策方针能够帮助各国政府和合作伙伴有效部署人工智能技术，促进教育和培训体系转型，使之服务于社会共同利益，打造一个包容的、可持续的未来。Stefania Giannini联合国教科文组织教育助理总干事人工智能与教育政策制定者指南 致谢致谢本出版物是人工智能与教育界专家共同努力的成果。本出版物的篇章框架构思源自以下两人：联合国教科文组织教育信息化与教育人工智能部门主管苗逢春和前英国国家科技艺术基金会（NESTA）首席教育研究员WayneHolmes。他们也是本出版物的主要作者。另两位作者是任职于中国北京师范大学的黄荣怀和张慧。负责协调本出版物审核与编制的团队成员包括教育信息化与教育人工智能部门范胡华、SamuelGrimonprez、王舒童、VeronicaCucuiat以及GlenHertelendy。为本出版物提供意见和同行评审的教科文组织专家包括：政策与终身学习体系部门主任Borhene Chakroun、未来学习与创新部门主任SobhiTawil、未来学习与创新小组计划专家KeithHolmes、哈拉雷办事处计划专家JuliaHeiss、教育信息技术研究所高级国家教育项目干事Natalia Amelina、政策与终身学习体系处高级计划负责人ValtencirM.Mendes以及性别平等处计划专家ElspethMcOmish。为本出版物提供宝贵意见的外部专家包括：东南亚教育部长组织秘书处主任EthelAgnesPascua-Valenzuela、中国南方科技大学教授赵建华、南非约翰内斯堡大学研究助理ShafikaIsaacs、智利国会图书馆公民教育计划负责人WernerWestermann以及英国开放大学教育科技名誉教授MikeSharples。另外，需要感谢的还有JennyWebster和Anna Mortreuxr，他们分别为本出版物提供文本编辑校对以及版面设计。联合国教科文组织在此感谢中国伟东集团提供的资金支持。这些资金支持也为联合国教科文组织成员国借助信息技术技术和人工智能实现可持续发展目标4提供了支持。3目录 人工智能与教育政策制定者指南人工智能与教育：政策制定者指南目录序 1致谢 2缩略语表 41.引言 52.政策制定者关于人工智能的必备知识 62.1 人工智能的跨学科本质62.2 人工智能底层技术简介82.3 人工智能技术简介92.4 人工智能潜在发展趋势：“弱”人工智能与“强”人工智能102.5 对人工智能潜能和局限性的批判性审视112.6 人机协同智能112.7 第四次工业革命和人工智能对就业的影响123.理解人工智能与教育：新兴实践与效益风险评估 133.1 如何借助人工智能强化教育质量？13利用人工智能支持教育管理和教育供给14利用人工智能支持学习和测评15人工智能为教师赋能并提高教学水平183.2 如何挖掘人工智能的创新应用实现教育共同目标？193.3 如何确保人工智能在教育中应用的伦理规范、包容性和公平性？203.4 人类如何通过教育实现与人工智能共处及合作？234.利用人工智能实现可持续发展目标4所面临的挑战 254.1 数据伦理和算法偏见254.2 性别平等的人工智能以及借助人工智能促进性别平等254.3 监测、评估和研究人工智能在教育领域的应用264.4 人工智能将对教师角色产生哪些影响？274.5 人工智能将对学习者能动性产生哪些影响？275.政策应对综述 285.1 政策应对方式285.2 共同政策关注领域305.3 筹资、伙伴关系和国际合作306.政策建议 316.1 全系统愿景和战略优先事项316.2 人工智能与教育政策的指导原则326.3 跨学科规划和跨部门治理326.4 确保公平、包容和合乎伦理地应用人工智能的政策和法规336.5 在教育管理、教学、学习和评估中使用人工智能的总体规划346.6 试验、监测和评估，建立实证库366.7 促进本土化教育人工智能技术创新377.参考资料 38注 45人工智能与教育政策制定者指南 缩略语表4缩略语表AIArtificialIntelligence人工智能AI TAAITeachingAssistant人工智能助教ANNArtificialNeuralNetwork人工神经网络ARAugmentedReality增强现实AWEAutomatedWritingEvaluation作文自动评阅CNNConvolutionalNeuralNetwork卷积神经网络DBTSDialogue-BasedTutoringSystem基于对话的导学系统DigCompEuropeanDigitalCompetenceFramework欧洲公民数字能力框架DNNDeepNeuralNetworks深度神经网络EEGElectroencephalography脑电图ELEExploratoryLearningEnvironment探索性学习环境EMISEducationManagementInformationSystem教育管理信息系统GANGenerativeAdversarialNetwork生成式对抗网络GDPRGeneralDataProtectionRegulation通用数据保护条例GOFAIGood-Old-FashionedAI有效的老式人工智能ICTInformationandCommunicationTechnology信息通信技术ILOInternationalLabourOrganization国际劳工组织ITSIntelligentTutoringSystems智能导学系统IoTInternetofThings物联网LMSLearningManagementSystem学习管理系统LNOLearningNetworkOrchestrator学习网络协调器LSTMLongShort-TermMemory长时短期记忆MLMachineLearning机器学习NLPNaturalLanguageProcessing自然语言处理OEROpenEducationalResources开放教育资源RNNRecurrentNeuralNetwork循环神经网络SDGSustainableDevelopmentGoal可持续发展目标STEMScience,Technology,Engineering,andMathematics科学、技术、工程和数学TVETTechnicalandVocationalEducationandTraining职业技术教育与培训UNESCOUnitedNationsEducational,Scientific,andCulturalOrganization联合国教育、科学及文化组织VRVirtualReality虚拟现实引言 人工智能与教育政策制定者指南51.引言在过去短短五年间，由于某些突出成就和颠覆性潜力，人工智能已走出学术研究的象牙塔，成为公众讨论的前沿焦点，自然也受到了联合国专家的关注。在许多国家，人工智能在日常生活之中已经普及从智能手机的个人助理到客服聊天机器人，从娱乐信息推荐到犯罪行为预测，从人脸识别到医疗诊断，人工智能应用无处不在。然而，尽管人工智能有可能帮助各方实现联合国可持续发展目标（SDGs），但是日新月异的技术不可避免地带来了种种风险和挑战，目前相应的政策讨论与监管框架的变革速度已远远落后于其发展速度。而且，尽管人们对其主要的顾虑还停留在人工智能是否会强大到碾压人类主体，但是涉及人工智能的社会和伦理影响则引发人们更加迫在眉睫的担忧例如，滥用个人数据以及人工智能其实可能无法缓解，反而加剧现有的不平等现象。尽管如此，人工智能已经进入教育领域。“智能”、“自适应”和“个性化”学习系统日益增多。私营企业纷纷开发这些系统，以供全球广大中小学和高校使用。人工智能教育应用市场应运而生，预计2024年将达到60亿美元的市场规模（Bhutani和Wadhwani，2018）。人工智能技术在教育领域的应用不可避免地带来了深层次问题比如，教学内容与方式、教师的角色演变以及人工智能的社会和伦理影响。同时，其应用带来了许多挑战，包括教育公平和机会均等。各方也逐渐达成一个共识：人工智能技术在教育领域的部署应用或将重塑教学的根基。新冠肺炎疫情期间，学校封闭带来的在线教学巨大转变使得上述问题变得更加复杂。因此，联合国教科文组织的这一指导意见力求帮助政策制定者更好地了解人工智能给教学带来的可能性与影响，以期人工智能在教育领域的应用能够真正有助于实现可持续发展目标4：“确保包容和公平的优质教育，让全民终身享有学习机会”。我们也必须认识到，人工智能与教育之间的联系难免会产生参差不齐的结果，具体因各国社会经济环境而异。通常情况下，我们对人工智能技术的担忧在于，如果我们继续盲目前进，那么可以预料，未来不平等现象、经济崩坏和社会动荡皆会加剧，甚至在某些情况下政局不稳也会加剧，其中在技术上处于劣势和被忽视的群体处境最糟。（Smith和Neupane，2018，第12页）在人工智能与教育领域，这种担忧只多不少。如果想将人工智能用于帮助实现可持续发展目标4，还需要提供廉价的人工智能技术开发模式，确保低收入和中等收入国家的利益也被纳入关键讨论与决策之中，并且在这些国家与人工智能技术相对先进的国家之间搭建桥梁。本出版物首先简要介绍了 人工智能的定义及运作机制，为深入论述人工智能与教育之间的相互作用奠定基础。随后，本出版物介绍了当前人工智能在教育领域的多种应用，以及人工智能如何促进教育包容性和公平性、提高学习质量以及完善教育管理和教学法。这部分内容还探讨了教育如何帮助公民发展人工智能时代生活和工作所需的技能。接下来，本出版物详细介绍了主要战略目标利用人工智能给教育带来的益处、化解相关风险，同时探讨了实现这些目标面临的挑战。最后，本出版物提出一系列建议作为结语，旨在为人工智能与教育政策的全面愿景和行动方案提供参考。人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识62.政策制定者关于人工智能的必备知识2.1 人工智能的跨学科本质“人工智能（artificial intelligence）”一词最早出现在1956年美国常春藤盟校达特茅斯学院举办的一场研讨会上，用来描述“用于打造智能机器、尤其是智能计算机程序的科学和工程技术”（McCarthy等人，2006，第2页）1。此后数十年里，人工智能的发展断断续续，时而飞速进步，时而经历寒冬（Russell和Norvig，2016）。一直以来，人工智能的各种定义不断增多、延伸，而且往往牵涉到哲学问题，比如：什么构成“智能”？机器是否真的能够获得“智力”？在此仅举一例，钟义信对人工智能的定义如下：现代科技的一门分支学科，旨在探索人类智能奥秘，同时最大限度将人类智能移植到机器上，使机器能够像人类一样智能地执行功能。（Zhong，2006，第90页）如若务实地绕开这个长期争论，在本出版物中，可将人工智能定义为是一种被设计出来以人类能力与世界进行互动的计算机系统（Luckin等人，2016）。而教科文组织世界科学知识与技术伦理委员会（COMEST）给出更多细节，将人工智能描述为涉及能够模仿人类智能某些功能的机器，具体功能包括感知、学习、推理、解决问题、语言互动、甚至创造性工作等。（COMEST，2019）目前，我们正在经历一场人工智能复兴，越来越多的行业部门开始应用机器学习技术。这种人工智能技术涉及人工智能系统分析海量数据。这是两大关键发展趋势共同作用的结果：一是数据呈指数级增长（据IBM计算，由于互联网和相关技术普及，每天创建的数据量超过2.5万亿个字节2），二是计算机处理能力呈指数级增长（由于摩尔定律，如今的手机与40年前的超级计算机一样强大）。大数据和强大的计算机均是机器学习技术取得成功的必要条件，因为这种技术的算法依赖于对数百万个数据点的处理，而后者又离不开庞大的计算机处理能力。3有意思的是，最常登上新闻头条的机器学习算法（“深度学习”和“神经网络”）本身已经存在40多年了。表1：“人工智能即服务（AI-AS-A-SERVICE）”示例科技公司“人工智能即服务”平台公司官方描述阿里巴巴阿里云(Alibaba Cloud)提供各种基于云的人工智能工具，满足企业、网站或应用的需求：https:/亚马逊 AWS提供计算机视觉、语言、推荐和预测所需的预训练人工智能服务。能够大规模快速构建、训练和部署机器学习模型，或者构建为全部流行开源框架支持的定制模型：https:/ 飞桨(EasyDL)支持客户构建无需编写代码的优质定制人工智能模型：https:/ TensorFlow端到端的机器学习开源平台，提供涵盖工具、资料库和社群资源的生态系统，使研究人员能够共享最先进的机器学习技术，使开发者能够轻易构建和部署机器学习赋能的应用程序：https:/www.tensorflow.orgIBM Watson让用户能够对任何主机平台上的数据使用人工智能工具和应用程序：https:/ Azure提供100多项构建、部署和管理应用程序的服务：https:/腾讯 众创空间(WeStart)汇集各种人工智能能力、专业人才和行业资源，支持初创企业开设或改进。连通行业伙伴，传播人工智能技术，使之广泛应用于多个行业部门：https:/ 人工智能与教育政策制定者指南既然如此，为什么人工智能技术的瞩目成就及其颠覆性潜力近些年来才显露出来？这是因为对人工智能算法巧妙地改进，同时人们也更加容易获得“人工智能即服务”，而不是出于任何根本性的新范式。换言之，可以说目前我们身处“实施期（大规模实际应用时期）”：人工智能研究的很多艰深且抽象的工作已经完成“实施期（大规模实际应用时期）”意味着，我们将最终看到这些成果在现实世界中的应用。（Lee，2018，第13页）如今，人工智能技术在现实世界的应用越来越普遍且具有颠覆性。众所周知的例子包括自动语言翻译、自动人脸识别（用于识别旅客和追踪罪犯），以及我们日常生活中的应用，比如无人驾驶汽车、智能手机和其他设备上的个人助理程序等。医疗行业是一个特别值得关注的领域。最近一个具有变革性的例子就是应用人工智能技术研发能够杀死多种抗药性细菌的新药（Trafton，2020）。第二个例子是应用人工智能技术来分析医学影像包括可以及早显示异常畸形的胎儿脑部扫描4、帮助诊断糖尿病的视网膜扫描5以及可以提高肿瘤检测水平的X光6。这些例子均说明了人工智能与人共生协作带来的重大潜在效益。当我们把基于人工智能的成像技术与放射科医生结合起来后，我们发现，二者结合的表现优于人工智能或放射科医生单独的表现。（Michael Brady，牛津大学肿瘤学教授，引自 麻省理工技术评论和GE医疗 上发表的文章，2019）最近的这篇评论进一步表明，人工智能技术其实可以使医疗“更人性化”：随着人工智能和自动化流程发展，往往各种担忧随之而来，比如医疗服务提供过程中会丧失人情味。然而，业界发现，事实正好相反：人工智能可以为超负荷工作的医疗专业人士拓展资源和能力，极大地完善医疗服务流程。（麻省理工技术评论和GE医疗，2019）其他日益常见的人工智能应用领域包括：自动新闻人工智能代理程序不断监测全球新闻媒体，为记者提取关键资讯，同时也自动撰写一些简单的新闻报道；人工智能法律服务例如，提供自动取证工具，研究判例法和成文法，以及开展法律尽职调查；人工智能天气预报挖掘和自动分析大量历史气象数据，在此基础上预测天气；人工智能诈骗侦测自动监测信用卡使用情况，从中发现规律和异常情况（即潜在欺诈性交易）；人工智能驱动的商业流程例如，自主生产制造、市场分析、股票交易和投资组合管理；智慧城市采用人工智能技术和互联的物联网（IoT）来提高城市中人们的生活与工作效率和可持续性；人工智能机器人采用机器视觉、强化学习等人工智能技术作为辅助与世界进行互动的物理机器。上述例子对社会具有显著的积极影响力，不过，我们不应忽的是人工智能在其他领域的应用会比较有争议。以下为两个例子：自主作战无需人为干预即可运作的武器、无人机和其他军事装备；深伪（deep-fakes）自动生成假新闻，替换视频中的人物面孔，让人误以为政客和名人说了或做了什么，但其实当事人从未说过或做过。此外，在评估一些人工智能技术公司和媒体的许多夸大言论时，我们也应当谨慎。首先，尽管新闻头条宣称，如今的人工智能工具在执行某些任务时表现“优于”人类，比如阅读文本和识别图像中的物体等，但现实是，这些成功只在有限的情形下是成立的例如，当文本篇幅不大且包含足够的必要信息、从而无需人为推断的时候。目前的人工智能技术也有可能极不稳定。例如，若是数据经过细微篡改，或者图像上叠加了 一些随机噪点，那么人工智能工具的表现就会一塌糊涂（Marcus和Davis，2019）。78人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识2.2 人工智能底层技术简介人工智能的每种应用都依赖一系列复杂的底层实现技术。这就要求人工智能工程师受过高阶数学、统计和其他数据科学以及编程等方面的训练。因为这些技术太过专业，无法在此深入探讨。8 于是，我们先来简要地介绍一些核心人工智能底层技术，然后介绍一些典型人工智能技术应用。传统人工智能比较早期的或“传统人工智能”（又称“符号人工智能”、“基于规则的人工智能”或“有效的老式人工智能”，即“GOFAI”）涉及编写如“若则（IF.THEN.）”语句序列以及其他条件逻辑规则等计算机完成指令需要采取的步骤。过去几十年里，随着医疗诊断、信用评级和生产制造等领域的广泛应用，此类基于规则的人工智能“专家系统”发展起来。这种“专家系统”是建立在一种名为“知识工程”的方法上。“知识工程”涉及解析和模拟某一具体领域的专家知识这是一项资源密集型任务，但并非没有复杂的运算。典型的专家系统包含数百条规则，但是通常其逻辑尚算有迹可循。然而，随着各种规则之间的相互作用成倍增加，一旦想要修改或改进，那么对于专家系统来说是颇具挑战性的。机器学习从自然语言处理到人脸识别、无人驾驶汽车许多新近的人工智能技术进步都离不开基于机器学习的计算方法。机器学习不去运用规则，而是分析大量数据，从中发现规律，在此基础上构建模型，用来预测未来数值。在这个意义上，与其说算法是预先设定好的，不如说算法是在“学习”。机器学习方法主要有三种：有监督学习、无监督学习和强化学习。有监督学习涉及已有标记的数据，比如经人为标记的成千上万张人物照片。有监督学习将数据与标记关联起来，构建一个可用于类似数据的模型比如，自动识别新照片中的人物。在无监督学习中，人工智能工具使用更海量的数据，不过这些数据没有经过归类或标记。无监督学习目的在于发现数据中的隐藏规律，即可用于对新数据进行分类的类簇（cluster）。例如，无监督学习方法可以寻找成千上万个例子中包含的规律，从中自动识别手写字母和数字。不论在有监督还是无监督学习中，数据生成的模型都是固定的，而一旦数据有变，只好再次进行分析。然而，第三种机器学习方法强化学习涉及根据反馈不断完善模型也即是说这个意义上的机器学习是指学习在持续进行中。在一些原始数据基础上，人工智能工具可以生成一个模型，然后被评为“正确”或“错误”，得到相应的奖励或处罚。人工智能工具利用这个强化机制来更新模型，然后再次尝试，进而在一段时间内迭代发展（学习和演进）。例如，如果一辆无人驾驶汽车规避一次碰撞，那么作为幕后功臣的模型会得到奖励（强化），加强自身未来规避类似碰撞的能力。如今，机器学习非常普遍，导致它有时被视为人工智能的同义词，但其实它只是人工智能的一个子集。事实上，仍有许多人工智能应用并不采用机器学习方法，或者说，至少这些应用背后几乎总有某种有效的老式人工智能（基于规则的或符号人工智能）的身影。举个例子，许多常见的聊天机器人应用程序是预先设定好的，编入了 人为定义的规则，预设好如何回复预期问题。其实，与比较早期的专家系统一样，几乎每种大家如今见到的人工智能产品都需要人类专家直接输入内容。这个内容可能是来自语言学家和语音学家（在人工智能采用自然语言处理的情况下）、医师（在人工智能应用于医学领域的情况下）或道路交通与驾驶专家（在人工智能助力无人驾驶汽车的情况下）的专业知识，依此类推。若无有效的老式人工智能要素协助，机器学习无法创建完整的人工智能。（Sauberlich和Nikolic，2018）此外，应该认识到的重要一点是，机器学习即不是真的像人类学习一样，也不是独立地学习。相反，机器学习完全依赖于人：是人在选取、清理和标记数据；是人在设计和训练人工智能算法；也是人在管理、解读和评判输出结果。例如，有报道称，某种突破性的识物工具能够识别图片数据库中猫的图像，但事实上，这个系统仅可将看起来有一图1：人工智能、机器学习、神经网络与深度学习之间的关系深度学习神经网络机器学习人工智能9政策制定者关于人工智能的必备知识 人工智能与教育政策制定者指南定相似度的对象归为一类，而且需要人来识别这组对象是猫。同理，无人驾驶车辆上采用的机器学习方法完全依赖于人为标记好的千百万张街景图片。在很大程度上，硅谷将这项标记工作外包给了全球各地的人（采用亚马逊数据众标平台Turk9）和印度、肯尼亚、菲律宾以及乌克兰等国的企业。10 这些“新经济”工人的工作是手动跟踪和标记原型无人驾驶车辆捕捉到的视频中每帧画面里的对象（比如车辆、路标、行人等）即机器学习算法下一步会分析的数据。人工神经网络人工神经网络（ANN）是一种灵感源自生物神经网络（即动物大脑）结构的人工智能技术。人工神经网络包含三类相互连通的人工神经元层：一个输入层、一个或多个隐藏的中间计算层以及一个产生结果的输出层。在机器学习过程中，赋予神经元连接的权重会在强化学习和“反向传播”环节中有所调整，方便人工神经网络计算新数据的输出值。一个人工神经网络应用的著名例子是谷歌的阿尔法围棋机器人（AlphaGo）。2016年，AlphaGo打败世界围棋冠军李世石。隐藏的中间计算神经元层是人工神经网络能力大小的关键所在，但也会带来一个重大约束因素。人们通常没有办法质询深度神经网络，从而无法判定它是如何求解的。如此，决策背后的理由是不可知的。许多企业正在研究如何揭开和检视这些决策背后的机制（Burt，2019），使用户能够明白为什么一个给定算法会得出特定的决策。了解这种背后决策机制十分重要，尤其当人工神经网络和其他机器学习方法被用于会对人类产生重大影响的决策时，比如计算某人留在监狱中的时长。然而，这依然会使问题复杂化“生成人工智能决策相关的更多信息或许会创造切实效益，但也会带来新的风险”（Burt，2019）。深度学习深度学习指包含多个中间层的人工神经网络方法。正是由于深度学习方法，近年来许多令人瞩目的人工智能应用才成为可能（比如，自然语言处理、语音识别、计算机视觉、影像创作、药物研发、基因组学等领域）。深度学习的新兴模型包括：所谓的“深度神经网络”（DNN）找到有效的数学运算法则，将一项输入变成所需的输出；“循环神经网络”（RNN）使数据可以流向任意方向，能够处理输入序列，可应用于语言建模等领域；以及“卷积神经网络”（CNN）用于处理来自多数组的数据，比如使用三张二维图片形成三维计算机视觉。最后，值得一提的是，许多近年来的人工智能技术进步（特别是围绕图像处理的方法）都是通过“生成式对抗网络”（GAN）实现的。在生成式对抗网络中，两个深度神经网络彼此竞争“生成式网络”创建可能的输出，而“判别式网络”负责评价这些输出。由此产生的结果用于下一次迭代。例如，DeepMind公司的阿尔法元（AlphaZero）采用生成式对抗网络方法来学习如何玩赢若干棋盘游戏（Dong等人，2017）。另外，一种接受过照片训练的生成式对抗网络已经生成看似真人但并不存在的人物图像。11 这种方法的其他应用目前尚在研究中。2.3 人工智能技术简介上述所有底层技术共同催生了 一系列人工智能技术应用。这些科技越来越多地以“人工智能即服务”的形式呈现出来（参见表1），也正广泛运用于上述大多数应用领域。具体人工智能技术（详见表2）列举如下：自然语言处理（NLP）使用人工智能自动解读文本，包括进行语义分析（如在法律服务和翻译领域的应用）和生成文本（如在自动新闻领域的应用）。语音识别将自然语言处理技术应用到口语上，包括智能手机语音功能、人工智能个人助理和银行服务中的对话机器人等。图像识别和处理将人工智能用于人脸识别（如电子护照）、手写识别（如自动邮政分拣）、图像处理（如深伪技术）以及无人驾驶车辆等。自主代理将人工智能应用于计算机游戏角色、恶意软件机器人、虚拟伴侣、智能机器人和自主战争等。情绪检测将人工智能用于分析文本、行为和面孔中的情绪。用于预测的数据挖掘将人工智能应用于医疗诊断、天气预报、业务预测、智慧城市、财务预测和诈骗侦测等领域。人工创作将人工智能应用于可以创作新照片、新音乐、新艺术作品或新故事的系统。10人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识2.4 人工智能潜在发展趋势：“弱”人工智能与“强”人工智能虽然人工智能科学家一开始是想要打造类人的通用人工智能（AGI），称为“强人工智能”，但第2.1节中的每种应用其实都是专用人工智能（ANI），也称“弱人工智能”（Searle，1980）。每种专用人工智能应用涉及的领域均受到严格的约束和限制，而且无法直接应用于其他领域。例如，用于天气预报的人工智能无法预测股市波动，而用于驾驶汽车的人工智能无法诊断肿瘤。尽管这些应用程序不是人类意义上的“智能”，但是在效率和耐力上的表现往往胜人一筹，而且能够识别海量数据中存在的显著规律。这些应用固然有一些引人瞩目的成就，但重要的是我们应该认识到，人工智能技术仍然处于起步阶段。例如，与我们的智能手机个人助理或其他智能家居设备进行真正的对话是不可能的事情，人工智能只会回应具体的命令，而且回答经常是错误的。也即是说，虽然人工智能在某些功能（如找出数据中的规律）方面的表现超越人类专家，但在其他方面（如进行深度对话），人工智能的表现甚至不如两岁孩童。19 此外，全球范围内种种迹象表明，与夸张预测相反，对人工智能技术的投资或许正在“降温”虽然不至于迎来又一次人工智能凛冬，但是其许诺的潜力总是显得远在天边，可望而不可及（Lucas，2018）。甚至有人表示，人工智能技术进步将趋于平缓（Marcus和Davis，2019）。譬如，无人驾驶车辆安全穿梭于巴勒莫或德里街道的场景仍然是几十年以后才会发生的事情，而图像识别应用程序仍然易受愚弄（Mitchell，2019）。表2：人工智能技术人工智能技术 详情主要底层技术发展情况示例自然语言处理（NLP）人工智能自动生成文本（如在自动新闻中）和解释文本，包括进行语义分析（如在法律服务和翻译中）。机器学习（特别是深度学习）、回归分析和K均值算法。自然语言处理、语音识别和图像识别均已达到90%以上的精确度。但是，有研究人员认为，即使有更多数据和更快的处理器，在新的人工智能范式发展起来之前，这项技术也不会有多大改进。Otter12 语音识别将自然语言处理技术应用到口语上，包括智能手机语音功能、人工智能个人助理和银行服务中的对话机器人等。机器学习，特别是一种名为“长期短时记忆”（LSTM）的深度学习循环神经网络方法。阿里云13 图像识别和 处理包括人脸识别（如电子护照）、手写识别（如自动邮政分拣）、图像处理（如深伪技术）以及无人驾驶车辆等。机器学习，特别是深度学习卷积神经网络。Google Lens14 自主代理具体应用包括计算机游戏角色、恶意软件机器人、虚拟伴侣、智能机器人和自主战争等。有效的老式人工智能和机器学习（比如，深度学习自组织神经网络、进化式学习和强化学习等）。研究工作聚焦于涌现智能、协作活动、情境性和具身化等受相对简单生物生命形式启发的特性。Woebot15 情绪检测包括文本、行为和面部情绪 分析。贝叶斯网络和机器学习，特别是深度学习。全球多种产品正在研发中，但这些技术的应用通常颇有争议。Affectiva16 用于预测的 数据挖掘包括财务预测、诈骗侦测、医疗诊断、天气预报、业务流程和智慧城市等。机器学习（特别是有监督学习和深度学习）、贝叶斯网络和支持向量机。数据挖掘应用程序正在呈指数级增长，从预测购买行为到解读含噪脑电图（EEG）信号，应用颇广。科研项目17 人工创作包括可以创作新照片、新音乐、新艺术作品或新故事的系统。生成式对抗网络（GAN）是一种涉及两个神经网络彼此对抗竞争的深度学习技术。自回归语言模型采用深度学习算法来生成“类人”的文本。生成式对抗网络是一项前沿人工智能技术，所以其未来应用发展缓慢，正在一点一点显露出来。一种名为GPT-3的自回归语言模型可以生成令人惊叹的“类人”文本。但是，在表象之下，这个系统并不理解它所输出的文本。18“此人不存在”网站11GPT-3（Brown等人，2020）11政策制定者关于人工智能的必备知识 人工智能与教育政策制定者指南2.5 对人工智能潜能和局限性的批判性审视从三类基本成就方面来审视人工智能或许会有助益：代表“真实、迅速的技术进步”的人工智能技术，主要专注于“感知能力”，包括基于扫描的医疗诊断、语音转文本以及深伪技术等（Narayanan，2019）；“日趋完善”的人工智能技术，主要围绕自动判断，包括垃圾邮件及仇恨言论检测和内容推荐（Narayanan，2019）；“在根本上备受质疑”的人工智能技术，主要集中在预测社会结果，包括刑事累犯和工作绩效（Narayanan，2019）；关键在于虽然深度神经网络已经训练有素，能够完成一些不可思议的任务，但是有很多事情是它们无法做到的（Marcus和Davis，2019）。尤其是它们没有做真正智能的事情。其实，这些技术只是从统计数据中归纳出规律。这些规律或许更加隐晦、更加间接并且比历史方法更加自动化，能够反映更加复杂的统计现象，但是仍然只是数学的化身，而不是有智力的实体，不论这些结果有多么令人惊叹。（Leetaru，2018）此外，多项研究已经表明，若是机器学习方法涉及成千上万个数据变量或功能，因而需要大量资源和能源来进行计算，那么与仅使用少数功能且能耗少得多的简单线性回归方法相比，这些复杂方法或许好不了多少（Narayanan，2019）。尽管如此，与以往技术革命相比，如今人工智能技术的突出之处在于它的发展速度和普遍性：速度快到几乎每天都会涌现出新技术和转型方式，并且几乎影响着现代生活的每个方面。在这里仅举一个令人瞩目的例子：研究人员已经开发出一个使用三个深度学习网络、表现胜过人类专家的乳腺癌预测人工智能系统（McKinney等人，2020）。无论如何，有证据表明，在许多情况下机器学习取得的成就被略微夸大了，而我们见到的快速进步或许即将达到上限。例如，纵然机器学习技术取得了 一些非凡成就，但认为机器学习如今能与人一样准确识别图片中物体的说法存在两个局限性：一是这些技术依赖系统访问千百万张已标记图片而一个小孩子只需几张图片即可达到同样的准确度；二是对准确度的解释太过宽松在某个最广为人知的机器视觉竞赛中，只要人工智能工具的五条建议中有一条是正确的，即判定为成功（Mitchell，2019）。再者，如前文所述，目前推动重大人工智能技术进步的全部底层技术（比如，深度神经网络和机器学习）皆是早在几十年前就已经发展起来。换言之，虽然我们继续见到现有技术和新兴应用发生迭代改进，但我们仍然在等待下一个重大突破。有专家认为，只有当“传统人工智能”或“有效的老式人工智能”的符号或基于规则的底层技术与数据驱动型方法结合起来时，才会发生这样的重大突破。其实，这种重大突破已经发生了，以无人驾驶车辆为例：有一些事情需要智能代理来做，毕竟