感知情境与人在回路的智能教育——《人工智能与教学的未来：见解与提议》要点与反思.pdf

感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思张缨斌1吴若乔1,2何雨轩1,3林楠1,4陈永池1,5胡小勇1,3（1.华南师范大学教育人工智能研究院，广东广州510631；2.华南师范大学教育科学学院，广东广州510631；3.华南师范大学教育信息技术学院，广东广州510631；4.华南师范大学马克思主义学院，广东广州510631；5.华南师范大学物理学院，广东广州510631）摘要以 ChatGPT 为代表的生成式人工智能席卷全球，引发热议。在此背景下，美国教育部教育科技办公室 2023 年 5 月发布人工智能与教学的未来：见解与提议报告，认为人工智能在改善自适应学习、教学流程、教师专业发展、形成性评估等方面有巨大潜能，倡导教学回路以人为中心，把研发重点放在解决情境感知、安全、可解释度、可信度等问题，提议教育人工智能的设计应遵循现代学习理论，呼吁教育领导者制定针对性指导方针和保障措施。本文基于该报告，提出我国教育研究与实践的启示：提高人工智能对教育情境的感知能力和对多样化学习的适应性，构建“人在回路”的教育人工智能生态，探索高阶能力培养体系。关键词人工智能；人在回路；情境感知；适应性；高阶能力中图分类号 G434文献标识码 A文章编号 10072179（2023）04001110一、引言以 ChatGPT 为代表的生成式人工智能（gene-rativeartificialintelligence，GAI）带来的新机遇与挑 战 已 成 为 全 球 热 议 话 题。英 国 教 育 部（UKDepartmentforEducation，2023）2023 年 3 月 发 布教育中的生成式人工智能，指导教育工作者合理使用 GAI。联合国教科文组织发布高等教育中的 ChatGPT 和人工智能：快速入门指南，帮助高等教育机构了解 ChatGPT 的工作原理及应用方法（Sabzalieva&Valentini，2023）。美国知名教育媒体教育周刊（EducationWeek）平均每周有3 篇报道讨论 GAI 教育应用。我国教育工作者举办了“ChatGPT与未来教育”沙龙，探讨 GAI 与未来教育的关系收稿日期2023-06-23修回日期2023-06-30DOI 编码10.13966/ki.kfjyyj.2023.04.002基金项目 国家社会科学基金一般项目“人工智能视域下的教师画像及应用研究”（BCA220206）。作者简介 张缨斌，助理研究员，华南师范大学教育人工智能研究院，研究方向：教育人工智能、学习分析、自我调节学习（）；吴 若 乔，华 南 师 范 大 学 教 育 科 学 学 院 本 科 生、教 育 人 工 智 能 研 究 院 微 专 业 本 科 生（）；何雨轩，华南师范大学教育信息技术学院本科生、教育人工智能研究院微专业本科生（）；林楠，华南师范大学马克思主义学院本科生、教育人工智能研究院微专业本科生（）；陈永池，华南师范大学物理学院本科生、教育人工智能研究院微专业本科生（）；胡小勇（通讯作者），教授，博士生导师，华南 师 范 大 学 教 育 人 工 智 能 研 究 院，研 究 方 向：教 育 人 工 智 能、教 育 信 息 化 理 论 与 政 策、信 息 化 教 学 教 研 创 新（）。引用信息 张缨斌,吴若乔,何雨轩,林楠,陈永池,胡小勇（2023）.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思J.开放教育研究,29（4）：11-20.第29卷第4期开放教育研究Vol.29,No.42023年8月OpenEducationResearchAug.202311及其影响。在 GAI 席卷全球的背景下，美国白宫科技政策办公室 2023 年 5 月 23 日更新美国人工智能战略规划核心文件国家人工智能研发战略规划。同日，教育部教育技术办公室发布研究报告人工智能与教学的未来：见解与提议（Artificialintelligence and the future of teaching and learning：Insightsandrecommendations，以下简称报告）。报告旨在促进教师、研究者、领导者、政策制定者、教育技术创新者等共同应对人工智能教育应用引发的政策问题。本文在分析报告核心内容的基础上，讨论其对我国教育发展的启示。二、核心内容人工智能的大规模教育应用，能够以较低成本解决一些紧迫的教育问题，但人工智能自动化教学决策带来意外后果的可能性在增加，人们对其风险的焦虑也在加剧，这些问题都需要教育政策作出响应。基于此，美国教育部 2022 年 68 月举行了四场咨询会，结合教育政策专家和人工智能政策专家的看法研制了报告。该报告共八章：前三章主要介绍报告的目的、人工智能的基本内涵以及教育人工智能（AIED）的四项基本原则；第四章至第七章主要讨论人工智能在教学、学习、评估和研究与发展四类教育活动应用中面临的机遇和挑战；最后一章提出了七条政策建议。（一）AI 基本内涵报告对人工智能的基本定义是“基于关联性的自动化”，指出人工智能赋能教育技术两项重要能力：模式识别与自动决策。同时，报告从类人推理、追求目标的算法和增强智能三个角度讨论了人工智能的含义（见表 1）。（二）四项基本原则AIED 应遵循四项基本原则：1）以人为中心，即保护师生及相关人员的主观能动性，允许他们解读人工智能识别模式的含义，并选择行动方案，借此确保教育过程不是技术驱动，而是基于人的专业判断、关怀和教育价值观开展的；2）推进教育公平。例 如，美 国 总 统 拜 登 发 布 行 政 命 令（TheWhiteHouse，2022），要求联邦政府推进教育公平以便每个学生都能成功，并消除人工智能设计和使用过程中的偏见；3）确保安全、伦理和有效性。考虑到人工智能非常依赖数据，我们需要重视数据隐私、安全和治理。教育领导者应基于有效证据决定是否采用 AIED 及其他教育技术；4）提高透明度，即人工智能设计者需告知和解释人工智能模型，帮助教育工作者理解人工智能在教育中的工作方式，更好地预测其局限、问题和风险。（三）学习1.人工智能与自适应学习适应性是科技改善学习的重要途径，而人工智能被认为可以增强科技对学生的适应性。在早期的智能导学系统（intelligenttutoringsystem，ITS）中，科学家精准构建了专家解决数学问题的模型。如果学生偏离专家模型，智能导学系统会及时提供包括关键解题步骤在内的反馈，帮助学生回到正轨。元分析研究显示，智能导学系统教学效果显著（Kulik&Fletcher，2016；Maetal.，2014）。因此，提表 1三种视角理解人工智能视角含义类人推理从“类人”推理的角度看，计算机系统能执行人类的任务（IEEE-USABoardofDirectors，2017），如视觉感知和语音识别。因此，“类人”的概念可以帮助我们简化对计算机技术教育应用能力的解释。但人工智能与人类的信息处理方式不同。当我们忽视这种差异时，从“类人”推理角度制定的政策可能无法满足实际教育需求。追求目标的算法只要一种计算方法能根据理论或数据的模式进行推断，并独立地朝着目标行动，它就可以被视为人工智能（Friedmanetal.，2021）。这个定义强调人工智能识别模式并选择行动实现特定目标这一特征，该特征能影响教育过程。例如，个性化学习系统可以识别学生写作业遇到的困难，并推荐替代的教学序列。然而，人工智能系统的成功取决于它发现的关联，但某些关联可能存在偏差或不当之处，进而导致人工智能系统生成虚假信息、歧视等问题。增强智能增强智能认为，人与人工智能的合作模式应以人为中心，人工智能为提高人的认知能力服务（Gartner，2023）。它以人类的智能和决策为核心，承认人工智能可帮助人类察觉模式和改善决策。增强智能关注如何支持人们开展教学活动，人工智能倾向于探索以计算机为中心的技术应用。张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）12高人工智能解题步骤的适应性和降低成本，有望实现大规模自适应学习。适应性有时又称“个性化”，但适应性的内涵远比个性化广泛（Plass&Pawar，2020）。教育技术产品实现个性化的两种常用手段是调整材料难度和顺序，但是教师知道帮助学生的途径远不限于此。优秀教师会结合学生生活经验进行知识讲解，也不像算法只提供学生表现出兴趣的学习资料。与人工智能相比，教师能更全面地把握“可教时刻”（teachablemoment）。报告希望 AIED 建立在对学习的全面理解上，并提出拓展人工智能适应人类学习的五个重要方向（见图 1）。当前的人工智能主要是帮助学生补短板,而教师可以根据学生优势制定学习计划。未来人工智能应突出学生优势,挖掘潜能。弥补短板个人认知属性神经典型学习者固定任务正确答案额外目标开放和创造性任务神经多样性学习者社会和其他属性突出优势学习不是个人主义,人工智能应赋能小组和社区学习。人工智能应容纳多种学习路径和交互模式。人工智能擅长解决封闭性或者逻辑性任务,但开放和创造性任务更加重要。人工智能应提高学生解决这类任务的能力。正确答案不是唯一的学习目标,人工智能应提高学生的自我调节能力、团队合作与领导力、自主性等,赋能全人教育。图 1人工智能对学生学习适应性的重要转向2.与人工智能一起学习和学习人工智能目前，理解 AIED 有两种视角：帮助学生学习的人工智能和帮助学生学习人工智能相关技术。我们需要引导学生审视人工智能在教育和社会中的位置，帮助他们明确人工智能在日常生活中的角色和价值以及了解并规避相关风险。为此，我们应向学生提供学习人工智能工作原理、保护隐私和安全等主题的机会。3.人工智能赋能学习的挑战与开放性问题人工智能本身无法修复我们所面对的、破碎且不平等的教育系统，因此我们需要谨慎使用人工智能，以防加剧教育系统的分裂。报告认为，当前 AIED 不完全符合我们的学习愿景，并列出了值得注意的问题。例如，人工智能在多大程度上能挖掘学生潜能而不仅是补短板？人工智能能否为残疾人和英语学习者提供更好的支持？青少年如何选择和使用人工智能工具进行学习？使用人工智能的过程中，学生隐私和数据能否得到充分保护？（四）教学1.利用人工智能优化教学流程和促进教师专业发展报告引用麦肯锡公司关于人工智能对 K-12教师影响的报告（Jakeetal.，2020），强调人工智能给教师带来三种机遇：1）处理低层次的杂务，减轻教学负担，让教师有更多精力和时间关注学生；2）根据教师意图随时随地辅导和协助管理学生。例如，人工智能可在课外辅导学生，教师可以选择人工智能提供支持、提示和反馈；3）促进教师专业发展。例如，课堂智能分析及时呈现课堂教学的亮点与不足，协助教师开展教学反思、促进专业发展（Chenetal.，2015）。虚拟课堂可以让教师在几近真实的情境中练习教学技能（Ersozluetal.，2021），并通过变声器和换脸功能让教师在不暴露个人身份的情况下与同行分享交流。报告还强调人工智能协助教师备课方面的潜力，例如，推荐适合教师所授班级的教学资源、调整教学资源以满足有特殊需求的学生。报告强调 AIED 是为了辅助教师教学，而不是取代教师，倡导以教育者为中心，主张人本主义教学观，并列举了三条以教师为中心的重要回路：教学过程中每时每刻的决策回路；教师准备、计划、反思教学的回路，包括专业发展回路；教师参与人工智能技术的设计、选择和评估回路。2.人工智能赋能教师教学的三大冲突报告认为人工智能优化教师教学面临三大冲突（见图 2）。首先是教师决策和计算机决策的冲突。要发挥人在回路的作用，人工智能必须处于教师的监视下，在必要时提醒教师进行决策，并允许教师修改人工智能决策。同时也要注意，倘若教师决策过多，那么了解和配置人工智能将消耗教师大量时间。其次是自动化教学杂务与避免监视的冲突。人工智能教学应用可能让教师感觉隐私被侵犯，进而影响教师教学质量。例如，人工智能教张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）13学助手会捕捉教师言语内容和教学资源搜索历史。这些信息有助于向教师提供定制化教学协助，但也可能被用于监视教师。一旦教师感觉自己被监视，教学积极性将受打击。第三是挖掘学生优势与保护隐私的冲突。例如，在文化回应教学（Gay，2018）中，教师会基于学生的“资产”个人、社区和文化优势设计教学材料，挖掘学生优势并满足他们的需求。人工智能可以协助教师开展以上活动，但需要收集学生数据以充分了解学生，可是收集数据越多，隐私风险也越高。3.人工智能赋能教学的开放性问题报告列举了值得关注的人工智能赋能教学问题。例如，人工智能能否提高教师日常工作质量？能否减轻教师负担，让教师更专注于有效教学？人工智能减轻教师一种教学负担的同时，是否有新的工作被转移和分配给教师，从而抵消人工智能的益处？教师能否监督学生使用人工智能系统？教师是在合理地控制人工智能系统，还是不适当地将决策权交给这些系统？（五）形成性评估“形成性评估”指将评估活动的信息反馈给师生，促进师生调整教和学过程。由于反馈对改进教和学有重要作用，形成性评估是教育技术的主要应用之一。报告认为，形成性评估的发展离不开人工智能技术的进步。美国国家教育技术计划（NETP2017）（USDepartmentofEducation，2017）认为，技术可从七个维度增强形成性评估：丰富问题类型、测量复杂能力、提供实时反馈、增加可访问内容、适应学习者的知识和能力、在学习过程中嵌入评估、评估持续学习。人工智能在七个维度上都可发挥作用。例如，利用人工智能将形成性评估嵌入学习过程，能及时提供反馈，支持学生学习，也有助于减少教师评估工作量，使教师将精力用于更重要的教学判断。1.形成性评估通过反馈回路影响教与学过程形成性评估可用于提供实时教学反馈，在实践中调动师生情绪，影响教与学过程。改善形成性评估，有利于节省教师在评估任务上的时间、向学生提供详细建议、支持教学改进等，从而减轻额外评估活动产生的不利影响。报告指出，人工智能赋能形成性评估的主要途径是增强反馈回路，并以作文自动评分系统为例加以阐释。作文自动评分系统具备及时、具体和低成本等特点，可为学习写作提供公平的支持，对学生作品提供建设性意见。当然，现阶段的作文自动评分系统还有很大局限，例如，无法像人类一样鉴赏文中蕴含的情绪，鉴别作者的原创水平和创造力等。2.人工智能在形成性评估中的机遇利用人工智能系统和模型支持形成性评估能带来三个关键机遇：1）关注评估的主要内容，特别是关注教育机构希望测量但难以测量的内容，例如科学探索、历史理解或文学讨论等，同时能提供真实可操作的反馈以促进学生全面发展。2）提高学生寻求帮助和教师提供帮助的能力。学生寻求并得到帮助是反馈回路起效的核心。人工智能可为学生提供有效的一对一辅导，并向教师反馈学生学习近况，以便更好地帮助学生。3）拓展师生在教学反馈回路设计中的参与度，提高评估结果对他们的价值。具体而言，所提供和接受反馈的方式应因地区和文化而异，通过让师生深度参与教学反馈设计，调整反馈形式使之符合所处社区的规范。3.人工智能赋能形成性评估的挑战与开放性问题偏差和公平是评估设计与实施的重要议题。在人工智能赋能评估中，如果基于不能代表学生的数据开发与优化人工智能算法，就可能出现算法歧视，导致评估结果出现偏差，甚至使反馈和干预变得不公平。报告建议充分利用心理测量的知识和工具减少偏差和促进公平。报告还列举了其他值得关注的问题。例如，形成性评估是否有助于教师控制定制化协助充分代表学生人工智能控制监视教师保护学生隐私图 2人工智能赋能教学的三大冲突（USDepartmentofEducation，2023）张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）14改善学生学习体验和教师课堂教学？人工智能支持的形成性评估和反馈回路是否以人为中心？对人工智能赋能的评估系统、反馈回路、评估数据的信任正在上升还是下降？（六）研究与发展美国国家教育技术计划（2010 年版）认为，建立个性化学习系统是教育研究与发展面临的重大挑战（USDepartmentofEducation，2010）。该系统应能精准调节学习难度和协助程度以实时优化学生学习体验，能在与学生互动中自我改进。这一挑战依然存在，对未来研究仍有指导意义。1.如何加强情境在人工智能系统中的作用报告建议扩大自适应学习的内涵，使之不再限于狭隘的认知属性，呼吁提高 AIED 情境感知能力。报告指出，人工智能的发展速度和其对教育情境的感知能力存在一定冲突，但正因如此，AIED 研发应尽早地把情境纳入其中，以免在错误的道路上越走越远。具体而言，未来研发应重点考虑表 2 中的四类情境。2.值得关注的研究问题与期望的国家研发目标报告列举了值得研究者探索的问题。例如，人工智能系统是否关心学习多样性的“长尾区域”，以适应更广泛的学习方式？用户如何理解数据共享可能产生的法律和伦理问题，以及如何降低隐私风险？情境感知技术的具体含义是什么以及如何衡量？咨询会希望美国在若干关键问题上取得进展。1）短期目标包括：澄清数据隐私和安全的术语内涵并达成共识；为学生、教师和教育部门制定有效的人工智能素养培养计划；定义参与式或协同设计的研究过程；提高 AIED 系统的公平性、透明度和安全性；让青年群体参与 AIED 系统的研究和设计。2）长期目标包括：资助研发机构挖掘情境的含义并解决情境感知问题，扩大民众参与并考虑学习者的多样性；优先支持教师发展；创建有利于大数据研发和发挥新兴人工智能功能作用的基础设施和新型合作方式。（七）提议报告基于学习、教学、评估、研发领域面临的机遇与挑战，提出了七项政策提议（见表 3），并呼吁教育领导者采取行动。三、认识与反思报告的部分内容是美国 NETP2017 关于一般技术与教育融合的观点在 AIED 的具体化。例如，报告关于技术增强评估的七个维度全部来自 NETP2017。NETP2017提出加强教师技术培训，推动技术与教学融合。这一主张在这次报告中体现为提高教师人工智能素养。NETP2017 和报告都提及通用学习设计理念对于满足学生特殊需求的重要性。当然，报告主要关注的还是人工智能带给教育的独特机遇和挑战。例如，人工智能被定义为“基于数据的关联性发现”，数据对AIED 的重要性不容置疑。因此，报告格外强调表 2未来研发需关注的四类情境情境含义关注学习者多样性解决情境感知的有效途径是关注学习者多样性的长尾区域。图 3 展示了学生优势和需求与对应教学方法满足学生人数的关系。区域 1 的教学资源标准化程度高，能满足大多数学生的需求。但该区域的人工智能适应性非常有限，例如，只能根据学生答案的正误提供阅读材料。区域 2 的教学方法在标准化和适应性之间取得更好的平衡，例如，通用学习设计（universaldesignforlearning）能支持学生采用多种方式学习。区域 3 也称长尾区域。教学方法重视学生神经多样性的特点，关注家庭、社区和文化经验赋予他们的多样化资本，以及学生兴趣、动机、环境等的差异。这些多样性是情境的重要维度，AIED 应基于学生在每个维度的独特性提供个性化学习内容。基于设计的研究的合作关系通过协作设计，让非研发人员参与 AIED 设计和开发的各个阶段，打造更符合师生需求的人工智能系统。报告列举了典型案例。例如，AIED 研究采用参与式协作设计可以激发青年的创新设计意愿、提高主人公意识、帮助学生了解数据被收集和使用的方式。重新思考教师专业发展当前教师对使用新兴技术的准备不足，教育技术研究和教师专业发展也处于割裂状态。改进这一局面，一方面要加强教师人工智能素养，让教师能以创新的方式发挥人工智能的优势；另一方面，要改变将技术视为专业发展附加元素的思想，构建新的教师专业发展体系，匹配技术在教育教学中日益增强的地位。与公共政策接轨关于道德、偏见和其他重要概念的讨论同时存在于公共政策和教育生态系统。因此，以人为本的 AIED 需要遵循一般性的人工智能监管政策。教育政策要借力人工智能伦理、安全和监管的公共政策。张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）15可解释、可信赖的人工智能、数据安全与隐私、伦理风险等。对于这些主题，国内学者已有诸多探讨。本文主要讨论报告区别于美国 NETP2017 的三个要点：情境敏感性与多样化学习、“人在回路”的 AIED 和高阶能力培养。（一）提高人工智能对教育情境的感知能力和对多样化学习的适应性报告“研究与发展”一章指出，应提高AIED 的情境感知能力。情境感知指重视学习的多样性，包括学习环境、文化背景、认知水平、认知风格、兴趣态度等，并让人工智能从多方面适应学生，在全面考虑学生特点的基础上提供个性化辅导。“学习”一章也认为，应从突出学生个人优势和容纳神经多样性等方面提高 AIED 的适应性。这些观点本质上是主张 AIED 应尊重学生的独特经验与个性。技术应从短板导向（deficit-oriented）转为优点导向（asset-oriented）的论述尤能体现这一观点。短板导向指现阶段的技术倾向于提升学生学习短板记忆。优点导向指教师会发掘并利用学生优点带动学习。其中，优点不仅包括学业方面的，还包括合作能力、沟通能力、创造性，以及学生性格及其所在社区与族群的独特文化（Gay，2018；Noble&McGrath，2015）。报告对学生文化背景多样性的强调源于文化回应性教学法。这种教学法主张文化多元与平等，倡导教学与学生文化背景相融合（Gay，2018）。虽然该教学法与美国教育多元文化冲突和种族平等有关，但对我国教育仍有启示。例如，我国学者已尝试应用文化回应性教学法改善乡村教师发展和提高少数民族地区教育质量（靳伟等，2020；裴淼等，2019）。如何利用人工智能赋能这类具有浓厚人文关怀教学方法的本土化应用，值得教育研究者和实践者深入探索。报告认为，对情境感知和学习多样性的重视与人工智能算法的开发有一定关系，尤其是机器学习模型的训练。训练机器学习模型本质是让模型拟合尽可能多的数据点，减少模型输出与标签之间的误差。由于典型学生一般占多数，机器学习模型每种方法满足的学生数学生优势和需求的多样性123图 3学习者多样性长尾分布（USDepartmentofEducation，2023）表 3七项政策提议提议内容1.强调“人在回路”以电动单车和扫地机器人作类比，希望技术更像电动自行车，人类能轻松地对其完全控制，而不是像扫地机器人，只是将人类从参与或监督中解放出来。“人在回路”反对人工智能系统取代教师，强调教师作为教学决策者的核心作用。报告呼吁家长、学生、领导者和政策制定者要参与 AIED 应用全过程，批判性地分析人工智能在教育各环节的作用，并明确应怎样维护人类判断在教育系统的首要地位。2.与共同的教育愿景相结合图 4 总结了与共同教育愿景一致的 AIED 应具有的特性。3.根据现代学习原则设计人工智能呼吁研发部门坚定拒绝技术决定论，应以现代学习原则和教育从业者的智慧为基础，创建具有文化回应性和可持续性的人工智能系统，挖掘学习者优势；倡导利用教育评估界的专业知识识别偏见和促进 AIED 公平。4.优先考虑增强信任教育技术和人工智能领域存在信任危机，民众对新兴技术缺乏信任。没有强大的信任基础，人工智能无法实现公共利益。报告期望相关协会和社团在加强民众信任方面发挥关键作用，在跨领域政策讨论中代表其成员的观点，将教育生态系统的所有部分纳入信任讨论。5.告知并让教育工作者参与其中建议让教师参与 AIED 的开发与管理，包括审核学校现有人工智能系统和数据使用，根据教师意见设计新的应用软件，对拟采用的新教学工具进行试点评估，与开发人员合作提高系统的可信度，并在实施时预设风险和意外后果；呼吁教师培养机构将技术系统地整合到培养课程中。6.将研发重点放在解决情境问题和增强信任、安全上呼吁研发部门发挥带头作用，优先考虑情境、信任和安全的挑战，考虑教育的特殊要求。例如，教师如何有意义地参与人工智能设计。警惕因人工智能系统信任不足或过度信任可能引发的问题，并建议将研究和资助重点放在提高人工智能对教育情境的感知能力和对多样化学习的适应性方面。7.制定针对教育的指导方针和保障措施鼓励教育系统各级人员利用与学生和数据隐私相关的法律，管理教育技术平台并各自开展工作。张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）16倾向于让输出结果更多地匹配这类学生，而对于非典型学生，如有阅读障碍的学生，模型准确性相对较低。这种差异可能导致 AIED 系统难以公平地提供反馈、学习干预和学习机会。因此，未来研发不仅要保证训练数据具有代表性，也要保证不同群体的数据量充足，才能最大程度地降低人工智能教育应用的歧视与不公平风险，避免扩大教育数字鸿沟（杨欣，2023）。提高人工智能对教育情境的感知能力和对多样化学习的适应性势在必行。为实现这一教育愿景，除了人工智能技术的进步，更需要发展 AIED方法与理论。例如，以 ChatGPT 为代表的生成式人工智能对教育带来了巨大冲击，引发教育工作者热烈讨论（邱燕楠等，2023；张绒，2023），但如何利用这类人工智能技术赋能教育、推动教育数字化转型，尚无经实证研究检验过的有效方法和理论框架（Dawsonetal.，2023）。报告还指出，如果要让AIED 适应每个学生的独特经验和个性，则需要将这些数据提供给人工智能系统，这将进一步增加数据安全和隐私问题。包容且感知情境的 AIED 需要从理论、方法、伦理、技术等方面全方位地展开深入研究和实践。（二）构建“人在回路”的 AIED 生态解决情境感知问题不仅依赖于人工智能技术的发展，更需要人对技术的合理使用，这也是报告强调“人在回路”观点的原因之一。该观点在报告中出现 37 次，既是 AIED 应遵循的基本原则，也是报告的一项政策提议。回路既包括AIED 应用回路（见图 5），即人工智能系统收集和分析教育数据，反馈结果并提供支持，帮助师生改进教与学过程；也包括 AIED 研发回路，即针对教育教学问题，与师生协同设计人工智能系统，收集师生使用反馈并迭代优化系统。人在回路的AIED 意味着师生及其他教育工作者可参与 AIED应用于研发回路的各环节，能够审查和干预 AIED系统的决策，确保研发充分考虑教学过程中的社会文化、人际互动、情感等因素，并通过监督和评估人工智能系统的使用情况，确保其适用于教学目标和学生需求。问题分析协同设计反馈决策应用回路数据采集教学改进使用反馈迭代优化研发回路处理分析图 5AIED 应用与研发回路“人在回路”对 AIED 研究有两点启示：一是注重基于设计的研究探索人工智能赋能教育的途径。师生加入 AIED 工具与系统的研发，可使人工智能系统在充分考虑师生文化背景与独特经验的基础上进行模式识别、反馈和决策。二是加强教育领域人机协同研究。这包括探索如何减少因人工智能系统不透明、难理解、人工智能决策与师生决策不一致等引起的人机冲突（乐惠骁等，2022），以及解决功能与风险之间的矛盾。可以说，人工智能获取的师生数据越多，越能适应各种教学情境和教学多样性，但带来的数据安全隐患也越大。人工智能对数据的强依赖性，意味着这一矛盾将长久存在。因此，在人机协同环境中，师生如何“优质使用和积极接纳”人工智能，以及人工智能如何被“优质开发和积极监管”（王佑镁等，2023），值得人在回路教育系统视角隐私与数据安全与民众的学习愿景一致可检查可解释可修改最小化偏见与促进公平情境感知与效果泛化透明、可追溯和负责地使用以师生为中心图 4与共同教育愿景一致的 AIED 应具有的特性（USDepartmentofEducation，2023）张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）17持续探究。对教育实践而言，实现“人在回路”需要提高师生数字素养并规范 AIED 系统的可解释性和可信任度。师生数字素养和智能教育素养是保证“人在回路”有效的关键。如果师生不了解 AIED 基本原理和哪些数据因何有泄漏风险，即使将人置于回路也无法保证人工智能不违反伦理规范或做出不公平的行为。对人工智能系统的不理解，也是引发教师与智能教学系统冲突的主要原因之一（UtterbergModnetal.，2021）。一味地让“人在回路”，反而可能加剧现有的人机冲突。另一方面，如果师生信任人工智能但缺乏基本素养，这种信任可能演变为过度信任甚至迷信。报告提到，在模拟火灾中，人们可能一味遵循机器人的指令，甚至在被告知机器人坏了、指令有明显错误的情况下依然如此（Wagneretal.，2018）。打破人工智能的“黑箱”属性，让普通师生对 AIED 系统有一定了解，除了提高师生智能教育素养，AIED 系统本身的架构、特征、数据来源与使用方式、决策结果等也需要有良好的可解释性，最好是 AIED 系统具有自我解释能力。此外，可信任的人工智能系统是师生处于回路时愿意与人工智能协同决策和控制教与学过程的基本保障，但可解释性只是可信任性的必要非充分条件。师生对AIED 系统决策结果的信任还取决于是否有足够的证据表明这个系统是公平且可靠的。因此，教育决策者应尽早研制相应的政策、法规、标准等，引领可解释、公平、安全、可靠的 AIED 系统研发。（三）变革育人理念，探索高阶能力培养体系报告指出，当前 AIED 局限于对学生认知能力的培养，所持有的学习理念过于狭隘，未来应促进学生情感、态度、自我调节能力、合作能力等的全面发展。这既是人工智能高速发展倒逼育人理念变革的必然结果，也是人工智能带给教育的机遇。一方面，人工智能可弥补人类知识生产的缺陷，极大提高知识生产速度，生成式人工智能已达到构建大规模人类优质知识库的水平（刘凯，2023）。因此，教育将不再以知识传承为主要目标（顾小清等，2022）。增强教育对高阶思维与情感技能的培养，推动学习范式转向“高意识生成式学习”，是生成式人工智能时代强化人独特智能的重要途径（Rahm&Rahm-Skgeby，2023；祝智庭等，2023）。另一方面，人工智能在培养学生高阶能力方面已初现潜力。例如，人工智能算法可用于测量、分析、预测和支持协作学习行为，促进学生合作能力发展（Schneideretal.，2021）；模糊逻辑与评估技术的结合可用于评价学生管理、沟通、社交、创新等能力（Novaisetal.，2023）。高阶能力培养已成为时代诉求。未来研究和实践可从理论框架、评价技术、环境创设、学科融合四方面探索与构建培养体系。虽然高阶能力相关研究已开展数十年，但其内涵与维度仍过于宽泛和不精确（Alexander，2023）。例如，高阶认知能力是否包含批判性思维？批判性思维与批判性分析思维的联系与区别是什么？社会情感能力的具体指标包括什么？研究者需要着力解决上述问题，携手构建一个公认的、定义清楚的、结构分明的高阶能力理论框架。基于该框架，高阶能力建模与评价技术发展方向才能明确，突破人工智能技术瓶颈才有着力点。创设高阶能力培养环境，需充分结合人工智能与其他新兴技术。例如，利用 VR 和 AR 搭建体验式学习环境，人工智能支撑该环境适应每个学生的特点。一个能感知情境的 AIED 可以培养学生的文化意识，但需要大量数据支撑。这些数据的收集依赖于物联网、可穿戴设备等技术。此外，高阶能力培养离不开多学科深度融合。一方面，构建理论框架需要理解高阶能力的心理与行为特点、神经基础、发展规律、培养方法、文化影响因素等。这依赖于心理学、神经科学、教育学、社会学等的研究，也要求不同学科的研究者统一术语，避免概念混乱。另一方面，高阶能力具有通用属性，对其培养势必以跨学科学习为主，需要不同学科教学领域的研究者和教师协同探索，从学科特点与优势出发，建立可操作和相互衔接的跨学科课程和教学模式，为培养具有高阶能力的复合型人才奠定基础。参考文献 1Alexander，P.A.（2023）.Herebedragons!Mappingtherealmofhigher-order，critical，andcritical-analyticthinkingJ.EducationalPsy-chologyReview，35：42.张缨斌，吴若乔，何雨轩，林楠，陈永池，胡小勇.感知情境与人在回路的智能教育人工智能与教学的未来：见解与提议要点与反思OER.2023，29（4）182Chen，G.，Clarke，S.N.，&Resnick，L.B.（2015）.Classroomdiscourse analyzer（CDA）：A discourse analytic tool for teachersJ.Technology，Instruction，Cognition，andLearning，10（2）：85-105.3Dawson，S.，Joksimovic，S.，Mills，C.，Gaevi，D.，&Siemens，G.（2023）.AdvancingtheoryintheageofartificialintelligenceJ.Brit-ish Journal of Educational Technology.https:/doi.org/10.1111/bjet.13343.4 Ersozlu，Z.，Ledger，S.，Ersozlu，A.，Mayne，F.，&Wildy，H.（2021）.Mixed-realitylearningenvironmentsinteachereducation：AnanalysisofTeachLivEresearchJ.SAGEOpen，11（3）：1-10.5Friedman，L.，Black，N.B.，Walker，E.，&Roschelle，J.（2021）.SafeAIineducationneedsyouEB/OL.AssociationofComputingMa-chineryblog.https:/cacm.acm.org/blogs/blog-cacm/256657-safe-ai-in-education-needs-you/fulltext#:text=Safe%20AI%20in%20Education%20Needs%20You%20By%20Leah,-%20such%20as%20bias%2C%20fairness%2C%20and%20data%20security.6 Gartner（2023）.Gartner glossary：Augmented intelligenceEB/OL.https:/ Gay，G.（2018）.Culturally responsive teaching：Theory，re-search，andpracticeM/OL.NewYork:TeachersCollegePress.2023-06-01.https:/ J.教育研究，43（9）：138-149.9House，T.W.（2022）.ReadoutofWhiteHouselisteningsessionon tech platform accountabilityEB/OL.https:/www.whitehouse.gov/briefing-room/statements-releases/2022/09/08/readout-of-white-house-listening-session-on-tech-platform-accountability.10IEEE-USABoardofDirectors（2017）.Artificialintelli