大语言模型在学科知识图谱自动化构建上的应用.pdf

第 卷第 期 年 月北京邮电大学学报(社会科学版)()收稿日期:项目基金:北京邮电大学 年教育教学改革项目()北京市高等教育本科生教学改革与创新项目作者简介:唐晓晟()男 河南开封 博士 副教授:./.大语言模型在学科知识图谱自动化构建上的应用唐晓晟 程琳雅 张春红 朱新宁(北京邮电大学 信息与通信工程学院 北京)摘 要:人工智能技术的飞速发展推动了教育领域的智能化 涌现出一些利用知识图谱技术进行学科知识体系构建的研究 利用知识图谱构建的知识体系 可以建模知识点之间的关联性 形成课程知识脉络 有助于学习者对知识点的记忆与深层次理解 然而 学科课程的教学资源多样且分散 现有的自动构建方法往往使用单一的数据资源 资源利用率低 难以对专业知识体系的构建提供有效指导 构建方法自动化程度较低 构建成本大 需要开发不同的模块对非结构化文本进行处理并生成图谱 可复现性和可移植性较差 因此 提出了一种基于大语言模型的学科知识图谱构建优化流程 高度融合大语言模型的优势和各学科知识的逻辑关联 具体以通信专业为例 借用 大语言模型的强大功能 使用多种知识来源 通过学科知识分析设计知识系统本体 自动化提取基于教学资源的知识实体和知识关系形成最终的学科知识体系 可方便地推广至其他学科领域关键词:大语言模型 知识图谱 智能化教育 自动化图谱构建中图分类号:文献标识码:文章编号:()随着人工智能技术的快速发展 大语言模型在多个领域展现出惊人的应用潜力 在教育领域中利用人工智能技术进行知识图谱()的自动化构建已成为研究的热点之一 以人工智能、大数据为代表的新一轮科技革命和产业变革 已成为推动经济社会发展的新动力 其中 知识图谱技术目前已在产业界得到广泛应用 知识图谱是结构化的语义知识库 用于描述世界中的概念及其相互关系 知识图谱将分散在教科书各个位置的分布式知识概念联系在一起 形成一个庞大的知识库 以结构化的形式描述客观世界中实体之间的复杂关系 将数据粒度从文档级别降到知识点级别聚合大量知识 从而实现针对知识的检索和推理在教育教学领域 也涌现出一些利用知识图谱技术进行课程知识体系构建的研究 知识图谱可以充分利用现有的学习资源和教育资源 以可视化的方式展现多种教学资源中知识点之间的结构关系 然而 传统的知识图谱构建技术面临着资源利用率低、构建成本高以及自动化程度有限等问题随着大语言模型()的崛起 自然语言处理和生成能力得到很大提升 这些大语言模型不仅可以生成具有语义和逻辑关联的文本 还可以通过对大量学科知识的学习 理解学科领域的知识结构和关系 因此 将大语言模型与传统的知识图谱构建技术融合起来 可以为高校学科知识图谱的自动化构建带来新的技术提升首先 大语言模型的语义理解能力可以更好地分析学科知识的结构和组织方式 通过对学科领域的文献、教材、幻灯片等多种知识来源的学习和分析 大语言模型能够捕捉到知识点之间的逻辑关系和语义联系 从而设计出更精确的知识系统本体 这样构建的学科知识图谱更具有准确性和完整性 能够为学习者提供更优质的知识展示和学习路径 其次 大语言模型的自动化提取能力可以极大地简化知识实体和知识关系的获取过程 传统的知识图谱构建方法通常需要开发不同的模块来处理非结构化的文本数据 并生成图谱所需的实体和关系 然而 大语言模型的自动化提取功能使得从多种资源中提取知识实体和知识关系变得更加高效和便捷 这不仅提高了资源的利用率 也降低了构建知识图谱的成本因此 本文旨在探索大语言模型在高校学科知识图谱自动化构建上的应用 通过融合 的优势 笔者将设计一种优化的自动化构建流程 以高校的学科为例 自动提取基于教材、幻灯片、教学大纲的知识实体和知识关系 形成最终的学科知识体系 通过梳理学科知识框架 帮助学生了解各个专业课程之间的知识点关联 快速掌握课程知识要点 并且能够精准回溯知识学习脉络 快速查漏补缺 该方法将为高校教育的改革和优化提供有力的数据支撑 促进学习者对知识的更深入理解和应用本文主要的贡献包括:()笔者提出了一种基于 的学科知识体系构建流程 高度融合各学科知识的连贯性 从而推动了专业知识纵向深入挖掘和横向拓展延伸 可移植性强 可快速推广至其他学科领域()使用多种知识来源 包括教材、幻灯片、教学大纲及学位论文 分别自动化构建知识来源不同的图谱 归纳学科教学知识体系 整体把握学科内涵()在建立的知识图谱上进行数据统计应用 探究课程间的相互关系以及学位论文与高校课程的紧密联系 为教育教学目标提供有力的数据支撑一、教育知识图谱构建现状(一)教育知识图谱目前 面向通用领域的知识图谱有很多 如国内的 、搜狗的“知立方”国外的、等 都被广泛应用于搜索、推荐、问答等互联网应用中 而在教育领域利用知识图谱进行数据建模也成为当前的热点研究问题 等提出了一个自动构建教育知识图谱的系统 来支持教学 还有研究者从多个 网站上获取课程信息 并进行实体提取和关系提取 构建一个高等教育知识图谱 在终生学习领域 等提出了一种利用知识图谱和数据分析技术整合元数据的科学出版物管理模型的设计 基于该模型 可以实现跨学科跨区域的科学资源检索和分析应用平台目的是提高科学检索效率 降低科学领域的学习难度 鼓励非研究人员利用科学资源进行自己的研究、学习和工作 除此之外 一些公司也基于教育知识图谱进行应用 如百度公司的 教育知识图谱、美国 自适应学习平台的教育知识图谱等(二)知识图谱构建无论是一般域还是特定域 通常构建知识图谱有两种方法 也是构建知识图谱的两大关键步骤分别是对结构化文本或非结构化文本的实体识别和关系识别首先 实体识别旨在从数据中提取客观概念 尤其是当数据是非结构化的情况时这项任务变得很有挑战性 机器学习模型条件随机场()广泛地应用于命名实体识别任务包括术语识别和中文实体识别 近年来 一些深度模型如、和 在实体识别上也取得了令人满意的结果其次 关系识别或者关系抽取旨在检测非结构化文本中实体之间的关系 关系识别这项任务通常被视为一个多类分类问题 但由于缺乏丰富的标记训练数据 有部分研究提出了远程监督的范式该方法试图通过将文本语料库与给定的知识图谱对齐来解决这一限制 由于不是所有对齐都是合理北京邮电大学学报(社会科学版)年第 期的 远程监督的范式也存在着局限性另外 最近关于大规模预训练语言模型的工作 如、和 等表明即使不调整参数 只用几个例子作为指令 也能在各种下游任务中表现良好 基于此 本文利用大语言模型设计一系列适合教育领域学科知识要点提取需求的模板提示作为 的输入 对电子教材、教学大纲和 等教学资源进行专业领域的命名实体识别以及零样本关系三元组提取 凭借高效处理和分析大量文本信息的能力 可以提取出有用的知识点和信息 为用户提供更加便捷、高效的信息服务 这种能力的优势在于可以大大节约人力和时间成本 提高工作效率 为高等教育领域的教学和研究带来了新的机遇和挑战 在信息抽取方面 可以通过对大量文本数据的分析和学习 自动抽取知识图谱中的知识点实体以及实体之间的关系 并通过对话生成的方式与用户进行交互和反馈 从而优化关系抽取的准确性和效率二、学科知识图谱构建首先以文本形式获取三种具有不同特征的主要教学资源 其次进行实体识别、属性提取和关系识别 利用 来优化以前使用的模型算法 从教学资源和一些网络资源中获取知识实体、属性和关系然后经过数据处理以确保获得的知识实体的准确性 最后进行学科知识图谱的自动化构建并在构建的图谱中进行重要的数据统计应用(一)本体构建通常在构建知识图谱时确定本体 本体的设计能够构建层次性强、冗余度低的统一知识结构 为了构建一个能够反映大学课程知识水平和知识内容核心概念的本体结构 笔者一是定义类和类继承一个类包含许多知识实体 不同的类意味着不同的级别或粒度 二是定义实体之间的关系类型 以获得本体关系 从而在结构上表示知识关联 类和属性类用于区分通信工程专业知识的内容和知识粒度 考虑到学科知识特点 笔者将类分为层级类和其他类 层级类是本文本体类的主要组成 其构建参考当前一些关于课程知识图谱本体构建的研究成果 以教科书的层级结构为主要依据 按照传统的知识细化思维 从层级最高的知识元开始 根据知识的上下级关系进行细化 初始知识元的抽象程度较高 细化过程就是按层级结构逐级降低 其抽象程度也逐渐降低 直到不能划分为止 通过划分知识的粒度 笔者将学科内部知识的涵盖范围由广到细 按照树状结构进行类别细化 设计出五层结构:课程()知识单元()知识章节()知识块()知识点()对于前四个层级的本体构建 笔者对格式不同的文本数据资源分别编写适用于本体设计的正则匹配脚本以提取目录 该方法为知识层级提取 对于第五层级的知识点抽取 笔者使用语言大模型来代替以往的命名实体识别()相关技术在分级已完成的文本上进行实体识别除此之外 对不同类型或粒度的本体属性进行限制 可以增强本体类型本身包含的价值 同时有利于区别不同类别 笔者为每一类知识元设计了相应的属性集合 如知识点包含名称、标识符、具体描述、别名等数据属性 展示知识元更全面具体的信息 关系在通信专业课程知识体系中 知识元并不是独立存在的 而是通过各知识元之间的语义关系建立关联 从而形成一个有机整体 这有助于学生对跨课程知识形成更深层次的累积理解 为教师进行课程改革提供清晰的知识结构 为了挖掘课程内及课程间的知识关联 辅助优化课程大纲 笔者定义了知识元之间的几种关系类型 比如包括()、先修()、后继()和含有唐晓晟等:大语言模型在学科知识图谱自动化构建上的应用()包括课程间关系和课程内关系 其中 包括关系是针对五类具有明显知识粒度区分的层级类知识元 如课程包括知识单元包括知识小节上述本体结构从教育视角出发 通过对领域知识体系进行分析 为后续专业学科知识图谱的构建过程提供了很好的指导作用(二)数据来源本文的数据来源包括:教科书、幻灯片、教学大纲以及学位论文教材是课程知识的传统载体 具有详细的权威知识描述 课件是教师自行制作的教学工具 使教师能够根据教学计划清晰地呈现课程知识 突出重点知识 帮助学生有效地学习课程 课程大纲是课程管理者制定的半结构化教学计划文件 它根据课程目标 严格规定了课程的教学内容 从专业角度反映了课程的关键知识 具有严谨、简洁的特点 为了充分利用资源 笔者在这些教学资源的基础上分别构建知识图谱 然后将它们融合成一个统一的课程知识图谱另外 为了查看课程对毕业论文的知识支撑情况 探索科研指导教学内容 并为教学支撑科研提供依据 笔者将 篇学位论文也作为知识图谱的数据来源 以同样的方式构建适用于论文结构的知识图谱 探究这些论文与本专业课程之间的关联(三)知识实体提取在知识系统本体的指导下 笔者需要从教学资源的文本中提取与本体类相对应的知识实体 这里重点关注分层类的知识实体提取 其中实体可以分为课程级和概念级()课程级知识实体 课程级知识主体是四个类的实体 即课程、知识单元、知识章节和知识块 其中 课程实体很容易获取 也就是课程的名称 对于其他三个类的实体获取 笔者提取不同级别目录的标题 这些目录是粗粒度的知识实体 用于支持课程的知识系统 由于教科书中的目录标题与正文相比具有显著的区别特征 本文使用正则表达式来分层匹配和提取标题的特殊格式()概念级知识实体 概念级知识主体也称为知识点()是指知识点类的实体与课程级知识实体相比更细粒度 这些细粒度的实体对于丰富知识图谱并为教师和学生提供更深入的知识结构至关重要 根据类的层次结构 知识点位于知识块之后 从第三级部分的文本中提取概念级知识实体 知识点 在之前的传统构建流程中 笔者选择了一些核心课程的教科书 并通过手动注释文本中的知识点构建训练集来训练一个双向 和条件随机场 结构的命名实体识别()模型 然而 为了进一步提升实体抽取的准确性和效率 笔者引入 作为辅助工具具体而言 笔者利用大型语言模型设计了合理的 模板 将预处理的文本和模型输入结合起来 从而利用 提供的封装好的 来执行实体抽取的任务 这种方法的优势在于可以借助 的强大语义理解能力和上下文感知能力 对文本中的实体进行更准确的识别 此外 的文本补全功能还能通过与用户的对话交互 进一步细化实体的识别和分类 笔者通过合理的提问和回答 引导 提供更具针对性的实体抽取结果 这种交互式的实体抽取方法可以提高复杂知识点和领域专业性较强的实体的准确性 如图 所示观察提取出来的实体可以发现 用大语言模型(本文使用)做实体抽取能够避免许多非专业性的词汇 或者减少不是知识点的实体等噪声被提取出来的情况 提取出来的知识点实体质量不错 为了探究学位论文与课程之间的关联 笔者在构建研究生学位论文知识图谱时也采用相同的方法 设计的提示模板如图 所示 直接由文本格式的电子资源提取到作者、专业、题目等学位论文的信息 以此来代替传统的正则表达式匹配算法 可以减少一些因为格式不符或特殊字符而带来的提取错误北京邮电大学学报(社会科学版)年第 期图 抽取教学资源中的实体图 抽取学位论文相关信息(四)知识属性提取属性对于丰富知识实体的信息至关重要 在获得知识实体后 还需要收集具体的基于本体属性的属性数据 每个知识实体都有一些基本属性 例如()名称属性是提取的知识实体的名称 名称属性不仅对查询知识图谱至关重要 而且为后续的图谱融合奠定了基础()标识符属性是知识实体在知识图谱中的唯一标识 通过标识符可以识别知识实体在课程知识系统中的位置 在每个本体类中 自动生成实体的标识符唐晓晟等:大语言模型在学科知识图谱自动化构建上的应用描述属性对于表达知识信息也至关重要 采用 的文本生成功能可以直接在实体抽取阶段给模型输入特定的提示 自动生成在特定领域下该实体的学术化描述 具体如图 所示 另外 由于中英文教学资源的差异 传统的基于 的命名实体识别模型需要不同的预训练语言模型来处理中英文的实体抽取 标注数据方面需要耗费大量的人力并缺乏足够多的训练集 但使用 来代替实现就很好地避免了这个问题 而且在预定义的提示模版()中加入中英文转换的提示模板也可以用来替代翻译器 同时简化了知识属性提取的步骤图 提取知识实体属性(五)知识关系提取知识关系用于连接知识实体 以构成知识系统 根据本体关系 本文检测并阐述了知识实体之间的关系 与教学资源的目录结构类似 包括关系连接不同层次的知识实体 通过这种方式 笔者构建了知识图谱的树结构 即课程()(包括()知识单元()(包括()知识章节()(包括()知 识 块()(包 括()知 识 点()另外 关系“教学”是指教师与课程之间的关系 笔者从教学大纲中提取教师的信息 并将教师与具有教学关系的课程联系起来 关系“”表示课程与其课程资源之间的关系 为教师和学生提供了获取相关资源的便捷途径然而 除了预先定义的关系之外 教学资源中还存在一些未经过人工定义但对构建完整的知识体系具有参考价值的实体间关系 挖掘这些实体间关系成为处理资源数据的一大难题 因此 笔者引入 的文本生成功能来进行零样本关系三元组提取 将电子资源内容文本和自己编写的 提示作为 的输入 调整 参数 并选择合适的模型(如)通过 以 格式的输出 能够获得包含头实体、关系和尾实体的关系三元组 进一步丰富该课程的知识关系表达 为了实现这一目标 笔者利用 提供的 编写了分段处理教学资源文本的脚本 通过对整本教材的处理 能够输出更丰富的知识关系三元组 以便构建更完整的知识图谱利用大语言模型的文本生成功能 对一些未经定义但具有参考价值的关系 笔者也能够自动生成实体间的关系三元组 从而能够更全面、准确地揭示知识实体之间的关联性 进一步丰富知识图谱的内容北京邮电大学学报(社会科学版)年第 期图 从电子教材中提取关系三元组(六)数据清洗数据清洗是数据处理的核心 能确保后续图谱的应用以及数据统计和分析的理想效果 而在实践中 数据清洗是重新检查和验证数据的过程 旨在消除冗余信息 纠正实体中的错误 并在数据结构中提供一致性 以确保数据的准确性 实体中最常见的错误是单词拼写错误 比如对于中文实体拼写错误可以分为谐音拼写错误(如“网洛(络)功能”)以及不同的语音拼写错误(如“傅立(里)叶级数”)因此 用 来优化整个纠错过程 可以快速纠错英文语法 减少人工编辑的工作量和时间 在 中输入如图 所示的提示 实践表明 大量英文文本数据 可以在短时间内提供纠错建议 效率得以提高 另一个常见错误是语法错误 例如“傅里变换(傅里叶变换)”等 模糊匹配算法可以编辑实体之间的距离 从而过滤出有语法错误的实体 笔者对实体字符串进行模糊匹配 计算每个实体与目标实体之间的相似度 将相似度最高的字符串作为目标字符串能够匹配上的实体对象图 利用 进行数据清洗实例唐晓晟等:大语言模型在学科知识图谱自动化构建上的应用 另外 在大学教学资源中 有一些包含中英文混合的知识实体 如“协议”其中一些实体是有噪声的 因此需要确定混合的中英文实体是属于知识术语还是噪声词 如今用 可以代替传统的网络爬虫去噪方式 直接运用大语言模型判定该词汇是否属于特定专业领域的知识术语 然后根据它们是否可以被搜索或 输出的解释来确定它们是否为知识术语三、数据统计与分析(一)课程间匹配情况展示本文基于大模型构建了自动化课程图谱 为了更好地理解不同课程之间的关联性并为信号与信息处理类课程的优化提供依据 进行了课程图谱的关联分析 首先 利用构建好的课程图谱 对课程间的知识点重叠情况进行了深入研究 分析课程图谱中知识点之间的关联关系 可以识别出在不同课程之间共享的关键知识点 这些重叠的知识点可能意味着不同课程之间存在相似的内容和教学目标 进一步分析这些重叠知识点的覆盖程度和深度 可以为课程的优化提供具体依据 例如调整课程设置、内容重组或者跨课程知识点的整合在同一个知识数据来源的知识图谱中 存在多个学科交叉重复的知识点 课程节点下知识点的层级从高到低分别为课程知识单元知识章节知识块知识点 同一个知识点可能会出现在不同教材的不同知识层级中表示不完全相同的含义 例如 通信原理和移动通信原理与系统都存在知识点“涡轮编码”在通信原理中“涡轮编码”属于知识章节层级 在移动通信原理与系统中“涡轮编码”属于知识块层级运用字符串匹配、文字相似度、语义相似度等 匹配实体名称(即名称属性)判断是否指向同一个知识点(实体)若判断两个实体为同一个知识点 则在这两者之间建立等价关系 关系名为“同名”计算两门课程之间的等价关系边数来判断任意两门课程之间的相关性 以教学大纲图谱为例 如表 所示表 基于大纲知识点的课程间相关性分析数据统计课程名称检测与估计理论信号与系统数字信号处理随机信号分析现代信号处理 现代信号处理(博)检测与估计理论信号与系统数字信号处理随机信号分析现代信号处理现代信号处理(博)以信号与信息处理类研究生课程为例 笔者构造了这六门课程间关联度的矩阵 从表 可以看出两两课程间的关联紧密程度 比如对于检测与估计理论课程来说 现代信号处理与之关联度最高 课程图谱关联分析能够发现潜在的知识点之间的关联性 即使它们在不同课程中没有直接的重叠 知识点之间的路径和连接关系可以揭示出课程之间的潜在联系 为跨课程的知识传递和交叉学科的发展提供有益的参考 这样的分析有助于发现知识点的衔接与补充 为课程内容的优化和学科知识的融合提供指导(二)学位论文与课程关联探究除了课程图谱的关联分析 笔者还将重点关注课程和学位论文图谱之间的关联性 课程对毕业论文的知识支撑情况可以了解不同课程对学位论文的影响和贡献 这有助于探索科研指导教学内容以及教学支撑科研的方法和策略 学位论文中引用的相关知识点和课程 可以帮助研究者确定与毕业论文密切相关的课程 从而为进一步提升学位论文质量和科研教学质量提供依据 图 展示了三门课程与学位论文之间的关联情况北京邮电大学学报(社会科学版)年第 期1026791478861162399132612377101623025694682643581424849901054459741181713451251004472640692914719836810267781838472361997793392673750103623043661210492964419049654289749855344721805563222914512098383687578266715831031043118601211359101308187999554422159508549411741434069254563493428975248805221139795771511.00.80.60.40.200.80.60.40.201.00.80.60.40.201.0(a)0)B.035/587,(b)87,(c);D?/*3/587,;,A,9,D87,;,A,9,D87,;,A,9,D87,87,D87,D87,D5(/5(/5(/图 论文与三门课程匹配度分析结果唐晓晟等:大语言模型在学科知识图谱自动化构建上的应用 考虑到论文中不同章节知识点对论文的代表性不同 笔者对不同章节的知识点设立不同权重 然后对不同章节词频进行加权计算 使用这种方式更加突出了不同章节知识点的重要性 利用加权词频信息计算论文知识点的词频逆文件频率()可以更加突出更有特征性的知识点 降低通用词对匹配结果的影响表 课程与 篇论文总匹配平均值结果课程总匹配平均值数字信号处理 随机信号分析 检测与估计理论 根据实验结果 篇论文的平均总匹配度为 而总匹配度大于平均值的论文数为 篇 达到 以上 说明信号与信息处理类课程对学生的科研支持度较高 数字信号处理、随机信号分析、检测与估计理论三门课程与学位论文的总匹配度平均值较高 这说明这些课程对学生学位论文的支撑度较好 比较课程图谱和学位论文图谱中的知识点覆盖情况 有利于识别出在课程中可能被忽视或不充分涉及的知识领域 揭示课程和学位论文之间的知识漏洞 为课程的优化和更新提供了重要的依据以确保学生在学习过程中获得全面和深入的知识课程图谱关联分析及课程与学位论文图谱关联分析 有利于深入了解不同课程之间的关系 揭示课程与学位论文之间的知识支撑和互动 发现知识的覆盖程度和不足之处 这些分析结果为课程的改进和优化提供了有力的数据支持 也为教学与科研的有机结合提供了指导四、结论与建议本文利用大型语言模型的强大功能以及多种教学资源 提出一种基于知识图谱的高校学科知识体系的自动化构建优化方法 根据学习者的认知习惯 通过梳理课程知识框架 设计知识体系的本体结构 用大型语言模型完成知识抽取 以指导后续知识体系的构建 结合学位论文对课程知识体系进行数据分析统计 展现知识点以及课程之间的关系 推测本文的构建方法移植至其他学科领域的高度可行性 一方面 学科知识体系可以帮助学生建立课程知识之间完整的逻辑关联 精准回溯知识学习脉络 另一方面 将构建的学科知识体系应用于教育教学方案改革场景 了解课程间知识点重叠情况为课程的优化提供依据 另外根据课程对毕业论文的知识支撑情况 为探索科研指导教学内容、教学支撑科研提供依据对于未来的工作 笔者希望可以继续扩展学科知识体系的规模 将本文的构建方法迁移到高校其他学科领域 构建完整的高校知识体系 除此之外 笔者致力于打造一个更大的学科知识体系平台充分发挥知识图谱的应用价值 促进高校智慧教育的发展参考文献:.:.():.:./.:.北京邮电大学学报(社会科学版)年第 期 .:.():.:.:.:/:.:./().:.:.王娟陈世超王林丽等.基于 的教育大数据研究热点与趋势分析.现代教育技术():.:.:./():.:.():.万海鹏汪丹.基于大数据的牛顿平台自适应学习机制分析:“教育大数据研究与实践专栏”之关键技术篇.现代教育技术():.:.():./.:./().:.:./():./().:.:/().:.:/:.:.:.钱力 刘熠 张智雄.的技术基础分析.数据分析与知识发现 ():.唐晓晟等:大语言模型在学科知识图谱自动化构建上的应用 袁满 仇婷婷 胡超.细粒度课程知识元组织模型及知识图谱实现.吉林大学学报(信息科学版)():.:/:.:./:.():北京邮电大学学报(社会科学版)年第 期