基于深度学习的新型电力智能交互平台多任务集成模型研究.pdf

第6 0 卷第6 期2023年6 月15日电测与仪 表Electrical Measurement&InstrumentationVol.60 No.6Jun.15,2023基于深度学习的新型电力智能交互平台多任务集成模型研究程超,葛维,郭兰柯,陈博,张亚炜1（1.国网河北省电力有限公司，石家庄0 50 0 0 0；2.国网河北省电力有限公司石家庄供电分公司，石家庄0 50 0 0 0；3.国网河北省电力有限公司营销服务中心，石家庄0 50 0 0 0)摘要：意图理解是新一代电力智能交互平台中的一项基础技术。通过将用户诉求自动分类与分级，可以大幅提升服务效率和质量。针对电力交互平台中的意图理解问题，提出一种基于深度学习的多任务集成模型，该模型可以同时训练意图理解中密切相关的两项子任务：意图检测（IntentDetection）与语义槽填充（SlotFilling）。使用具有长短期记忆(Long-Short Term Memory,LSTM)结构和门控循环单元（Gated Recurrent Unit,GRU）的深度双向循环神经网络（RecurrentNeuralNetwork，R NN）作为基本分类器，多层感知机（Multi-LayerPerceptron，M LP）框架用于组合输出结果,并基于词向量特征与词性特征对模型进行增强。在真实数据上的实验表明该集成多任务模型相比单一模型或其他主流方法更为有效。关键词：意图理解；深度学习；循环神经网络；自然语言处理；电力服务D0I:10.19753/j.issn1001-1390.2023.06.012中图分类号：TM93Research on multi-task ensemble model based on deep learning for(1.State Grid Hebei Electric Power Company,Shijiazhuang 050000,China.2.Shijiazhuang Power Supply Company,State Grid Hebei Electric Power Company,Shjiazhuang 050000,China.3.Marketing Service Center,State Grid Hebei Electric Power Company,Shijiazhuang 050000,China)Abstract:Intent understanding is a fundamental technology in novel power intelligent interaction platform.Through clas-sifying and grading intents of customers automatically,the efficiency and quality of power service can be remarkably im-proved.Towards intent understanding problem in power interaction platform,a multi-task ensemble model based on deeplearning is proposed,which can simultaneously train two closely related sub-tasks in intent understanding,named intentdetection and slot filling.Recurrent neural network(RNN)with long-short term memory(LSTM)and gated recurrent u-nit(GRU)respectively are used as basic classifier in the proposed model,and multi-layer perceptron(MLP)generatesthe final output.Word vectors and part-of-speech(POS)features are used to reinforce the proposed model.Experimentalresults on real-world dialogue data indicates the superiority of the proposed multi-task ensemble model compared with inde-pendent models and other peer models.Keywords:intent understanding,deep learning,recurrent neural network,natural language processing,power service0引言在新一代电力智能交互平台中,基于对用户的意基金项目：国网河北省电力公司科技项目（TSS2018-03）文献标识码：Anovel power intelligent interaction platformCheng Chao,Ge Wei,Guo Lanke,Chen Bo,Zhang Yawei文章编号：10 0 1-139 0(2 0 2 3)0 6-0 0 8 1-0 5图理解（Intent Understanding）作出响应将成为一项基础性技术,对提升电力服务的智能化和自动化有重要意义。意图理解旨在识别自然语言中的目的要素,指导后台系统生成响应或执行对应措施满足用户需一8 1 一第6 0 卷第6 期2023年6 月15日求1-2 。借助意图理解技术,电力智能交互平台可以自动地将用户诉求分类和分级处理，服务效率从而得到显著提升,并节省可观的人力成本3。并且，意图理解可以作为一个高可扩展的基本模块，支撑平台中的更多后续任务，如情绪分析和服务质量评价等45。本文针对新一代电力智能交互平台中的意图理解问题提出一种深度学习方法。本文方法采用了集成的多任务学习范式，同时处理意图理解问题的两个密切相关的子模块：意图检测（IntentDetection）与语义槽填充（SlotFilling）。具体地，该方法基于深度循环神经网络（RecurrentNeuralNetwork,RNN）结构，并结合了词向量特征与词性特征，最终由多层感知机（Multi-LayerPerceptron,MLP)模块输出最终结果。本文在实际的电力对话文本数据上验证了该方法的有效性。11问题定义如表1所示，文章研究了意图理解问题通常被依次执行的两个主要子任务：意图检测与语义槽填充。其中,意图检测即在自然语言中提取出可能涉及意图要素的部分。表1意图理解的两个子任务Tab.1TTwo sub-tasks of intent understanding词我需要预约明天九点过来看一下电表箱语义槽000Time Time意图类型预约现场检修在电力智能交互平台对话这类专门场景中，意图检测可以视为一般的文本分类问题来处理，即将一段文本归类为某种意图6 。用词序列表示文本=x1，,，其中x;表示词语，y（1i N）表示预先设置的N种可能意图（通常是一组动作或行为），则意图理解步骤需求解使后验概率p（y;I x）最大的意图：y*=arg maxp(y;I x)语义槽填充则是将用户说话文本中的意图要素丰富为实际目的的过程，所填充的语言要素（语义槽）指的是与不直接涉及抽象意图类型，但参与描述实际目的的现实对象，如图1，这类对象通常包括来访用户指定的时间，需要维修的设备和所在地址等7 8 。通过语义槽填充步骤，在意图检测阶段得到的抽象意图类别被具体化为用户的实际需求，此时涉及意图的自然语言（非结构化数据)被简化为抽象意图类型与时间/地点/设备要素构成的易于处理的结构化数据。给定标签集s（1i M）,则语义槽填充需求得使后验概率一8 2 一电测与仪表Electrical Measurement&Instrumentationp(s;Ix）最大的语义标签：S*=arg,maxp(s;I x)比较式（1)和式（2）式容易看出，意图检测和语义槽填充这两个子问题实际上具有完全相同的形式，都是一个典型的分类问题,两个问题所处理的数据也是完全一致的（都基于用户的说话文本），唯一的区别仅在于分类的标签集。因此可以基于多任务学习范式实现信息共享,同时处理两个问题以提升平台效率，并在两个问题上相比单独训练取得更优的结果。2多任务意图理解在提出的方法中,文本被视为词语的序列,每个词语(或每若干个词语)可以被当作文本在一个时间步的样本（但与实际的时间长短无关）。利用具有长短期记忆(Long-Short Term Memory,LSTM)结构和门控循环单元(GatedRecurrent Unit,GRU）的深度双向循环神经网络学习文本在两个层次上的表示：局部表示，即每个时间步上的表示，与语义槽填充任务有关,用于预测需要填充的语义标签；全局表示,与意图检测任务有关,用于预测文本的意图行为标签。借助神经网络共享信息与组合损失函数，可以实现同时训练分别用于两种任务的模型。图1为所设计的多任务意图理解技术的基本框架。图中的输人数据=i，,x 表示词语顺序构0Operation DeviceVol.60 No.6Jun.15,2023(2)成的句子,每个词语x;（1iT）通过词嵌人（WordEmbedding)技术9-10 转换为稠密的词向量表示e（w;），作为深度RNN模型的输入。语义标签h2h4BB-BBB-(1)e(wDe(w)个Xi-IX,图1基于深度循环神经网络的多任务意图理解Fig.1Frame of the proposed multi-task intentunderstanding based on deep recurrent neural network如图1所示,RNN模型将同时执行意图检测与语义槽填充两个子任务，且两个子任务共享了网络中的部分参数信息。其中，语义槽填充任务是在RNN按词前向传播过程中逐步输出结果的,对于整段文本将输出一组语义标签；意图检测模块在前向传播完成后执hnB-B-B-elw)X.I第6 0 卷第6 期2023年6 月15日行完成，对每段文本给出一个意图类型预测结果。2.1 词嵌入词嵌入方法对于捕捉句子中的上下文关系等隐藏语义信息十分有效。相比传统的one-hot编码或词袋（Ba g-O f-Wo r d s,BO W）等语言表示模型，词嵌人技术基于词语的共现（Co-Occurrence）关系,因此更能反映词语之间的联系与全局特征。并且，经过词嵌人得到的词向量是稠密的,易于被机器学习模型处理,有效解决了自然语言的稀疏性问题。对句子中的任意词w,将w前后（称为窗口）的若干词作为w的上下文,记为Context（w），词嵌入技术采用最大似然估计的观点，以w出现的条件下Context(w）共现的概率p（Co n t e x t（w）w）为最大化目标函数。假设句子中各个词的出现是相互独立的,则词w上的目标函数为：p(Context(w)I w)=II p(ul w)(3)ueContext(w)为便于基于梯度的优化算法求解,通常使用式（3)的负对数形式，即：ulnp(ul w)L=-ueContexi(w)汇总文本中所有词的目标函数,就得到了全局的最小化目标函数。假设词w与u的词向量分别为e（w）与e（u），条件概率p（u l w）可以设置为softmax函数,即：p(u I w)=词嵌入方法使得频繁出现在w上下文，即与w共现关系强的词u与w具有相近的词向量,此时p（u l w）的值也就更大。式(5)分母中的和式需要计算词w和语料中其他所有词的词向量内积,显然复杂度极高，不易于计算。考虑到语料中绝大部分词互相之间的共现关系都较弱（即大部分e（)e（w）的值都接近0）,因此这一步骤中可以采用负采样技术简化计算，即从语料中随机地抽取一定数量的词计算该和式12 。一般情况下，利用通用语料上训练的词向量就可以达到较好的效果，但考虑到文中讨论的是电力交互平台这一专门场景，因此实际使用的词向量是在已有的电力服务文本大数据上基于常用的Word2Vec方法13 预训练得到的。2.2技术框架如图2，为建立图1所示的意图理解模型，本文使用了集成学习的方法,同时使用了含双向LSTM(Bi-Di-rectional LSTM,BiLSTM）与双向 GRU（Bi-D i r e c t i o n a l,电测与仪 表Electrical Measurement&InstrumentationGRU,BiGRU)结构的深度 RNN 模型14-15 集成原始文本一词向量模型意图理解多层感知机双向CRU图2 多任务意图理解集成模型Fig.2 Multi-task intent understanding ensemble model根据图1与图2,神经网络在t时间步上的隐藏状态,即图1中的h，同时依赖于当前时间步的文本输人x;与前一时间步上的隐藏状态ht-1经过LSTM与GRU神经元后的结果，可以表示为：h,=LSTM(x,ht-1),GRU(x,ht-1)为提升效果,文中在模型中还引人了词汇的词性(Part-of-Speech,PoS）类别特征（以One-Hot向量形式表示）,并与LSTM与GRU的输出层状态向量直接拼接，作为多层感知机（即全连接的神经网络模型）的输人状态向量，最终经过 softmax函数，分别得到语义槽(4)填充和意图理解两项子任务的分类结果，即：y,=softmax(w,h,+b,)与：y;=softmax(w;h,+b,)其中y，与y;分别表示模型预测得到的待填充的exp e(u)e(w)(5)E,exp e(v)e(w)Vol.60 No.6Jun.15,2023双向ISTM多层感知机一同性特征（一组）语义标签与意图类型，w（b,）与w;（b；）分别表示实现两项子任务的多层感知机网络的权值矩阵（偏置向量）。3实验分析3.1数据集本文实验所使用的数据来自某电网服务中心9 559 8电话服务平台2 0 18 年2 月2 0 19 年5月的部分真实场景下的对话记录,共计2 16 0 40 条,数据集中已经剔除了无效的通话记录，如与电力服务完全无关或接人时长极短的通话。数据集涉及10 个意图类型,覆盖真实场景中用户接人对话的10 种可能需求,和6 个语义槽类型,代表实际派工单过程中需要补充的6 个工单信息。该数据集同时用于生成Word2Vec词向量的预训练步骤。3.2模型训练方法文中的深度神经网络模型基于流行的PyTorch深度学习框架16 搭建,训练所使用的硬件平台为一台内存6 4GB，搭载两块NVIDIAGTX1080Ti图形处理器的计算机。尽管模型的完整训练过程需要较长的时间，但短时间内语料的总体特征（如常见词的分布等）可以认一8 3一语义槽填充(6)(7)(8)第6 0 卷第6 期2023年6 月15日为不会发生显著的变更,实际使用中可以按较长的周期（如每月或每个季度)进行迭代，并不需要频繁地训练。对于给定的文本,模型执行推理过程并给出意图理解的预测结果几乎是瞬时的,因此可以支撑电力服务平台上实时交互的需求。双向LSTM与双向GRU网络的神经元数量都固定为2 0 0，多层感知机设置为三层，词向量维度设置为50 0 维。模型的优化过程基于Adam优化器与drop-out 正则化技术,drop-out 比率设置为 15%17-8 3.3实验结果首先验证了采用集成的多任务学习范式同时训练两项子任务相比分别训练模式的优势。表2 中双向LSTM和双向GRU模型在两个子任务上的效果实际上就是在不进行任何参数共享的条件下，两次训练模型再作预测分别可以达到的效果。如表2 所示的结果，相比使用BiLSTM或BiGRU网络单独训练两个模型，在意图理解（ID)和语义槽填充（SF)两个关联的子任务上，集成多任务模型都取得了更好的识别精度（用macro-F1指标表示）。这也说明了所设计的借助深度神经网络实现参数信息共享的技术对解决意图理解任务的两个子问题都具有提升作用。表2 多任务模型与独立模型比较Tab.2 Comparison among multi-task model andindependent models模型意图检测(ID)BiLSTM(ID)80.87BiLSTM(SF)BiGRU(ID)BiRU(SF)集成模型（ID+SF)表3中比较了所提出的方法与其他几种意图理解任务中常用模型的性能，包括支持向量机（SupportVector Machine,SVM），超状态隐马尔可夫模型（Super-State Hidden Markov Model,SSHMM）,文本卷积神经网络(Text Convolutional Neural Network,TextCNN）,梯度提升决策树（Gradient Boosting Decision Tree,GBDT)与条件随机场(Conditional Random Field,CRF)19-23。可以看出,所提出的基于多任务范式的意图理解模型在准确性上具有一定优势。表3还同时说明了词性特征对各种模型效果的提升作用,由于所使用的词性特征是通用语料的词性标签，提升幅度并不明显。并且，由于词性特征标签是以一8 4一电测与仪表Electrical Measurement&Instrumentationone-hot向量直接输入神经网络的,这种稀疏性较高的处理使这一特征对于基于神经网络类模型（如本文模型与TextCNN模型的提升效果几乎可以忽略不计）。理论上，如果基于电力领域专门文本进行更细粒度的词性标注,可以预见模型性能将得到进一步改善。表3模型性能比较Tab.3 Performance comparison among modelsmacro-F1 值(%)模型意图检测(ID)集成模型+PoS85.28SVM+PoS71.35SSHMM+PoS83.27TextCNN+PoS82.82GBDT+PoS76.54CRF+PoS74.42macro-F1 值(%)模型意图检测(ID)集成模型85.10SVM66.36SSHMM82.15TextCNN82.08GBDT71.68CRF72.11图3与图4分别展示了文中模型在意图理解与语macro-F1 值(%)义槽填充两个子任务上的混淆矩阵，可以看出，在意图语义槽填充（SF)和语义槽的各个类别上，文中方法都具有较高的检出率，同时误检率控制在较低水平。这说明文中方法具92.40有较强的适用性，对于真实场景下可能出现的各种意82.63图类型和语义成分都能以较高精度进行识别。93.0685.2896.84Vol.60 No.6Jun.15,2023语义槽填充（SF)96.8489.7695.1994.6390.3391.24语义槽填充（SF)96.4187.2092.4393.9587.2986.45混淆矩阵（意图检测)Io0.740.0200.910.060.880.03121314150.12160.010.0110.050.021：0.040.031213预测类别图3意图检测子任务的混淆矩阵Fig.3 Confusion matrix of intent detection subtasks0.040.010.020.820.040.020.030.020.040.030.880.02.0.010.050.040.030.840.010.020.080.070.030.02 0.08 0.06 0.010.030.020.050.010.030.050.810.01 0.010.020.020.850.050.90.020.830.010.040.80.640.40.20.0第6 0 卷第6 期2023年6 月15日So10.98Si0.960.01S210.03S:0.01（0.030.010.94S40.02Ss0.04SoSiS.S,S4Ss预测类别图4语义槽填充子任务的混淆矩阵Fig.4Confusion matrix of semantic slot filling3.4验证结果分析通过实验较为全面地评估了引人集成多任务学习范式对意图理解任务的提升效果。实验结果表明：（1）由于意图检测与语义槽填充两个子任务具有高度相似的形式,在多任务学习框架下，两者通过深度网络进行参数共享后，相比单独依次训练，模型在两个子任务上都有提升；（2）在不进一步专门设计网络结构的条件下，仅仅使用集成学习范式不仅优于单独学习，也优于其他主流方法；（3）词性特征对模型的效果有一定提升，在领域专用语料上的词性标注可能有更佳的效果。4结束语研究了用于新型电力智能交互平台的意图理解技术这一基础问题。根据意图检测和语义槽填充这两个密切相关，传统上一般以依次单独训练的模型进行学习的子任务在形式上的高度一致性,设计了一种基于多任务学习范式的集成意图理解模型。模型结合了两种结构的深度神经网络进行子任务间的参数信息共享,并利用了文本的Word2Vec词向量表示与词性特征标签，可利用子问题之间的相关性同时训练这两个子任务。实验证明，文中模型在性能上相比其他模型具有优势,对于建设更为智能化的新型电力服务平台，提升平台能效有一定实际意义。参考文献1杨春妮，冯朝胜结合句法特征和卷积神经网络的多意图识别模型J.计算机应用，2 0 18，38（7)：18 39-18 45.Yang Chunni,Feng Chaosheng.Multi-intention recognition model withcombination of syntactic feature and convolution neural networkJ.Jour-nal of Computer Applications,2018,38(7):1839-1845.2郑伟彦，杨勇，卢家驹，等面向配电网知识图谱的配电调度文本实体链接方法J：电力系统保护与控制，2 0 2 1，49（4）：111-117.3】朱龙珠，徐宏，刘莉莉基于深度学习的9 559 8 重大服务事件识别电测与仪 表Electrical Measurement&Instrumentation混淆矩阵（语义槽填充）0.020.01 0.020.960.010.010.010.970.96Vol.60 No.6Jun.15,2023研究J.电力信息与通信技术，2 0 18，16（11）：19-2 3.Zhu Longzhu,Xu Hong,Liu Lili.Research on recognition of 95598 sig-0.8nificant service events based on deeplearning J.Electric Power Infor-mation and Communication Technology,2018,16(11):19-23.0.64乔麟，苏立伟，陈海燕基于语音分析的智能质检系统设计J.电子测试，2 0 19,2(1)：9 1-9 2.0.4Qiao Lin,Su Liwei,Chen Haiyan.Design of intelligent quality inspectionsystem based on speech analysisJ.Electronic Test,2019,2(1):91-92.0.2【5张玮亚，陈中，宫衍平，等基于多模态深度学习的不停电作业风险评估J.高压电器，2 0 2 2，58（11）：138-150.10.06 FIRDAUS M,BHATNAGAR S,EKBAL A,et al.Intent detection forspoken language understanding using a deep ensemble model C/Pa-cific-Rim International Conference on Artificial Intelligence,2018.7 谢庆，张煊宇，王春鑫，等新一代人工智能技术在输变电设备状态评估中的应用现状及展望J高压电器，2 0 2 2，58（11)：1-16.【8 王垫，林民，李艳玲。端到端对话系统意图语义槽联合识别研究综述J.计算机工程与应用，2 0 2 0，56（14）：14-2 5.Wang Kun,Lin Min,Li Yanling.Review of research on joint intent de-tection and semantic slot flling in end to end dialogue systemJ.Com-puter Engineering and Applications,2020,56(14):14-25.9杨维，孙德艳，张晓慧，等面向电力智能问答系统的命名实体识别算法J.计算机工程与设计，2 0 19，40（12）：36 2 5-36 30.Yang Wei,Sun Deyan,Zhang Xiaohui,et al.Named entity recognitionfor intelligent answer system in power service J.Computer Engineer-ing and Design,40(12):3625-3630.10南东亮，王维庆，赵启，等基于多维Hausdorff距离算法的站域电流回路故障检测J.电网与清洁能源，2 0 2 1，37（11）：6 3-7 1.11邱剑.电力中文文本数据挖掘技术及其在可靠性中的应用研究D.杭州：浙江大学，2 0 16.Qiu Jian.Research on Chinese textual data mining techniques and relia-bility applications in power systems D.Hangzhou:Zhejiang Universi-ty,2016.12郑佩祥，陈彬，卢昕，等基于word2vec的配电网恶意控制指令检测算法J计算机工程，2 0 19，45（4）：119-12 3.Zheng Peixiang,Chen Bin,Lu Xin,et al.Malicious control commanddetection algorithm in power distribution network based on word2vecJ.Computer Engineering,2019,45(4):119-123.13蒋晨，王渊，胡俊华，等基于深度学习的电力实体信息识别方法J.电网技术，2 0 2 1，45(6)：2 141-2 149.Jiang Chen,Wang Yuan,Hu Junhua,et al.Power entity informationrecognition based on deep learning J.Power System Technology,2021,45(6):2141-2149.14 狄曙光，刘峰，孙建宇，等.基于改进ABC和IDPC-MKELM的短期电力负荷预测J智慧电力，2 0 2 2，50（9）：7 4-8 1.15袁和金，张旭，牛为华，等.融合注意力机制的多通道卷积与双向GRU模型的文本情感分析研究J.中文信息学报，2 0 19，33(10):109-118.16PASZKE A,GROSS S,MASSA F,et al.PyTorch:An imperativestyle,high-performance deep learning library C/Conference on Neu-ral Information Processing Systems.NeurlPS,2019.(下转第10 9 页）一8 5一第6 0 卷第6 期2023年6 月15日仪器仪表用户，2 0 0 5，（4)：6 7-6 8.Niu Chenglin,Yu Xining,Li Jianqiang.The application of expert sys-tem in electric load forecasting J.Electronics Instrumentation Custom-er,2005,(4):67-68.16陈洪波，王璨，徐斌，等基于LSTM网络的短期负荷预测J电工技术,2 0 19,（9)：2 7-2 9.Cheng Hongbo,Wang Can,Xu Bin,et al.Short-term load forecastingbased on LSTM networkJ.Electric Engineering,2019,(9):27-29.17孙明敏基于GRU-Attention的中文文本分类J现代信息科技，2019,3(3):10-12.Sun Mingmin.Chinese Text Classification Based on GRU-AttentionJ.Modern Information Technology,2019,3(3):10-1218常子汉.基于小波变换与Adam优化的LSTM电价预测研究D.兰州：兰州大学，2 0 19.Chang Zihan.Electricity price prediction based on hybrid model of adamoptimized LSTM neural network and wavelet transform D.Lanzhou:Lanzhou University,2019.19魏震波，余雷基于FFT，D C-H C 及LSTM的短期负荷预测方法J.智慧电力，2 0 2 2，50(3)：37 43.Wei Zhenbo,Yu Lei.Short-term Load Forecasting Method Based onFFT,DC-HC and LSTMJJ.Smart Power,2022,50(3):37-43.电测与仪表Electrical Measurement&Instrumentation20王伟，孙玉霞，齐庆杰，等基于BiGRU-attention神经网络的文本情感分类模型J计算机应用研究，2 0 19，36（12）：3558-356 4.Wang Wei,Sun Yuxia,Qi Qingjie,et al.Text sentiment classificationmodel based on BiGRU-attention neural network J.Application Re-search of Computer,2019,36(12):3558-3564.21Andrew L.Maas,Peng Qi,Ziang Xie,et al.Building DNN acousticmodels for large vocabulary speech recognitionJ.Computer Speech&Language,2017,(41):195-213.作者简介：肖先勇（196 8 一）,男，教授，博士，从事电能质量与优质电力、智能电网与电网安全、超导电力等研究。徐方维(197 8 一）,女，副教授，博士，从事电能质量及谐波等研究。Vol.60 No.6Jun.15,2023曾圃钧（1993一），男，通信作者，硕士研究生，从事电力系统负荷预测研究。Email:收稿日期：2 0 2 0-0 4-0 2；修回日期：2 0 2 2-0 8-2 1(任美辉编发）(上接第8 5页）17刘辉，凌宁青，罗志强，等.基于TCN-LSTM和气象相似日集的电网短期负荷预测方法J.智慧电力，2 0 2 2，50（8）：30-37.Liu Hui,Ling Ningqing,Luo Zhiqiang,et al.Power Grid Short-termLoad Forecasting Method Based on TCN-LSTM and Meteorological SimilarDay SetsJ.Smart Power,2022,50(8):30-37.18陈旭，张弛，刘千宽，等基于深度语义学习的智能录波器自配置方法J电力系统保护与控制，2 0 2 1，49（2）：17 9-18 7.Chen Xu,Zhang Chi,Liu Qiankuan,et al.Automatic configurationmethod of intlligent recorder based on deep semantic learning J.Pow-er System Protection and Control,2021,49(2):179-187.19GABRIEL R,MATTHES J,KELLER H B.Detection and localization ofmanipulated smart meters using super state hidden Markov models C/IEEE International Conference on Communications,Control,and Compu-ting Technologies for Smart Grids.IEEE,2019.20潘东行，袁景凌，李琳，等。一种融合上下文特征的中文隐式情感分类模型J.计算机工程与科学，2 0 2 0，42（2）：341-350.Pan Dongxing,Yuan Jingling,Li Lin,et al.A Chinese implicit senti-ment classification model combining contextual features J.ComputerEngineering and Science,2020,42(2):341-350.21杨晓宇，郭晓鹏，杨昆电力物联网用户用电信息全过程管理风险评估J智慧电力，2 0 2 2，50（10）：53-6 0.Yang Xiaoyu,Guo Xiaopeng,Yang Kun.Whole Process ManagementRisk Assessment of User s Power Consumption Information through Elec-tric Internet of ThingsJ.Smart Power,2022,50(10):53-60.22肖鹏，王柯强，黄振林。基于IABC和聚类优化RBF神经网络的电力信息网络安全态势评估J智慧电力，2 0 2 2，50（6）：10 0-10 6.Xiao Peng,Wang Keqiang,Huang Zhenlin.Security Situation Assess-ment of Power Information Network Based on IABC&Clustering Opti-mized RBF Neural NetworkJ.Smart Power,2022,50(6):100-106.23计丽妍，李存斌，贾雪枫，等多证据融合下电力信息物理系统风险评估研究J智慧电力，2 0 2 1，49（10）：2 3-2 9.Ji Liyan,Li Cunbin,Jia Xuefeng,et al.Risk Assessment of Cyber-Physical Power System Based on Multi-Evidence Fusion J.Smart Pow-er,2021,49(10):23-29.作者简介：为电力营销。葛维（198 1一），女，本科，高级工程师，主要研究方向为客户服务、信息化、大数据。郭兰柯（198 5一），女，本科，初级职称，主要研究方向