基于电信领域的企微托管系统智能化能力研究.pdf

SOFTWARE软 件2023第 44 卷 第 9 期2023 年Vol.44,No.9作者简介：汪明（1981），男，湖北鄂州人，本科，研究方向：大数据 AI 研发应用。基于电信领域的企微托管系统智能化能力研究汪明 陈曦 史君慧 欧嘉贤 马俊华（中国电信股份有限公司广州分公司，广东广州 510000）摘要：互联网时代的今天，社会化媒体不仅改变了个体间的交流方式，并在重新定义着企业与顾客之间的交流方式。目前，微信作为国内应用最为广泛的移动社交平台之一，已经为越来越多的企业所看重。微信用户产生的海量行为信息对产品的推荐、品牌的推广、口碑的传播起到了积极推动作用，促使微信营销呈现爆发式发展态势。企业为了更加便于激活、运营客户，会将客户引入另一个流量载体企微。企微托管系统可连接小程序、公众号、企业微信粉丝三位合一，实现全渠道客户管理，打造真正的私域流量。同时，通过客户画像+互动雷达等技术，精准把握客户动态，全面分析客户需求，提高营销成功率；实现智能话术推荐，规范营销用语，提高服务质量。关键词：电信；企微托管系统；智能化能力中图分类号：TP37 文献标识码：A DOI：10.3969/j.issn.1003-6970.2023.09.046本文著录格式：汪明,陈曦,史君慧,等.基于电信领域的企微托管系统智能化能力研究J.软件,2023,44(09):172-175Research on Intelligent Capability of Enterprise Micro Hosting System Based on Telecommunication FieldWANG Ming,CHEN Xi,SHI Junhui,OU Jiaxian,MA Junhua(China Telecom Corporation Guangzhou Branch,Guangzhou Guangdong 510000)【Abstract】：In the age of Internet,social media not only changes the way of communication between individuals,but also redefines the communication between enterprises and customers.At present,WeChat,as one of the most widely used mobile social platforms in China,has been valued by more and more enterprises.The behavior information generated by the huge WeChat user group has played a positive role in purchase behavior,brand promotion and word-of-mouth communication,which promotes the explosive development of WeChat marketing.In order to activate and operate more easily,enterprises will introduce customers into another social platform:WeCom.The enterprise micro hosting system can connect applets,official account and enterprise WeChat fans in one to achieve omni channel customer management and create real private domain traffic.At the same time,through technologies such as customer portrait+interactive radar,accurately grasp customer dynamics,comprehensively analyze customer needs and improve marketing success rate;Realize intelligent speech recommendation,standardize marketing terms,and improve service quality.【Key words】：telecommunications;enterprise micro hosting system;intelligent capability设计研究与应用0 引言企微托管系统基于电信 10000 号知识库，一户一案策略库搭建营销知识体系，构建一键营销，一键服务体系。如图 1 所示，通过对话引擎、语义引擎、推荐引擎、调度引擎和构建服务能力，实现服务效率、客户洞察、商机营销和监控调度业务能力的总体提升1-3。通过研究会话小结、热词捕捉、情感分析以及在线推荐等智能化能力，可以提升企微托管系统的客户服务能力水平。1 能力一：会话小结能力1.1 会话小结流程对托管客服和客户的会话进行归纳总结，建立企微服务分类体系，实现对服务内容的感知分类，进而对客户更关注的内容有更多认知。会话小结流程图如图 2 所示。1.2 文本分类算法实现该能力主要使用文本分类算法实现，作为自然语言173汪明 陈曦 史君慧等：基于电信领域的企微托管系统智能化能力研究处理中最基本，也是最重要的任务，文本分类在过去十年里研究激增。目前已有的文献提出了许多方法，如：TextCNN、TextRNN（BiLSTM）以及 TextRCNN（BiLSTM+池化）等。基于客户服务业务场景和多次测试结果，最终采用 TextRCNN（BiLSTM+池化）建模方法。文本分类处理的文本可以是以一个句子，文档（短文本，若干句子）或篇章（长文本），因此每段文本的长度都不尽相同。在对文本进行分类时，需要指定一个固定的输入序列/文本长度。该长度可以是最长文本/序列的长度，此时其他所有文本/序列都要进行填充以达到该长度；该长度也可以是训练集中所有文本/序列长度的均值，此时对于过长的文本/序列需要进行截断，过短的文本则进行填充。总之，要使得训练集中所有的文本/序列长度相同，除之前提到的设置外，该长度也可以是其他任意合理的数值。在测试时，也需要对测试集中的文本/序列做同样的处理。RNN 是一种能够处理序列数据的神经网络。假设训练集中所有文本/序列的长度统一为 n，首先需要对文本进行分词，并使用词嵌入得到每个词固定维度的向量表示。对于输入文本中的每个单词，RNN 都会在每个时间步长上输入一个单词的向量表示，计算当前时间步长上的隐藏状态，该隐藏状态会用于当前时间步骤的输出以及传递给下一个时间步长。在下一个时间步长上，该隐藏状态将与下一个单词的向量一起作为 RNN单元的输入，并计算下一个时间步长上的隐藏状态。这个过程会一直持续，直到处理完输入文本中的每个单词。这样，RNN 能够捕捉到序列中的时序信息，并在处理序列数据的任务中发挥重要作用。在 TextCNN 网络中，网络结构是“卷积层+池化层”的形式，卷积层用于提取 N-Gram 类型的特征，在RCNN 中，使用 BiLSTM 完成语义上的特征提取，后接池化层对其进行特征的最大值提取，整体结构变为了RNN+池化层，因此，该结构被称为 RCNN。（1）输入层。在 RCNN 模型中，输入层对每个词的左右各一个词也进行了输入，对应 3 个输入通道。如 我，爱，学习 这个文本，当输入 我 时，需要输入它的左右词：0,我,爱，以此类推。因此，代码的训练数据有三份，一份是正常数据，另外两份分别是左右偏移一位的数据。这三个词都会输出到相同的Embedding 矩阵中，输出三个词的 Embedding 到后序结构中。（2）RNN 层。通过将左边词语的 Embedding输入到一个前向 LSTM，右边词语的 Embedding 输入到反向 LSTM，以此获取词汇的上下文信息。然后将当前词语的 Embedding 向量与前后词经过 LSTM 输出的两个向量进行拼接，得到 50+128+128=306 维的向量。（3）池化层。对拼接后的特征使用 1Dmaxpooling 进行池化，取每个维度中所有词语特征的最大值作为该维度的特征，最终输出 64 维特征。（4）输出层。使用全连接层，Softmax 作为激活函数进行输出。该模型的建模过程包括几个步骤：1）分割对话：利用存储过程，将不同电信企微粉丝与其对应客户经理的对话切割为多段完整对话，标记对话 ID。2）对话打标分类：人工辅助，对样本对话的场景进行分类打标。3）对话拼接：根据对话的实际情况，将分散的句子合并为完整对话。4）预训练词向量引入：以 Wiki 语料为基础，引入相关的词向量模型。5）模型训练：使用 TextRCNN 算法，对文本内容和所属类别进行拟合训练。6）测试评分：使用训练出来的模型对样本进行测试，得出模型评分。2 能力二：热词捕捉能力通过关键字提取算法，准确捕捉电信企微粉丝需求，聚焦客户关心关注的热门问题，实现客户问题的快速响应与解决。关键字提取流程图如图 3 所示。TextRank 是一种提取短语和自动摘要的关键词提图 1 企微托管系统总体框架Fig.1 The overall framework of the micro-enterprise hosting system图 2 会话小结流程图Fig.2 Session summary flowchart基于企微托管营销服一体化AI辅助解决方案营销服一体化业务体现精准营销服务提升客户洞察需求识别情感跟随智能双推热词发布智能问答营销服务产品服务能力对话引擎语义引擎推荐引擎调度引擎服务效率客户洞察商机营销监控调度业务能力基础能力万号知识库策略库知识库体系服销体系一键营销（P2P营销）一键服务（内外联建）闭环体系打通企微领域全链条服务被动沟通主动触达客户服务客户运营用户托管完整会话会话分类模型会话小结大类:咨询办理故障申报投诉会话类型输入会话样本TextRCNN会话分类模型训练输出174软 件第 44 卷 第 9 期SOFTWARE取算法。该方法由 PageRank 改进而来，其公式如式（1）所示，权重项 Wji表示两个节点之间边连接的重要程度。()()()(1)*()jiVOut VjkkjjiWijWVIn VWS VddWS V=+（1）TextRank 是一种关键词提取算法，其具体实现步骤如下：（1）对目标文本进行完整句子的分割，得到若干个句子。（2）对每个句子进行分词，并对词性进行处理，去除停用词，保留名词、动词、形容词等指定词性的单词，形成候选关键词。（3）构建候选关键词图如式（2）所示：G(,)V E=（2）将由式（2）生成的候选关键词组成节点集 V，采用共现关系（Co-occurrence）构造任意两点之间的边，仅当它们对应的词汇在长度为 K 的窗口中共现时，两个节点之间存在边，即最多共线出 K 个与窗口大小一致的单词。（4）根据计算公式迭代传播不同节点的权重，一直到权重收敛。（5）对节点权重倒过来进行排序，把最重要的若干个单词，标为候选关键词。（6）由（5）得到最重要的 T 个单词，在原始文本中标记出选定的关键词，若形成相邻词组，则组合成多词关键词。3 能力三：情感分析能力自然语言处理中一个很重要的研究方向是语义的情感分析(Sentiment Analysis)，情感分析指通过对给定文本的词性分析，判断该文本是消极的还是积极的过程。情感分析的应用场景非常广泛，在购物网站或者微博中，买家会对购买的商品进行评价，当需要大规模的情感分析时，人工处理能力十分有限，商家可以利用情感分析工具辅助分析用户对产品的使用体验和评价。情感分析的本质就是根据给出的文本，分析文本中表达的情感导向是偏向正面的还是负面的。处理好情感分析，有助于提高人们对于事物的理解效率，也可以利用情感分析的结论辅助托管人员对客户进行营销或服务。目前国内外大部分较为成熟和有效的情感分析方法是基于英文文本，对于中文文本分析的相关应用研究相对较少。中文文本分词的复杂度比英文文本高，在处理上存在差异。本文采用 Self-attention 结合全连接神经网络对中文短文本做出情感分析的判断。首先，对短文本进行词向量化表示，然后采用自注意力机制提取文本上下文关系特征，最后接入全连接网络层，输出得到情感得分。情感分析流程图如图 4 所示。用户托管用户多个会话情感模型情感分析情感得分输入对话样本Self Attention+全连接网络情感分类模型训练输出图 4 情感分析流程图Fig.4 Sentiment analysis flowchart情感分析模型的建模过程包括几个步骤：（1）预处理输入语句，准备输入数据；（2）初始化网络权重；（3）获取 Key、Query 和 Value；（4）为第 1 个输入计算注意力分数；（5）输出值输入激活函数 Softmax 得到分数；（6）将分数乘以业务固定的 Values；（7）对权重化后的 Values 求和，得到输出 1；（8）对其余的输入，重复第 4 7 步；（9）把 Self-Attention 处理得到的结果作为全连接神经网络的输入参数，得出情感分数。4 能力四：在线推荐能力随着业务的发展，为满足用户的差异化需求，电信套餐的设计变得越来越多样化。但目前因为套餐信息过载和不对称，导致用户较难从大量的套餐中选择符合自己需求的产品。因此在企微托管人员与客户聊天过程中及时发现商机并进行转化的过程十分重要。该研究通过深入了解用户的消费习惯，建立用户消费行为模型，对用户进行个性化产品及套餐推荐。然后基于用户的消费行为模型和资费套餐信息，在聊天过程中出现商机时，即可做出较为符合用户个人偏好的套餐推荐。在线推荐流程图如图 5 所示。用户托管用户ID基于用户相似度的协同过程过滤模型产品推荐序列输入历史消费行为，用户基础信息User_item based基于用户相似度的协同过滤模型训练输出图 5 在线推荐流程图Fig.5 Online recommendation flowchart该模型首先根据用户的消费行为和习惯，选择用户的特征向量。接着从这些特征向量中计算出目标用户的相似用户集合，然后将这些相似用户使用的套餐集作为图 3 关键字提取流程图Fig.3 Keyword extraction flowchart用户托管用户多个会话关键词发现模型关键词分析关键词1，关键词2输入对话样本Textrank关键词发现模型训练输出175汪明 陈曦 史君慧等：基于电信领域的企微托管系统智能化能力研究初始套餐推荐集。在考虑套餐资费模型的基础上，结合用户的特征向量和初始套餐推荐集，为用户选择最优的套餐，最终生成用户的套餐推荐列表。通过这种方法，企业微信托管在聊天过程中出现商机时，能够快速精准地推荐符合用户个人偏好的套餐，提升用户体验，增加营销转化率。结合实际业务标签使用方式表示：A 类标记用户的基本属性；B 类标记用户的套餐属性；C 类标记用户的消费属性；“v+标记符号”表示字段值。推荐模型字段如表 1 所示。表 1 推荐模型字段Tab.1 Recommended model fields字段属性类别标记字段值入网日期基本属性A1vA1制式基本属性A2vA2套餐内通话套餐属性B1vB1套餐内流量套餐属性B2vB2套餐编码套餐属性B3vB3通话时长消费属性C1vC1数据流量消费属性C2vC2总费用消费属性C3vC3这里表示用户消费行为的方法是基于向量空间模型的方法，如式（3）所示：(1,1),(2,2),(3,3),.C vCCvCCvC （3）式（3）中的1C是字段，也可以叫做特征，1vC是字段的值，也就是1C指标的观测值。用户相似度需要考虑语音和数据业务这两个维度。就目标用户来说，)2(=kk维特征向量(1,1),(2,2)C vCCvC可以用来表示该用户的消费行为。这里的1C是用户消费的通话时长，1vC就是通话时长的实际数值，2C是用户消费的数据流量，2vC是数据流量的实际数值。汇总用户特征后，就要对目标用户进行推荐，此处使用协同过滤的推荐方法进行推荐。这个模型算法对于一个目标用户，找出其用户集 R 的过程步骤如下：（1）对比上面简述的特征向量，在目标用户集 U 和用户集 R 的所有消费数据中，提取对应字段特征，并得到用户特征向量值。（2）在目标用户集 U 中随机抽取一个用户 u，用如式（4）所示的公式来计算用户 u 与 R 中每一个用户 r的相似度距离，公式里的uvCi和rvCi分别表示用户 u 与用户 r 特征向量的第 i 个关键字的观察值。21S(,)()(1,2,.)kjuriu rvCivCijm=（4）取mj,2,1=，就能计算出用户 u 和用户集 R 的相似度距离12,S SSm。（3）把 m 个相似度距离由小到大进行排序，选择最前面的 5 个作为用户 u 的相似用户集合，并用 Nu表示。（4）找到 Nu对应的套餐编码，并从中去除重复的套餐编码，就可以得到用户 u 的套餐推荐集 Tu。（5）选择用户集 U 中的下一个用户重复（1）-（4）的步骤，直至得到所有目标用户的套餐推荐集。经过应用协同过滤推荐方法，得到了每一个电信用户可能感兴趣的套餐推荐集。当企业微信托管在与这些用户聊天时，如果发现商机，可以根据用户的套餐推荐集进行个性化营销。这将有助于提高客户的满意度和促进销售的增长。5 结语本文分析了当前国内企微营销的现状，设计企微托管系统，实现了四大智能化能力：（1）会话小结能力。使用 TextRCNN 算法，对会话内容进行语义分析并对其分类。（2）热词捕捉能力。通过关键字提取算法 TextRank，实现客户需求的准确捕捉，聚焦于客户关心关注的热门问题，使客户提出的关键问题得到更快解决。（3）情感分析能力。使用 Self_attention+全连接网络模型结构，对客户消息进行情感评分，实时捕捉客户的情感变化。（4）在线推荐能力。基于协同过滤算法，构建了基于用户消费行为的套餐推荐体系，使套餐推荐变得更加高效、准确、智能化。参考文献1 薛美琦.基于协同过滤技术的物品选购推荐系统设计D.成都:电子科技大学,2019.2 江伟.基于深度学习的文本分类D.南京:南京理工大学,2018.3 胡月永.基于Word2Vec,LSTMs和Attention机制的中文情感分析研究D.兰州:兰州大学,2018.