基于双重注意力机制和时间因子的深度推荐模型_吴定谕.pdf

2023 年第 3 期计算机与数字工程收稿日期：2022年8月12日，修回日期：2022年9月23日基金项目：江苏省重点研发计划（社会发展）项目（编号：BE2016630，BE2017628）资助。作者简介：吴定谕，男，硕士研究生，研究方向：数据挖掘与机器学习。周从华，男，博士，教授，研究方向：大数据技术、人工智能。单田华，男，硕士，讲师，研究方向：大数据分析。刘志锋，男，博士，副教授，研究方向：数据挖掘与机器学习。1引言推荐系统能够缓解由于互联网快速发展所导致的“信息过载”的问题，帮助用户从大量信息中找出用户所需要的信息。传统推荐系统大多依据用户评分来判断用户喜好实现未评分项目预测，比如最为经典的矩阵分解（Matrix Factorization，MF）模型1，将用户和项目特征映射成同一隐空间的隐向量。然而，评分仅能大致表现用户对项目的整体态度，无法对用户喜好的原因进行挖掘，例如用户喜欢某间餐厅是因为美食还是因为服务态度好，可解释性较差。另一方面，评分矩阵一般情况下都十分稀疏，进行评分预测的精度较差。基于以上原因，研究人员将研究重点转移至基于评论文本的推荐模型，相比于评分仅能代表用户的总体态度而言，评论信息能够体现用户喜好的原因，具有较强的可解释性。许多推荐模型应运而生，例如CTR2、HFT3等，这些模型验证了基于评论的推荐模型的有效性。但是这些以往的工作一般都是使用隐狄利克雷分配模型（LDA）4从评论总第 401期2023 年第 3期计算机与数字工程Computer&Digital EngineeringVol.51No.3基于双重注意力机制和时间因子的深度推荐模型吴定谕周从华单田华刘志锋（江苏大学计算机科学与通信工程学院镇江212013）摘要现阶段大多数基于评论文本的推荐模型没有从多个视角充分挖掘用户评论的价值，忽略了评论文本在不同层面的重要度信息。基于此，论文提出一种基于双重注意力机制和时间因子的深度推荐模型DATCoNN。该模型使用并行的卷积神经网络结合两层注意力层分别挖掘单词层面和评论层面的重要度信息，然后使用时间因子进一步拟合用户对项目兴趣度的变化情况，最终采用因子分解机实现评分预测。模型在Amazon的三组不同领域数据集上进行对比实验评估，发现论文提出的推荐模型性能最优，同时该模型具有较好的可解释性。关键词推荐系统；注意力机制；卷积神经网络；时间因子中图分类号TP39DOI：10.3969/j.issn.1672-9722.2023.03.026A Deep Recommendation Model Based on Dual AttentionMechanism and Time FactorWU DingyuZHOU ConghuaSHAN TianhuaLIU Zhifeng（School of Computer Science and Telecommunication Engineering，Jiangsu University，Zhenjiang212013）AbstractAt present，most of the recommendation models based on review text has not fully mined the value of reviews frommultiple perspectives.They ignore that the review contains a lot of information at different levels.Based on these reasons，this paperproposes a deep recommendation model DATCoNN based on dual attention mechanism and time factor.The model uses parallel convolutional neural network combined with two attention layers to mine the importance of review at word level and review level respectively，the time factor is used to fit the change of users interest in items.Finally，the model uses factorization machine to obtain therecommendation results.In this paper，the experimental comparison and analysis is carried out on three groups of datasets in different fields provided by Amazon.The experimental results show that the proposed model obtain the best performance.Moreover，theproposed recommendation model has better interpretability.Key Wordsrecommendation system，attention mechanism，convolution neural network，time factorClass NumberTP39679第 51 卷文本中挖掘各种信息57，这种方式忽略了评论上下文的语义信息。文献 8 认为使用 LDA不能对除词语级别以外的主题分布进行挖掘，提出了TopicMF模型，通过非负矩阵分解得到评论隐藏主题信息，并通过主题分布体现用户商品特性。由于深度学习对文本信息的强大建模能力，研究人员将深度学习技术应用于基于文本的推荐系统的研究。Zheng9等提出DeepCoNN模型将评论文本划分为用户评论集和项目评论集，使用并行的卷积神经网络提取用户和项目的特征，然后通过因子分解机（FM）10耦合两个部分进行建模，对用户评分进行预测，取得了较好的效果。这种使用并行卷积神经网络进行用户和项目建模的思想启发了很多相关研究。Catherine等11针对待预测评分的评论文本的隐表达进行研究，首先对评论进行预测，再基于该预测评论进行评分预测。Wang等12指出卷积神经网络可能会忽略词频带来的影响，提出一种结合主题模型和卷积神经网络的推荐模型，缓解了词频丢失的问题。尽管上述模型解决了各方面的问题，但是都未能充分挖掘评论信息的价值。首先，每条评论由不同的单词组成，每个单词对评论语义的影响程度是不同的。其次，每个用户或者项目拥有的所有评论对用户和项目本身的重要程度也是不一致的，只有挖掘出重要程度更高的评论才能更好地对用户和项目进行特征建模，只是简单地提取单词和评论信息而不对单词和评论进行差异化处理，可能会曲解评论的含义，忽略重要信息。为了解决上述问题，提取隐藏的有效信息，本文提出一种基于双重注意力机制和时间因子的深度推荐模型DATCoNN，使用融入双重注意力机制和时间因子的并行卷积神经网络，从单词级别和评论层面充分挖掘重要度信息，更好地对用户和项目进行特征建模，实现评分预测。提升了推荐的精度，并且具有更好的可解释性。本文进行的主要工作如下：1）本文提出一种融合双重注意力机制的神经网络推荐模型，从单词层面和评论层面以两种不同的视角提取评论文本中的重要信息。模型采用review-level建模方式，相较于 document-level1315建模的推荐系统具有更好的可解释性。2）本文在词级别注意力层使用卷积神经网络分别对用户评论和项目评论进行词级别的信息挖掘，能够更好地融合单词上下文信息挖掘单词重要程度，过滤出对评论重要性更高的单词。3）本文在评论级别注意力层融入时间因子，根据艾宾浩斯提出的记忆曲线遗忘规律，拟合用户对评论序列中信息的记忆程度，能够更好体现评论信息重要度随时间流逝衰减的规律，提升用户和项目特征建模的准确程度。2DeepCoNN推荐模型近年来，许多基于深度学习的文本处理方法被提出，这些方法取得了比传统算法更好的表现，例如fastText，TextCNN等。于是，研究人员将深度学习对文本处理的优势运用于推荐领域，取得了不错的效果。DeepCoNN充分利用了深度学习的优势，该模型对用户的评论文本和项目的评论文本分别使用卷积神经网络进行特征提取，挖掘评论文本的深层特征，大大提升了评分预测的准确率。模型使用并行的卷积神经网络分别对用户评论集和项目评论集进行信息提取。以用户评论集为例，模型使用预训练的词向量作为输入，每一个单词都会通过词向量映射函数f:M Rd映射为一个d维的向量表示，将用户的所有评论词向量合并为一个文档du1:n，总共有n个单词组成，用户u的评论词向量矩阵表示为Vu1:n。Kj评论文本词嵌入层卷积层MaxPooling全连接层图1DeepCoNN模型特征提取部分使用卷积神经网络进行评论特征的提取，卷积核共包含z个神经元，第l个神经元产生的特征如下所示：zul=ReLU()Vu1:n*Kj+bl（1）上式中卷积核为KjRcd，其中c代表卷积核的窗口大小，*表示卷积操作，bl为偏置项，使用ReLU函数作为激活函数。在窗口大小为c的滑动窗口的作用下，第l个神经元的特征为zu1,zu2,zul(nc+1)。通过最大池化吴定谕等：基于双重注意力机制和时间因子的深度推荐模型6802023 年第 3 期计算机与数字工程操作，捕获每个通道最重要的特征，定义如下：fuj=max(zu1,zu2,zul(nc+1)（2）接下来将各通道的计算结果，即z个神经元对应的特征使用拼接得到用户u经过卷积层的结果，记为Fu=fu1,fu2,fu3,fuz（3）将上式结果送入全连接层，其中权重矩阵WeRnk1，偏置项beRk1，用户u在该层的特征提取结果如下式所示：Gu=ReLu(We*Fu+be)（4）通过共享层将用户u的特征矩阵和项目i的特征矩阵进行连接得到单一向量f，最终使用因子分解机FM进行用户u对项目i评分的预测。3一种新的推荐模型DATCoNN虽然基于评论文本的深度学习推荐模型DeepCoNN 评分预测表现突出，但是仍然存在诸多问题。首先，该模型使用了document-level的建模方式对用户和项目进行特征建模。该建模方式以用户或者项目为单位将所有词向量连接成一个矩阵并通过卷积层进行特征提取，这种做法无视了不同评论之间的界限，将不同时刻、场景、情况下产生的评论混为一谈，可解释性较差，同时会在池化操作时丢失大量有效信息。其次，该模型忽略了评论内部与评论之间的重要性差异，评论中的每个单词对评论含义的表达程度是不同的，每条评论对于对应用户或者项目的重要程度是不同的。无法对用户和项目进行充分表达，导致特征建模效果不理想。因此，本文提出一种基于双重注意力和时间因子的深度推荐模型，对上述问题进行改进。3.1模型整体结构本文提出DATCoNN模型整体结构如图2所示。融入时间因子的评论级别注意力机制评分预测层Element-wise productr?u,iXuYik=1pau,kGu,kau,1au,2au,pGu,1Gu,2Gu,pgi1gi2gipCNN特征提取融合上下文信息的词级别注意力层V?u,11:TV?u,21:TV?u,p1:TVu,p1:TVu,21:TVu,11:T用户评论文本词嵌入合并融入时间因子的评论级别注意力机制Yik=1qai,kGi,kai,1ai,2ai,qGi,1Gi,2Gi,qgu1gu2guqCNN特征提取融合上下文信息的词级别注意力层V?i,11:TV?i,21:TV?i,q1:TVi,q1:TVi,21:TVi,11:T项目评论文本词嵌入合并图2DATCoNN模型整体结构首先将用户评论文本和项目评论文本中的单词进行词嵌入表示，并以评论为单位合并词向量，得到评论的词向量矩阵。以用户侧特征建模为例，用户u的第k条评论的词向量矩阵表示为Vu,k1:T。使用基于卷积神经网络的词级别注意力机制层提取评论中各词向量的重要度信息并进行权值赋予。设计一组并行的CNN结构以评论为单位进行特征提取，解决了document-level建模方式存在的信息丢失问题，提升了模型的可解释性。在对评论进行深度建模之后输入到评论级别的注意力机制层提取评论的重要度信息，同时使用时间因子拟合实际情况下用户评论重要程度随时间衰减的规律，681第 51 卷降低无用评论对用户和项目建模产生的影响。评分预测层利用用户特征和项目特征进行交互建模工作，使用因子分解机FM充分交互特征向量各维度的一二阶项，实现评分预测。具体而言，用户u和项目i的交互建模如下式所示：Ku,i=XuYi（5）上式中Ku,i表示用户u对项目i的隐表示，其中用户特征XuRs，项目特征YiRs，用户项目隐表示Ku,i=ku,i1,ku,i2,ku,is，符号表示向量间对应元素相乘操作。最终使用因子分解机FM进行用户u对项目i评分的预测：r?u,i=b+i=1|F|wifi+i=1|F|j=i+1|F|fifj（6）下文主要针对融合上下文信息的词级别注意力层、融入时间因子的评论级别注意力层以及模型训练部分进行详细说明。3.2融合上下文信息的词级别注意力机制受Seo等16研究启发，使用卷积神经网络将词的上下文关系加以融合，可以强化单词与单词之间的耦合关系，集中突出评论中与用户评分关系更大的单词，降低相对无关的单词所持有的权重。另外，使用基于 review-level建模方式进行词级别重要度的挖掘，能够更好的与评论级别的注意力层进行结合，同时提升了模型整体的可解释性。下面以用户侧特征建模经过词级别注意力层为例进行说明。首先将用户评论矩阵通过一个卷积神经元数为m的卷积神经网络，每一个神经元j都对应一个卷积核。将用户u的第k条评论的词向量矩阵Vu,k1:T和卷积核Kj进行卷积运算，可以得到第j个神经元所产生的特征为wu,kj=ReLU(Vu,k1:T*Kj+bj)（7）上式中，将卷积核的窗口大小设置为1，即卷积核KjR1d，目的是能够更好的对特征进行压缩。*表示卷积运算，bj是偏置项，ReLU是非线性激活函数。接下来将计算所得的特征输入到两层全连接层，进一步融合各词的上下文信息：fc1=ReLU(Wd*wu,kj+bd)（8）第一层全连接层如上式所示，其中权重矩阵WdRTr，r表示衰减后的特征维度，bdRr为偏置项，使用ReLU函数进行激活。fc2=sigmoid(Wu*fc1+bu)（9）第二层全连接层如上式所示，将融合上下文信息后的衰减隐层特征恢复为原有特征维度，其中权重矩阵WuRrT，buRT为偏置项，使用sigmoid函数进行激活，计算出用户u的第k条评论中每一个单词的重要度系数fc2。将重要度系数与用户u的第k条评论的词向量矩阵逐项相乘，为词向量矩阵融入单词级别重要度信息，体现不同单词对该评论的重要程度：V?u,k1:T=Vu,k1:Tfc2（10）3.3融入时间因子的评论级别注意力机制每条评论对用户和项目而言具有不同的重要程度。重要程度高的评论对特征的表达能力更加突出，而重要程度低的评论可能包含无用信息，影响对用户特征的正确表达。为了挖掘用户评论中重要度更高的评论，利用注意力机制计算用户评论重要度是一种行之有效的办法。然而，以上设想未能充分考虑实际情况，没有充分考虑时间因子对评论信息重要度的影响。根据德国心理学家赫尔曼艾宾浩斯的研究结合推荐系统领域知识可以发现评论信息对用户和项目的表达程度会随着时间流逝逐渐衰减。为了描述上述趋势，使用时间衰变函数根据时间戳信息计算时间带来的影响并融入注意力函数能够使评论重要度计算结果更加符合真实情况。Xia等17研究分析发现相比于线性函数、凹函数等其他函数类型，指数函数能够更好地拟合评论重要度的时间衰减效应。为了描述时间因子对评论对于用户和项目的重要度带来的影响，以用户侧特征建模为例，下述公式中Su表示用户u的评论集序列，该序列长度为p，其中su,k代表用户u的评论集中的第k条评论：Su=su,1,su,2,su,p（11）基于用户对进行评论行为的时间点来描述评论对用户的重要程度：tdu,k=e(tptk)2+0.5（12）上式中，输出tdu,k表示用户u的第k条评论对用户u时间权重系数，其中表示时间衰变速度控制因子，tp表示用户u的评论集序列中的最后一条评论的行为时间，tk表示用户u的评论集序列中第k条评论的行为时间，tptk表示了用户历史评价行为时间与最近评价行为时间的时间间隔。将时间因子融入评论级别注意力层，符合评论吴定谕等：基于双重注意力机制和时间因子的深度推荐模型6822023 年第 3 期计算机与数字工程对用户或项目重要程度逐渐衰减的实际情况。在此基础上，该层的输入除了用户u第k条评论的特征向量Gu,k还有用户u的ID嵌入gu，输入用户ID嵌入有助于分辨进行无用评论的用户。该注意力网络具体定义如下：a*u,k=HTReLU(WfGu,k+Wggu+bu1)+bu2（13）上式中，HRt为权重向量，HT为该权重向量的转置向量，WfRtk1、WgRtk2分别是Xu,k和gu的权重矩阵，bu1Rt、bu2R1为偏置项。使用 softmax函数进行归一化处理，可以得到用户u第k条评论对用户的重要程度：au,k=tdu,kexp(a*u,k)k=1pexp(a*u,k)（14）获得每一条评论对用户的重要度之后，用户u的特征向量表示如下式所示：Ou=k=1pau,kGu,k（15）使用全连接层对特征向量进行处理，权重矩阵Wo1Rsk1，偏置项bo1Rs，最终计算出用户u的特征表达式：Xu=Wo1Ou+bo1（16）项目侧特征建模与用户侧特征建模流程类似，最终通过全连接层获得的项目i的特征表达式如下式所示：Yi=Wo2Oi+bo2（17）3.4模型训练本文模型主要通过评论文本信息实现评分预测，以平方损失函数作为目标函数，Loss的计算如下式所示：L=u,i(r?u,iru,i)2（18）上式中，表示整体训练集样本，r?u,i和ru,i分别表示用户u对项目i的真实评分。为了优化目标函数，本文使用Adam优化器进行优化。该优化器能够根据训练情况动态的调整学习速率的大小，模型能省去人工调整学习率的流程并且更快的收敛。4实验部分4.1实验数据集为了验证DATCoNN模型的性能，本文选取了Amazon提供的三个公共数据集对模型性能进行验证，这三个不同领域数据集分别是Movies_and_TV（AMT）、Toys_and_Games（ATG）、Office Products（AOP）。其中AMT数据集拥有将近170万条用户评论，ATG拥有超过16万条用户评论，而AOP拥有5万多条用户评论，是一个较小的数据集，实验数据集详细信息如表1所示。表1数据集信息数据集AMTAOPATG用户数123960381919412项目数50052236711924评论数169753353258167597稀疏度97.26%99.41%92.75%实验过程中将数据集中数据分成三份，分别是训练集、测试集、验证集，比例为8 1 1。由于原始数据集的数据量较多，将本次实验无关的数据全部剔除，仅保留用户 ID、项目 ID、评论信息、评分信息。4.2评价指标本文使用RMSE和MAE作为实验评价指标来评估推荐的精度，该指标是常用的回归模型评价指标，RMSE和MAE的值越小预测精度越高，表达式如下式所示：RMSE=1Nn=1N(r?u,iru,i)2（19）MAE=1Nn=1N|r?u,iru,i|（20）上式中r?u,i表示预测评分值，ru,i表示真实评分值，N表示样本数量。4.3实验结果分析本文设置对比实验如下：1）横向对比：将DATCoNN分别三类模型中的代表模型进行直接对比。第一类是基于评分矩阵的模型中的概率矩阵分解模型（PMF），第二类是基于主题建模的推荐模型隐狄利克雷分配模型（LDA）以及协同主题模型（CTR）18，第三类是深度推荐模型中的协作深度学习模型（CDL）19。2）纵向对比：将 DATCoNN 与原始模型 DeepCoNN进行对比，验证融合双重注意力机制和时间因子对推荐性能的提升。多次实验进行参数调优，最终确定实验所用最优参数组合如下：词嵌入向量维度300，用户和项目的特征维度为50，学习率设定为0.001，滑动窗口大小c设置为3，卷积核数量为100，模型训练批处理大小为100，Dropout比率设置为0.5，时间衰变速度控制因子设置为0.04。将本文提出模型DATCoNN与其他对比模型在三组数据集上进行对比实验，实验结果如下：683第 51 卷表2DATCoNN和各对比算法在三种数据集上的的RMSE值数据集AMTAOPATGPMF0.977240.956930.83629LDA0.956730.942320.81892CTR0.935940.931690.81119CDL0.918950.932450.79458DeepCoNN0.904210.927530.79549DATCoNN0.878840.908290.76882表3DATCoNN和各对比算法在三种数据集上的MAE值数据集AMTAOPATGPMF0.884530.838170.80858LDA0.869490.818860.78851CTR0.835620.805030.76189CDL0.828900.798350.77464DeepCoNN0.817140.789180.76382DATCoNN0.793910.767410.74759接下来以更加直观的方式表示不同推荐模型在三种数据集下的对比结果。1.000.950.900.850.800.750.70RMSEPMFLDACTRCDL DeepCoNN DATCoNNAMTAOPATG图3DATCoNN和各对比算法在三种数据集上的RMSE值0.9000.8750.8500.8250.8000.7750.7500.7250.700MAEPMFLDACTRCDL DeepCoNN DATCoNNAMTAOPATG图4DATCoNN和各对比算法在三种数据集上的MAE值从以上实验结果可以看出，在三种不同数据量的数据集上，本文提出的DATCoNN推荐模型均优于对比推荐模型。在AMT数据集上，DATCoNN的RMSE和MAE分别为0.87884和0.79391，相较于表现最好的 DeepCoNN 模型分别降低了 0.02537 和0.02323；在 AOP 数据集上，DATCoNN 的 RMSE 和MAE分别为0.90829和0.76741，相较于表现最好的DeepCoNN 模型分别降低了 0.01924和 0.02177；在ATG数据集上，DATCoNN的RMSE和MAE分别为0.76882 和 0.74759，相较于表现最好的 DeepCoNN模型分别降低了0.02667和0.01623。横向对比结果表明，基于深度学习的推荐模型能提高特征提取能力进而提升系统的性能，相比传统的推荐模型具有更加优秀的评分预测能力。与DeepCoNN模型进行纵向对比发现，使用双重注意力机制和时间因子能够更好地挖掘评论中包含的隐藏信息，有效提升了评分预测的准确程度。5结语本文针对现存的使用评论文本进行项评分预测的推荐模型存在的若干问题，提出了一种基于双重注意力机制和时间因子的深度推荐模型。模型改进了DeepCoNN评论特征的建模方式，并在并行CNN结构上嵌入两层注意力层挖掘评论重要度信息，使用时间因子进一步拟合用户对项目兴趣程度。在三个公共数据集上进行的对比实验结果表明，改进模型的推荐精度始终优于其他对比模型，并且具有更好的可解释性。本文的后续工作在于研究如何将评分信息更好地融入模型，进一步提升评分预测的精度。参 考 文 献1Koren Y，Bell R，Volinsky C.Matrix Factorization Techniques for Recommender SystemsJ.Computer，2009，42（8）：30-37.2WANG C，BLEI D M.Collaborative topic modeling forrecommending scientific articlesC/Proceedings of the17th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.San Diego：ACM，2011：448-456.3Mcauley J J，Leskovec J.Hidden factors and hidden topics：understanding rating dimensions with re-view textC/Proceedings of the 7th ACM Conference on Recommender Systems.Hong Kong：ACM，2013：165-172.4Blei D M，Ng A Y，Jordan M I，et al.Latent Dirichlet Allocation J.J.Mach.Learn.Res，2012，3：993-1022.5Mcauley J，Leskovec J.Hidden factors and hidden topics：understanding rating dimensions with review text C/Pro吴定谕等：基于双重注意力机制和时间因子的深度推荐模型6842023 年第 3 期计算机与数字工程ceedings of the 7th ACM Conference on RecommenderSystems.ACM，2013：165-172.6Diao Q M，Qiu M H，Wu C Y，et al.Jointly modeling aspects，ratings and sentiments for movie recommendation（JMARS）C/Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and datamining.ACM，2014：193-202.7Hu G N，Dai X Y，Song Y，et al.A synthetic approachfor recommendation：Combining ratings，social relations，and reviewsC/Proceedings of the 24th InternationalJointConferenceonArtificialIntelligence，2015：1756-1762.8Bao Y，Fang H，Zhang J.Topicmf：Simultaneously exploiting ratings and reviews for recommendation C/Proceedings of 28th AAAI Conference on Artificial Intelligence，2014.9Zheng L，Noroozi V，Yu P S.Joint deep modeling of usersand items using reviews for recommendation C/Proceedings of the 10th ACM International Conference on WebSearch and Data Mining.Cambridge，UK，2017：425-434.10Rendle S.Factorization machinesC/Proceedings ofthe 10th IEEE International Conference on Data Mining.Sydney：IEEE Computer Society，2010：995-1000.11Catherine R，Cohen W.TransNets：Learning to transform for recommendationC/Proceedings of the 11thACM Conference on Recommender Systems.New York：ACM，2017：288-296.12 Wang Q Q，Li S，Chen G.Word-driven and context-aware review modeling for recommendation C/Proceedings of the 27th ACM International Conference on InformationandKnowledgeManagement.NewYork：ACM，2018：1859-1862.13Kim D，Park C，Oh J，et al.Convolutional matrix factorization for document context-aware recommendation C/Proceedings of the 10th ACM Conference on Recommender Systems.ACM，2016：233-240.14Chin J Y，Zhao K，Joty S，et al.ANR：Aspect-basedNeural RecommenderC/the 27th ACM InternationalConference.ACM，2018.15Wu L，Quan C，Li C，et al.A context-aware user-itemrepresentation learning for item recommendationJ.ACM Transactions on Information Systems（TOIS），2019，37（2）：1-29.16Seo S，Huang J，Yang H，et al.Interpretable Convolutional Neural Networks with Dual Local and Global Attention for Review Rating Prediction C/the Eleventh ACMConference.ACM，2017：297-305.17Xia C，Jiang X，Liu S，et al.Dynamic item-based recommendation algorithm with time decay C/Sixth International Conference on Natural Computation.IEEE，2010.18Li X，Xu G，Chen E，et al.Learning user preferencesacross multiple aspects for merchant recommendationC/Proceedings of the 2015 IEEE International Conference on Data Mining（ICDM），2015：865-870.19Wang H，Wang N，Yeung D Y.Collaborative deep learning for recommender systemsC/Proceedings of the21th ACM SIGKDD International Conference on KnowledgeDiscoveryandDataMining.ACM，2015：1235-1244.2020，25（11）：2370-2379.19Lin J，Gan C，Han S.Tsm：Temporal shift module for efficient video understanding C/Proceedings of the IEEE/CVF International Conference on Computer Vision，2019：7083-7093.20Zhang C L，Zhang H，Wei X S，et al.Deep bimodal regression for apparent personality analysis C/EuropeanConferenceonComputerVision.Springer，Cham，2016：311-324.21Subramaniam A，Patel V，Mishra A，et al.Bi-modalfirst impressions recognition using temporally ordereddeep audio and stochastic visual features C/EuropeanConferenceonComputerVision.Springer，Cham，2016：337-348.22Gltrk Y，Gl U，van Gerven M A J，et al.Deepimpression：Audiovisual deep residual networks for multimoda apparent personality trait recognition C/European Conference on Computer Vision.Springer，Cham，2016：349-358.（上接第617页）685