基于深度学习框架的长序列大坝监测缺失数据插补模型.pdf

水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/第 43 卷第 6 期Vol.43 No.6水 利 水 电 科 技 进 展Advances in Science and Technology of Water Resources2023 年 11 月Nov.2023基金项目:国家自然科学基金项目(52279099)作者简介:雷未(1992),女,博士研究生,主要从事水工结构安全监控研究。E鄄mail:180202020001 通信作者:王建(1975),男,教授,博士,主要从事水工结构安全监控研究。E鄄mail:wang_jian DOI:10.3880/j.issn.10067647.2023.06.012基于深度学习框架的长序列大坝监测缺失数据插补模型雷摇 未1,王摇 建1,吉同元2,李鹏飞2(1.河海大学水利水电学院,江苏 南京摇 210098;2.华设设计集团股份有限公司,江苏 南京摇 210014)摘要:由于系统故障、传感器老化等不利因素常会导致监测数据缺失,从时间序列角度出发,针对大坝监测量中间缺失数据构建了一种基于深度学习框架下的双向 CNN鄄BiLSTM鄄Attention 缺失数据插补模型。该模型结合卷积神经网络与长短期记忆神经网络的算法优势,通过提取时间特征,引入注意力机制优化插补过程,同时以时间步递减的权重融合正反向插补结果。以某混凝土重力坝为例,采用该模型对大坝监测量长序列缺失数据进行插补,结果表明,双向融合插补能有效消除长序列缺失数据插补时间步的累积误差,与其他插补模型相比,这种深度学习模型具有更高的插补精度。关键词:大坝监测;缺失数据;时间序列;深度学习;注意力机制中图分类号:TV698摇 摇 摇 文献标志码:A摇 摇 摇 文章编号:10067647(2023)06008207Long鄄series missing data interpolation model for dam monitoring based on deep learning framework/LEI Wei1,WANG Jian1,JI Tongyuan2,LI Pengfei2(1.College of Water Conservancy and Hydropower Engineering,Hohai University,Nanjing 210098,China;2.China Design Group Co.,Ltd.,Nanjing 210014,China)Abstract:Many unfavorable factors such as system failure and sensor aging can often lead to deviation or even lack ofmonitoring data.In the present study,a bi鄄directional CNN鄄BiLSTM鄄Attention missing data interpolation model forintermediate missing data during dam monitoring based on the deep learning framework was constructed from the perspectiveof time series.The characteristics of the convolution neural network and long鄄term and short鄄term memory neural networkwere combined to extract time features in the model.The attention mechanism was introduced to optimize the interpolationprocess.The forward and backward interpolation results were fused by the weights decreasing according to time steps.Aconcrete gravity dam was selected to verify the effectiveness of the proposed model by interpolating the long鄄series missingdata of dam monitoring.The results indicate that bidirectional fusion interpolation can effectively overcome the cumulativeerror of interpolation time steps for long鄄series missing data,and this deep learning framework has higher interpolationaccuracy compared to other interpolation models.Key words:dam monitoring;missing data;time series;deep learning;attention mechanism摇 摇 通过大坝安全监测手段获得的大量监测数据可为大坝运行状态提供评价依据。然而,由于仪器故障、系统停机、传感器老化、人为干扰等因素,不可避免地会发生监测数据丢失的情况,这给大坝安全的客观诊断带来了困难。测点的部分数据缺失不利于数据综合利用而影响整体安全评价;同时也会影响监测量可视化过程线的完整性。因此,需要针对大坝监测缺失数据提出一个有效的插补模型,以提高大坝结构监测的数据可靠性。本质上,传感器缺失数据的重建,特别是针对大坝效应量缺失数据的重建可以被认为是一个回归问题,可以通过因果模型建立外部荷载和大坝响应之间的关系来预测缺失部分的数据1。然而,在实际工程中大坝的行为可能取决于不可获知的变量因素,对于成熟的监测模型也可能存在环境资料缺乏的情况,无法为因果模型提供完整的特征数据。此外,也可以通过附近测点来判断目标测点的缺失值。这种插补模型通过分析测点序列的相似性,将高相似度的测点引入输入特征集来调控缺失部位的插补结果2。但当实际工程中的测点分布较稀疏,找不到目标测点的高相似28水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/度测点,或该高相似度测点也存在相同时间段的数据缺失问题时,这种插补方式将不再适用。本文从监测量自身时间序列的角度,探究监测量在时间轴上的变化规律,结合过去监测值与未来监测值的发展趋势对中间缺失数据进行插补。目前,常用的缺失数据插补方法有拉格朗日插值法、均值法、最大频率法等3,这些方法理论简单,操作方便,可以为少量零散的缺失部分提供较为准确的插补值。当面对长时间段的数据缺失情况时,通过以上填补技术则往往难以获得高精度的填补数据。近些年国内外学者将许多新兴的技术手段融入其中,并提出了很多优化插补模型,如支持向量机4、XGBoost5、高斯过程回归6等。以上研究均是以传统机器学习算法为导向,为解决数据缺失问题提供了较好的技术支持,但浅层机器学习算法依赖于一些需要人工设定的超参数,技术人员的操作经验决定了模型的训练效果。随着神经网络技术的发展,更加复杂层次的深度学习在相关领域中已取得重大突破7鄄9。深度学习存在两个重要的分支 循环 神 经 网 络(recurrent neural network,RNN)10与 卷 积 神 经 网 络(convolutional neuralnetwork,CNN)11。RNN 在传统神经网络的基础上嵌入反馈、循环结构,具备记忆功能,但其结构相对简单,只能设置为神经元之间权重共享的连接形式,因此 RNN 在梯度传递方面存在缺陷,无法解决长时依赖问题,从而无法得到预期的结果。长短期记忆神经网络(long short鄄term memory,LSTM)作为 RNN的一种变体,弥补了 RNN 的梯度缺陷,被广泛应用于时间序列的预测分析12鄄13。CNN 通过利用局部相关性和权值共享的思想,极大地减少了网络参数,提高了训练效率,更容易搭建超大规模的深层网络。因此,CNN 常被用于实现图像识别14、图像分类15以及目标检测16等。本文提出一种基于深度学习框架的双向 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型。该模型融合 CNN 与双向 LSTM(BiLSTM)的算法优势,以提取大坝监测量时间轴的全局特征,同时引入注意力机制(Attention)来捕捉长时间序列中的依赖关系,进一步优化插补过程。此外,针对中间长序列缺失部位,按插补时间步递减的权重融合时间序列正反向插补值,消除时间步累计误差以提高插补精度。1摇双向 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型1.1摇 CNN作为深度学习的代表算法之一,CNN 是一种包含卷积计算的具有深度结构前馈神经网络。与传统模型相比,CNN 可以实现网络结构中的参数共享,减少了模型训练计算所需的内存。一维卷积神经网络主要由输入层、卷积层、池化层、全连接层和输出层组成。输入层接收完整的历史观测变形数据。一维卷积层将预设的卷积核应用于历史观测数据时间轴的特征提取,卷积核在输入数据上滑动产生的一维滤波处理大坝监测数据y通常可以表示为y=tanh移kj=1wjxi-j+k+()b(1)式中:xi-j+k为输入时间序列;wj为卷积核的权重矩阵;b 为偏差;k 为卷积核个数。得到滤波后的大坝变形特征数据后,需要通过池化层进行维数压缩,以减少后续模型构建的计算量,同时赋予这些特征平移不变性,保证特征的可识别性。然后将这些降维特征与全连接层的神经元连接起来进行非线性回归计算,最后通过输出层输出预测结果。1.2摇 LSTMLSTM 是 RNN 的增强结构,继承了 RNN 的优点,同时避免了其在梯度传递方面的缺陷,旨在处理时间序列中呈现的时间相关变量。当输入数据具有一定的依赖关系时,这种网络具有将过去的信息结合到变量未来状态的预测中的优点。基础的 RNN网络结构如图 1(a)所示,上一个时间戳的状态向量ht-1与当前时间戳的输入 xt经过线性变换后,通过激活函数 tanh 后得到新的状态向量 ht。相对于基础的 RNN 网络只有 1 个状态向量 ht,LSTM 新增了1 个状态向量 ct,同时引入门控机制 输入门、遗忘门、输出门,通过门控单元来控制信息的遗忘和刷新。如图 1(b)所示,遗忘门作用于 LSTM 状态向量c 上面,用于控制上一个时间戳的记忆 ct-1对当前时间戳的影响。输入门用于控制 LSTM 对输入的接收程度:淤通过对当前时间戳的输入 xt和上一个时间戳的输出 ht-1做非线性变换得到新的输入向量 軇ct;于输入门的控制变量来自于中间计算变量 gi,表征LSTM 对当前时间戳的新输入 軇ct的接收程度。由此,在遗忘门和输入门的控制下,LSTM 有效读取了上一个时间戳的记忆和当前时间戳的信息,得到当前时间戳新的状态向量 ct。输出门的控制变量为 go,用于控制状态向量 ct的输出程度,即状态向量 ct经过tanh 激活函数后与 go作用,得到 LSTM 的输出 ht。在 LSTM 基 础 上,进 一 步 引 入 双 向 LSTM(BiLSTM),BiLSTM 由分别获得前部和后部特征的前向 LSTM 和后向 LSTM 组成。与 LSTM 相比,BiLSTM 当前循环单元的状态受前后数据的影响,因38水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/此在处理时间序列数据时可以更好地掌握整个数据流的信息。BiLSTM 的结构如图 1(c)所示。图中xi为输入数据,yi为输出数据,wi为权重。前向 LSTM的隐藏层状态 Ai和后向 LSTM 的隐藏层状态 Bi以及 BiLSTM 的输出数据按以下方程进行处理:Ai=f1(w1xi+w2Ai-1)(2)Bi=f2(w3xi+w5Bi+1)(3)yi=f3(w4Ai+w6Bi)(4)图 1摇 RNN、LSTM 与 BiLSTM 结构1.3摇 注意力机制注意力机制源于人脑的视觉信号处理模式,通过快速扫描信息以获取人们想要关注的焦点与目标区域,无用的信息将被忽略。在深度学习中,注意力机制根据不同特征信息分配权重,对关键信息分配更大权重,不重要的内容则分配较小权重,这种差异化的权重分配使得信息处理更加高效。注意力机制的基本思想是从海量数据中提取对后续预测更有用的信息,而实现该目标的本质是计算 LSTM 隐藏层的输出序列,即训练后的输入特征向量,进而得到特征权重向量,从中找到更重要的影响因素,使信息处理更高效和准确。1.4摇 模型构建步骤双向 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型框架如图 2(a)所示。该模型构建步骤如下:淤构建 CNN鄄BiLSTM鄄Attention 深度学习框架,采用 Conv1D 和池化层组成的卷积层提取监测数据的内部特征,其中 Conv1D 提取监测数据时间轴的局部特征,池化层进一步压缩局部特征并生成特征的关键信息;于搭建 BiLSTM 隐藏层,从卷积层提取的局部特征信息中迭代学习,生成动态变化的全局特征;盂将全局特征输入 Attention 层,利用注意力机制对全局特征通过加权方式进行重要性筛分,挖掘监测数据的时间相关性,过滤冗余信息以突出对插补结果影响更为关键的重要特征;榆将 Attention 层与一个全连接层衔接,通过全连接层的激活函数输出最终的插补结果。此外,为了防止过拟合现象,在卷积层后添加 Dropout 层随机丢弃部分神经元,以提高模型的泛化能力与训练速度。图 2摇 双向 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型时间序列插补采用滑动窗口模式,即由窗口内的数据插补下一时刻的监测量,伴随着窗口的滑动,插补值逐渐被更新到窗口内,但这种插补方式会造成插补误差逐步累加。针对中间监测数据缺失的情况,本文采用双向插补模式来对缺失部分进行插补,即通过正向插补与反向插补方式,从时间序列两端同时对缺失数据进行插补,再按插补时间步递减的权重对两组插补值加权平均,二者结果互补形成新的插补值以避免插补误差在时间步中累积增加。如图 2(b)所示,假设缺失部分的数据总时间步为 驻t,正向插补过程的第 1 个插补值的权重为 1,第 2 个插补值的权重为 1-1/驻t,依此类推,最后 1 个权重为 0,则记正向插补结果 y1的权重为 w1=(1,1-1/驻t,0)。同理,反向插补结果y2的权重为w2=1-w1=(0,1/驻t,1),由此获得插补模型最终的插补值为w1y1+w2y2。双向插补模式具体实现步骤如下:淤设置滑动窗口尺寸 L(即特征集的数据量),将采集数据统一规整为特征集与标签集。两端完整数据分别为正向插补与反向插补的训练集,缺失部分为测试集;于搭建 CNN鄄BiLSTM鄄Attention 深度学习框架,并分别对监测数据进行正向与反向插补,得到两组缺失部分的插补数据值;盂为了避免时间步的累积误差,按插补时间步递减的权重对两组插补值加权平均,得到为最终的监测数据缺失部分插补值 軃y。48水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/2摇 工程实例本文使用的模型测试数据来自某水电站工程的大坝 变 形 监 测 数 据。该 工 程 始 建 于 1937 年,1985 年建立真空激光测坝变形系统并开始观测。拦河坝为混凝土重力坝,共由 60 个坝段组成。选取11 号坝段1985 年1 月11 日至2010 年3 月22 日的水平位移作为研究对象,人为删除中间段部分数据,采用双向 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型进行数据填补以验证该模型的性能。2.1摇 数据预处理以水 平 位 移 监 测 数 据 为 例,取 11 号 坝 段1985 年1 月 11 日至 2010 年 3 月 22 日共 612 组的历史测值作为训练集,分别删除两段长序列监测数据作为测试集(图 3):淤缺失部位玉对应 1995 年9 月15 日至 1997 年 4 月 17 日的 30 组监测数据;于缺失部位域对应 2000 年 4 月 11 日至 2001 年 11 月15 日的 20 组监测数据。图 3摇 11 号坝段水平位移样条插值采用时间序列插补模式对缺失部位进行插补,所分析的研究数据需为等间隔时间测值以避免时间效应误差,但实际监测数据资料为不等间隔时间观测,因此需要采用插值技术将其变为等时间间隔时间序列。这里采用三阶样条插值法对监测数据进行规整,如图 3 所示,每天取 1 组插值数据,则 612 组原始数据变为 9200 组插值数据。从图中可以看出,样条插值法对于少量零散的缺失数据插补效果较好,能基本覆盖原始数据的变化曲线。然而,对于长时间的数据缺失,其插补效果尚不能满足精度要求。以滑动窗口模式对时间序列进行分析训练,设定窗口尺寸为 L,即以当前时刻的前 L 个连续监测值推算当前监测值。插补模型的输入数据(特征)为yt-L,yt-2,yt-1,模型的输出数据(标签)为 yt。依照此方式,将数据集重构成特征集与标签集。为提高损失函数收敛速度、防止梯度爆炸,在训练模型前需将数据按公式(5)进行标准化处理,使数据全部落在0,1区间内。通过插补得到缺失部分的插补值后,再利用公式(6)对其进行反标准化处理,将数据恢复到实际监测范围内。y*j=yj-yminymax-ymin(5)y忆j=軇y*j(ymax-ymin)+ymin(6)式中:yj为第 j 个原始监测值;y*j为标准化后的实测值;ymax、ymin分别为实测数据中的最大值与最小值;軇y*j为标准化后的插补值;y忆j为反标准化后得到的实际插补值。2.2摇 模型训练基于 Python 软件深度学习框架 keras 搭建CNN鄄BiLSTM鄄Attention 缺失数据插补模型。根据Chen 等17的建议,应使用至少 3 个年度周期进行建模方可得到较好的训练结果。以缺失部位玉为例,本次训练设置正向插补滑动窗口尺寸为 1 200,反向插补滑动窗口尺寸为 1 600。表 1 给出了反向插补模式下的神经网络模型结构(总参数 201 401个,可训练参数 201401 个,不可训练参数 0 个),训练时采用 Adam 优化算法更新各层网络的参数。图4 为模型在正向与反向训练时损失函数的变化情况,可以看出损失函数在训练过程中变化稳定,且总体呈下降趋势,反映了模型较好的训练性能。表 1摇 反向插补模式下的神经网络模型结构层名输出数据参数连接层输入层(None,1600,1)0/一维卷积层(None,1600,100)200输入层池化层(None,200,100)0一维卷积层Dropout 层(None,200,100)0池化层BiLSTM 层(None,200)160800DropoutAttention 层(None,200)40200BiLSTMMultiply 层(None,200)0BiLSTM,Attention全连接层(None,1)201Multiply图 4摇 模型训练的损失函数曲线基于 CNN鄄BiLSTM鄄Attention 大坝监测缺失数据插补模型,缺失数据的正向插补与反向插补结果如图 5 所示。从图 5 可以看出,该模型两个方向均可获得较好的插补结果,但也反映了插补过程中时间步的累计误差。时间序列插补方式是由滑动窗口内的监测值组合插补下一个时刻未知值,并将窗口滑动一步(去掉第 1 个实测值,在末尾添加获得的插58水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/图 5摇 缺失数据双向插补结果补值),形成新的窗口监测值组合。依照这种方式不断滑动窗口,直至所有的缺失数据均被插补。随着插补过程的推进,这种方式会将插补误差逐渐累加,使得插补值的走向逐渐偏离真实监测值。为了消除这种累积误差,同时使两个方向的插补结果更好地融合,按插补时间步递减的权重对两组插补值加权平均,从而使得误差较小的插补值作为最终插补值的决定因素。如图 5 所示,融合后的计算结果很好地将正反向插补优势阶段组合在一起,其插补值与实测值的拟合程度优于单向插补结果。2.3摇 模型对比选择 平 均 绝 对 误 差(MAE)、均 方 根 误 差(RMSE)和决定系数(R)这 3 个评价指标,定量表示模型插补值 f(xi)与实测值 yi之间的误差。为进一步体现本文所搭建的神经网络模型的优势,选取 Spline、RNN、LSTM 依照双向插补模式分别对缺失数据进行插补,其插补结果的误差对比如表 2所示。由于 Spline 模型对于长时间段缺失数据的插补效果不佳,其误差指标和拟合程度均不如神经网络模型,故而未对 Spline 插值结果的误差指标进行计算。图 6、图 7 分别为 4 种模型缺失部位玉、缺失部位域插补结果与实测值的差异。基于 3 种神经网络模型,通过时间步递减的权重融合后的结果相较于单向插补值的精度都得到一定的提升。LSTM 的插补精度总体高于 RNN,但单向插补结果易出现较大的偏差,其插补性能无法得到稳定的保障。表 2摇 各模型插补误差对比模型方向MAE/mmRMSE/mmR缺失部位玉缺失部位域缺失部位玉缺失部位域缺失部位玉缺失部位域RNNLSTMCNN鄄BiLSTM鄄Attention正向 2.1189 1.5139 2.5276 1.7872 0.3690 0.7824反向 1.8376 1.4459 1.9848 1.7400 0.6836 0.7952双向 1.5260 1.3531 1.7370 1.5824 0.7694 0.8342正向 0.8637 1.5809 1.1270 1.7720 0.9101 0.7866反向 2.3327 1.2135 2.5596 1.6280 0.3378 0.8235双向 1.3357 1.1427 1.5276 1.4233 0.8273 0.8683正向 0.9822 0.9839 1.1876 1.0927 0.8996 0.9247反向 1.3427 0.9741 1.7453 1.2346 0.7669 0.9027双向 0.7626 0.7282 1.1049 0.8798 0.9137 0.9518本文所搭建的 CNN鄄BiLSTM鄄Attention 双向插补模型在正向与反向插补过程中均展现了较佳的插补性能,其双向融合插补值更为贴近实际监测值。这是因为 CNN 从原始时间序列中学习并提取时间轴上的局部特征,BiLSTM 再根据局部特征提取全局68水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/图 6摇 各模型缺失部位玉插补结果与实测值的差异图 7摇 各模型缺失部位域插补结果与实测值的差异特征后,冗余或非关键的特征被引入会影响最后的插补精度。此时,采用注意力机制来提取序列的关键特征,捕捉长时间序列中的依赖关系,克服了传统LSTM 模型的不足。因此,CNN鄄BiLSTM鄄Attention 网络能更有效地优化插补过程,从而提升插补精度。2.4摇 插补效果基于 CNN鄄BiLSTM鄄Attention 双向插补模型,对11 号坝段水平位移缺失数据进行插补,结果表明插补值与实测值基本吻合。此外,为了验证该插补模型针对其他坝段监测量的插补效果,选取 14 号坝段的扬压力、渗流量以及垂直位移的监测序列,分别对中间缺失部位进行插补,表 3 为各效应量最终的插补误差,其中垂直位移插补值与实测值的吻合效果更好,扬压力与渗流量的插补值相较实测值稍有偏差,但总体趋势一致。表 3摇 各效应量插补误差效应量插补位置MAERMSER水平位移扬压力渗流量垂直位移11 号缺失部位玉0.7626 mm1.1049 mm0.913711 号缺失部位域0.7282mm0.8798 mm0.951814 号缺失部位 268.9584 kN/m0.594914 号缺失部位0.1510 L/min 0.2108 L/min14 号缺失部位0.3155 mm0.4024 mm0.96253摇 结摇 论a.搭建了 CNN鄄BiLSTM鄄Attention 神经网络框架,CNN 从原始时间序列中学习并提取时间轴上的局部特征,BiLSTM 再根据局部特征提取全局特征,注意力机制捕捉长时间序列中的依赖关系,进一步优化插补过程。在工程实例中,这种神经网络框架78水利水电科技进展,2023,43(6)摇 Tel:[phone]摇 E鄄mail:jz 摇 http:/展现了比 RNN 以及 LSTM 神经网络模型更优越的插补性能。b.针对监测量中间缺失部分,提出了双向插补模式,并按插补时间步递减的权重对两向插补值加权平均,使误差较小的插补值主导最终插补结果的走向。工程实例表明,双向融合插补值与实测值的拟合程度优于单向插补结果,其处理长序列监测数据缺失问题时具有较高的插补精度。参考文献:1 邱德俊,周洋,仲静文,等.基于空间邻近点与极限学习机的大坝位移缺失数据补齐J.水力发电,2021,47(12):98鄄101.(QIUDejun,ZHOUYang,ZHONGJingwen,etal.Missingdatacomplementofdamdisplacementbasedonspatialproximitypointsandextreme learning machine J.Water Power,2021,47(12):98鄄101.(in Chinese)2 黄成章,顾冲时,何菁.混凝土坝变形监测缺失数据处理新方法J.水利水电科技进展,2022,42(2):89鄄94.(HUANG Chengzhang,GU Chongshi,HE Jing.A novelmethod for processing missing data of concrete damdeformationJ.Advances in Science and Technology ofWater Resources,2022,42(2):89鄄94.(in Chinese)3 于烨,黄默,杨斌,等.一种高精度导航卫星钟差中长期预报方法J.仪器仪表学报,2019,40(9):36鄄43.(YUYe,HUANG Mo,YANG Bin,et al.A high鄄precisionmedium鄄longtermpredictionmethodfornavigationsatellite clock bias J.Chinese Journal of ScientificInstrument,2019,40(9):36鄄43.(in Chinese)4 ALHROOB A,ALZYADAT W,ALMUKAHEL I,et al.Missing data prediction using correlation genetic algorithmand SVM approachJ.International Journal of AdvancedComputer Science and Applications,2020,11(2):703鄄709.5 ZHANG Kang,GU Chongshi,ZHU Yantao,et al.A novelseepage behavior prediction and lag process identificationmethod for concrete dams using HGWO鄄XGBoost modelJ.IEEE Access,2021,9:23311鄄23325.6 LI Yangtao,BAO Tengfei,CHEN Zexun,et al.A missingsensormeasurementdatareconstructionframeworkpowered by multi鄄task Gaussian process regression for damstructural health monitoring systems J.Measurement,2021,186:110085.7 LIN Weichao,TSAI C F,ZHONG Jiarong.Deep learningfor missing value imputation of continuous data and theeffectofdatadiscretization J.Knowledge鄄BasedSystems,2022,239:108079.8 黄伟建,李永涛,黄远.基于混合神经网络和注意力机制的混沌时间序列预测J.物理学报,2021,70(1):010501.(HUANG Weijian,LI Yongtao,HUANG Yuan.Prediction of chaotic time series using hybrid neuralnetwork and attention mechanism J.Acta PhysicaSinica,2021,70(1):010501.(in Chinese)9 刘艳,张婷,康爱卿,等.Seq2Seq 模型的短期水位预测J.水利水电科技进展,2022,42(3):57鄄63.(LIUYan,ZHANG Ting,KANG Aiqing,et al.Short鄄term waterlevel prediction based on Seq2Seq modelJ.Advances inScience and Technology of Water Resources,2022,42(3):57鄄63.(in Chinese)10 刘恒勇,史帅彬,徐旭辉,等.一种关联 RNN 模型的非侵入式负荷辨识方法J.电力系统保护与控制,2019,47(13):162鄄170.(LIU Hengyong,SHI Shuaibin,XUXuhui,et al.A non鄄intrusive load identification methodbased on RNN modelJ.Power System Protection andControl,2019,47(13):162鄄170.(in Chinese)11 张乾坤,蒙继华,任超.构建地块二维表征及 CNN 模型的作物遥感分类J.遥感学报,2022,26(7):1437鄄1449.(ZHANG Qiankun,MENG Jihua,REN Chao.Cropclassification based on two鄄dimensional representation andCNN model from remote sensing J.National RemoteSensing Bulletin,2022,26(7):1437鄄1449.(in Chinese)12 欧斌,吴邦彬,袁杰,等.基于 LSTM 的混凝土坝变形预测模型J.水利水电科技进展,2022,42(1):21鄄26.(OU Bin,WU Bangbin,YUAN Jie,et al.LSTM-baseddeformation prediction model of concrete dams J.Advances in Science and Technology of Water Resources,2022,42(1):21鄄26.(in Chinese)13 KANG H,YANG S,HUANG Jianying,et al.Time seriesprediction of wastewater flow rate by bidirectional LSTMdeep learning J.InternationalJournalofControl,Automation and Systems,2020,18(12):3023鄄3030.14 HUNG P D,SU N T,DIEP V T.Surface classification ofdamaged concrete using deep convolutional neural networkJ.Pattern Recognition and Image Analysis,2019,29(4):676鄄687.15 张安安,黄晋英,冀树伟,等.基于卷积神经网络图像分类的轴承故障模式识别J.振动与冲击,2020,39(4):165鄄171.(ZHANG Anan,HUANG Jinying,JIShuwei,et al.Bearing fault pattern recognition based onimage classification with CNN J.Journal of Vibrationand Shock,2020,39(4):165鄄171.(in Chinese)16 杨龙,苏娟,黄华,等.一种基于深层次多尺度特征融合CNN 的 SAR 图像舰船目标检测算法J.光学学报,2020,40(2):0215002.(YANG Long,SU Juan,HUANGHua,et al.SAR ship detection based on ConvolutionalNeural Network with deep multiscale feature fusionJ.Acta OpticaSinica,2020,40(2):0215002.(inChinese)17 CHEN Siyu,GU Chongshi,LIN Chaoning,et al.Predictionofarchdamdeformationviacorrelatedmulti鄄targetstackingJ.Applied Mathematical Modelling,2021,91:1175鄄1193.(收稿日期:20221028摇 编辑:骆超)88