考虑时空相关性的大坝渗压组合深度学习预测模型.pdf

第 42 卷第 11 期 水 力 发 电 学 报 Vol.42,No.11 2023 年 11 月 Journal of Hydroelectric Engineering Nov.2023 收稿日期：收稿日期：2023-04-29 接受日期：接受日期：2023-06-13 基金项目：基金项目：国家自然科学基金委员会-雅砻江流域水电开发有限公司雅砻江联合基金(U1965207)作者简介：作者简介：王晓玲(1968),女,教授.E-mail: 考虑时空相关性的大坝渗压组合深度学习预测模型 王晓玲，朱开渲，余红玲，蔡志坚，王 成（天津大学 水利工程仿真与安全国家重点实验室，天津 300072）摘摘 要：要：针对现有大坝渗压组合预测研究大多仅基于单一测点进行建模，忽略了大坝渗压多测点测值的时空相关性，且大多采用线性组合策略，存在难以捕捉子模型间的非线性特征等问题，提出一种考虑时空相关性的大坝渗压组合深度学习预测模型。首先，采用 K 近邻（KNN）优化密度峰值聚类（DPC）算法的局部密度函数，以实现渗压时序时空相关特征的提取与自适应聚类；其次，在采用小波分解（WD）对渗压时序进行多尺度细化的基础上，利用小波神经网络（WNN）捕获渗压时序数据的高频细节特征，并基于双向长短期记忆网络（BiLSTM）建立渗压时序数据的低频趋势特征与时空特征、外界环境影响因子之间的高度非线性映射模型；进一步，基于长短期记忆网络（LSTM）对高、低频特征序列的预测结果进行非线性组合，以捕捉子模型之间的非线性特征。工程案例分析结果表明，相比于未考虑时空相关性的单点预测模型和采用线性组合策略的时空预测模型，所提模型的预测精度分别提高了 75.7%和 41.4%，验证了所提模型的有效性，为大坝渗流安全监控提供了新思路。关键词：关键词：大坝渗压预测；时空相关性；非线性组合模型；深度学习；密度峰值聚类 中图分类号：中图分类号：TV698.1 文献标志码：文献标志码：A DOI:10.11660/slfdxb.20231108 论文引用格式：论文引用格式：王晓玲,朱开渲,余红玲,等.考虑时空相关性的大坝渗压组合深度学习预测模型J.水力发电学报,2023,42(11):78-91.WANG Xiaoling,ZHU Kaixuan,YU Hongling,et al.Combinatorial deep learning prediction model for dam seepage pressure considering spatiotemporal correlation J.Journal of Hydroelectric Engineering,2023,42(11):78-91.(in Chinese)Combinatorial deep learning prediction model for dam seepage pressure considering spatiotemporal correlation WANG Xiaoling,ZHU Kaixuan,YU Hongling,CAI Zhijian,WANG Cheng(State Key Laboratory of Hydraulic Engineering Simulation and Safety,Tianjin University,Tianjin 300072,China)Abstract:Most of the previous studies on the combined prediction of dam seepage pressure are based on a single pressure measurement point for modeling,ignoring the spatiotemporal correlation of multiple measurement points and using a linear combination strategy which suffers problems such as difficulty in capturing nonlinear features between sub-models.This paper constructs a combinatorial deep learning prediction model for dam seepage pressure,considering spatiotemporal correlation.First,the K-nearest neighbor(KNN)is used to optimize the local density function of the density peaks clustering(DPC)algorithm,so as to extract spatiotemporal correlation features from a seepage pressure time series and to achieve adaptive clustering.Then,for the time series,on the basis of its multi-scale refinement by wavelet decomposition(WD),the wavelet neural network(WNN)is used to capture its high-frequency 王晓玲，等：考虑时空相关性的大坝渗压组合深度学习预测模型 79 details and construct a highly nonlinear mapping model based on the bidirectional long short-term memory(BiLSTM)for its low-frequency trend characteristics,spatiotemporal characteristics,and external environmental impact factors.Finally,the prediction results of high-and low-frequency feature sequences are combined nonlinearly based on the long short-term memory network(LSTM)to capture the nonlinear characteristics between sub-models.An engineering case analysis shows that our new model raises the prediction accuracy by 75.7%and 41.4%,respectively,compared with the single point prediction model without considering spatiotemporal correlation and the spatiotemporal prediction model using linear combination strategy.This validates its applicability and efficacy as a new approach for dam seepage safety monitoring.Keywords:dam seepage pressure prediction;spatiotemporal correlation;nonlinear combinatorial model;deep learning;density peak clustering 0 引言引言 根据大坝安全监测数据建立数学模型是渗流安全性态分析中常用的方法。受上下游水位、降雨、温度以及坝体材料等时变因素的耦合影响1-2，大坝渗压呈现出趋势性、随机性等非平稳时序特征3。此外，坝体填筑材料4和坝基地层岩土5的空间异质性以及大坝渗流过程的动态关联性6导致大坝渗压多测点测值之间存在时空相关特征。因此，开展考虑时空相关特征的大坝渗压预测研究对于充分挖掘渗压时序变化规律、及时了解和评估大坝渗流安全状况和发展趋势具有重要的理论和实践意义7。随着人工智能技术的快速发展，神经网络8-9、随机森林10、支持向量机2,11-12、极限学习机13等机器学习方法逐渐成为大坝渗流安全预测研究中的有力工具，但此类静态模型因缺乏递归连接而难以对监测时间较长、波动幅度较大或滞后关系较为复杂的时序数据进行准确建模14。长短期记忆网络（long short term memory networks，LSTM）能够通过独特的门结构传递时序信息，而有利于处理较长的时序数据，现已被应用于大坝渗流预测研究中14-16。双向长短期记忆网络（Bidirectional LSTM，BiLSTM）既保留了 LSTM 出色的时序处理能力，又考虑了前后时段的时序信息，提高了特征提取的全局性17，对于复杂的回归问题具有较好的拟合性能。然而，对具有不同变化规律的监测数据，单一模型存在预测精度较低、泛化能力较差的问题18。部分学者在渗流效应量预测研究中通过结合多种模型的优势，进一步优化模型的整体预测性能。例如，孙培学等19应用熵原理提出了基于多元线性回归模型和BP神经网络的线性组合预测模型；张海龙等20应用最大熵原理融合了渗流统计模型和小波神经网络的预测优势；刘永涛等21采用集成经验模态分解和相关向量机建立了渗流量的预测模型。相较于传统的单一预测模型，组合预测模型可综合多个模型的优势，从而提高模型的预测精度和泛化能力。然而，现有组合预测模型大多仅针对局部测点建模，忽略了多测点间的时空相关性。坝体不同部位的渗压变化规律呈现出不同程度的相关性，渗压的空间关联程度通常表现为监测序列间的相似度。聚类分析方法可以合并相似时序22，在相同聚类簇中，监测序列的时序特征相似性较高，而在不同聚类簇中，监测序列的时序特征相似性较小23。因此，可基于聚类算法辨识渗压监测序列的高维时空特征，进而构建大坝渗压的时空预测模型24。密度峰值聚类（density peaks clustering，DPC）算法25具有聚类速度快、能够快速发现任意形状的类簇、鲁棒性强等特点，且该算法具有唯一的输入参数、无需先验知识和迭代。目前，DPC 算法在负荷曲线聚类26、风电场风速预测27、超短期负荷预测28等研究中取得良好应用效果。然而，DPC 算法的局部密度函数易受截断距离的影响，而传统研究大多通过经验知识设置 DPC 算法的截断距离，存在主观性较强、聚类结果不稳定等问题29。K 最近邻（K-nearest neighbor，KNN）具有快速获取数据集分布的局部信息的优势30-32，因此，本文采用KNN 构建不受截断距离影响的局部密度函数，从而提高 DPC 的聚类精度33。此外，大坝渗压时序通常是兼具趋势性、随机性等时变特征的非平稳序列，为充分挖掘渗压时序80 水力发电学报 数据的时变特征，将原始时序信号分解为多组频率不同的分量，并建立大坝渗压组合预测模型，可有效避免各分量互相干扰34。常用时序数据分解方法有经验模态分解（empirical mode decomposition，EMD）、小波分解（wavelet decomposition，WD）等。其中，小波分解是一种多分辨率时频分析方法，能够通过伸缩和平移变换实现时序数据的多尺度细化，从而有效提取时序数据的局部信息，对于非平稳、非线性序列具有良好的分析能力。另外，在大坝长期服役过程中，渗压时序蕴含着复杂的时间相关性。渗压时序的趋势分量和细节分量在不同时段、不同运行条件下动态变化。现有渗压组合模型大多采用线性组合策略，难以捕捉各模型间底层特征的关联35，存在预测精度和运行效率较低的问题36。相较于线性组合策略，基于深度学习的非线性组合机制可较好提取和表征单个模型的深层非线性特征35,37，有助于分析各分量间复杂的非线性作用关系。综上所述，为挖掘大坝渗压监测数据的时空相关特征，本文提出一种考虑时空相关性的大坝渗压组合深度学习预测模型。首先，提出了一种可自适应调节样本局部密度的聚类算法 KNN-DPC，以实现全坝段渗压时序的时空相关性聚类；在此基础上，提出了基于分解组合学习的数据挖掘模型，包括基于 WD 的渗压时序多尺度特征提取方法、基于BiLSTM 网络的低频趋势序列时空预测模型和基于 WNN 的高频细节序列预测模型；最后，采用基于深度学习网络的非线性加权积分技术融合多个模型的非线性特征，实现对大坝长期渗压监测数据的时空组合预测。1 考虑时空相关性的大坝渗压组合深度学习预测模型考虑时空相关性的大坝渗压组合深度学习预测模型 本文所提考虑时空相关性的大坝渗压组合深度学习预测模型如图 1 所示，模型由目标函数集、输入数据集、方法集和评价指标集组成。（1）定义了所提模型的目标函数。该函数基于方法集 M 实现输入数据集和大坝渗压预测结果P 间的非线性映射，同时获得预测结果的误差评价指标集 Test。（2）定义了模型的输入数据集，包括库水位 分量Hp、降雨分量Rp、温度分量Tp和时效分量p，以及渗压监测时序矩阵(),xyp s t，各环境分量38-39的定义为：HRT,lntijtijtijppH HpR RpT Tp（1）式中：p为渗压水位，m；Hp、Rp、Tp、p分别为库水位分量、降雨分量、温度分量和时效分量，m；tH为观测日当天的库水位，m；ijH为观测日前的第i天至第j天的平均库水位，m；tR为观测日当天的降雨量，mm；ijR为观测日前第i天至第j天的平均降雨量，mm；tT为观测日当天的气温，；ijT为观测日前第i天至第j天的平均气温，；为观测日至始测日的累计天数除以 100。图图 1 考虑时空相关性的大坝渗压组合深度学习预测数学模型考虑时空相关性的大坝渗压组合深度学习预测数学模型 Fig.1 Mathematical model for combinatorial deep learning prediction of dam seepage pressure considering spatiotemporal correlation 王晓玲，等：考虑时空相关性的大坝渗压组合深度学习预测模型 81 渗压时序矩阵的定义为：()()()()()1111,nxynnnp s tp s tp s tp s tp s t=（2）式中：(),xyp s t为测点ns在nt时刻的渗压实测值，m。渗压矩阵沿时间维展开结果为测点渗压时序()()1,nnnp s tp s t；沿空间维展开为渗压值时空分布()()1,nnnp s tp s t。（3）定义了模型的方法集，包括基于KNN-DPC的渗压时序时空相关性聚类方法、基于WD的渗压时序多尺度特征提取方法、基于WNN的渗压高频序列预测方法、基于BiLSTM的渗压低频序列时空预测方法以及基于LSTM的多模型非线性组合预测方法。（4）定义了模型的评价指标集，聚类评价指标包括：轮廓系数（silhouette coefficient，SC）、戴维森堡丁指数（Davies-Bouldin index，DBI)、卡林斯基-哈拉巴斯指数（Calinski-Harabaz index，CHI）；预测结果评价指标包括：均方根误差（root mean square error，RMSE）、平均绝对误差（mean absolute error，MAE）、平均绝对百分比误差（mean absolute percentage error，MAPE）和拟合优度R2，其中，RMSE对局部异常值的敏感性较高。1.1 基于基于 KNN-DPC 的渗压时序时空相关性聚类的渗压时序时空相关性聚类 坝体不同部位的渗压变化规律呈现出不同程度的相关性，通过相似序列聚类可识别数据变化模式差异。密度峰值聚类（density peaks clustering，DPC）算法是快速搜索和查找样本密度峰值的聚类算法，其基本思想为：聚类簇中心序列的局部密度大于属于该聚类簇所有渗压时序的局部密度，并且与其他聚类簇中心序列距离较远。渗压监测时序的 局部密度ir的高斯核计算方式为：2,expi jiijCddr=-（3）式中：,i jd为渗压时序ix和jx之间的距离，采用相关距离作为距离函数；Cd为截断距离，通常由人工根据经验设定。考虑到DPC算法聚类效果易受截断距离Cd 的影响，因此采用基于KNN优化的DPC算法。该算法使用KNN获取k条渗压时序的最近邻信息，再利用时序的最近邻信息定义一种新的局部密度函数。改进后渗压时序的局部密度计算公式如下：KNNKNNKNNexpiijijjimjjmddr=-（4）式中：KNNi为渗压时序ix的k近邻序列集；ijd为渗压时序ix与其k最近邻序列集的距离，刻画了时序ix的离散程度；KNNjmjmd代表时序ix的k个 近邻序列的离群程度之和。该密度函数可以适应不同大小数据集并且不 需要人工设定截断距离Cd，可排除远处无关序列 的干扰31-32。最小距离i为渗压时序ix和高于其密度且相 距最近渗压时序之间的距离，定义为：,:,min,ifmax,otherwisejii jjij ii jjdd=（5）DPC算法认为同时拥有较高的局部密度ir和较大最小距离id的渗压时序为密度峰值点，即类簇 中心。找到密度峰值后，剩余测点的渗压时序被分配给比其密度高的最近时序所在类簇。1.2 基于基于 WD-BiLSTM-WNN-LSTM 的大坝渗压组合预测的大坝渗压组合预测 1.2.1 基于基于 WD 的渗压时序多尺度特征提取的渗压时序多尺度特征提取 小波分解（wavelet decomposition，WD）是小波变换方法中的分解策略之一。小波基函数定义为：设()t是一个平方可积的函数，即()()2 tLR，如果其傅里叶变换()满足式（6），那么称()t为母小波，母小波经过平移和伸缩后可得到小波基 函数：()2d-（6）(),1da btbttaa-=（7）对于任意一个函数()f t，连续小波函数(),tW a b可以表示为：()()1,dttbW a bf t taa-=（8）式中：a，b分别为尺度因子和平移因子。小波分解中低通滤波器的分解结果是渗压近似级数，而高通滤波器的分解结果是渗压细节级数。近似级数和细节级数将渗压序列的趋势分量和细82 水力发电学报 节分量明确表现出来。1.2.2 基于基于 WNN 的渗压高频序列预测的渗压高频序列预测 基于小波分解方法可以将原始波动的渗压时序分解成性能较好的细节子序列和具有特定特征的近似子序列。高频细节项所包含的信息随机性较大，若引入深度学习方法将会增加模型过拟合风险、降低计算效率。为兼顾预测性能、模型复杂度及运算效率，采用结构较为简单且具有时频局部特性和聚焦特性的小波神经网络对高频子序列建立预测模型。小波神经网络（wavelet neural network，WNN）是改进的BP网络，将原先的隐含层的Sigmiod激活函数替换为鲁棒性好、计算稳定的小波函数Morlet小波，其表达式为：()()22cos 1.75x xx e-=（9）小波神经网络包含信号正向传播和误差逆向传播两个过程。输入神经网络的渗压监测数据经隐含层向前传播，最后抵达输出层。以三层小波神经网络为例，隐含层第j个节点的输出值为：1nijijijj xba=-=（10）式中：ja、jb分别为小波函数的尺度因子和平移因子，1,2,jm=，m为隐含层节点数；ij为输 入层第i个节点与隐含层第j个节点的连接权值，n为输入层节点数。输出层表达式为：1mjjkjjy=（11）式中：jk为输出层第k个节点与隐含层第j个节点的连接权值，1,2,kt=，t为输出层节点数。当输出结果与测试值偏差较大时，该误差将逆向传播至输入层，神经网络根据误差调整各层单元的权值后，数据再次从输入层传播至输出层，如此反复调整直到达到最大迭代数。1.2.3 基于基于 BiLSTM 的渗压低频序列时空预测的渗压低频序列时空预测 由小波分解方法所得的具有特定特征的近似子序列也称为低频趋势项，该项与原序列具有较高相似度，包含着复杂的时间关联信息。长短期记忆网络（LSTM）模型及其变体形式是一类适合处理长期时间序列数据的深度学习模型14，但LSTM仅按时间顺序正向处理数据，因此其预测结果主要受先前时段的影响40。双向长短期记忆网络（BiLSTM）是由前向LSTM和后向LSTM构成，进行双向训练。根据该结构，BiLSTM输入包含前后时段的时间序列。在每个时刻t，输入序列被输入到两个方向相反的LSTM，并且输出由两个LSTM共同确定。其结构如图2所示。图图 2 双向长短期记忆网络结构双向长短期记忆网络结构 Fig.2 Structure of bidirectional long short-term memory network 单个LSTM网络的输入值包括当前时刻的环 境量和同簇测点渗压值tx、上一时刻的隐藏状态1th-和单元状态1tC-。输出值为当前时刻的隐藏状态th和单元状态tC，二者分别记录并传递着渗压 时序中具有短期相关性和长期相关性的信息41。LSTM通过门结构对细胞状态所含信息进行增删，门结构包括遗忘门、输入门和输出门，三个门限所对应的函数都是取值为0 1的sigmoid函数。根据LSTM的网络结构，每个LSTM单元的计算公式如下：()1,tfttff Whxb-=+（12）()1,tittii W hxb-=+（13）()*1tanh,tCttCCWhxb-=+（14）王晓玲，等：考虑时空相关性的大坝渗压组合深度学习预测模型 83 *1tttttCfCi C-=+（15）()1,tOttOO Whxb-=+（16）()tanhttthOC=（17）式中：tf为遗忘门限；ti为输入门限；*tC为当前时刻初始单元状态；tC为当前时刻单元状态；tO为输出门限；th为当前单元的输出；1th-为前一时刻单元的输出；fW、iW、CW、OW 为对应结构的权重矩阵；fb、ib、Cb、Ob 为对应结构的偏置项。1.2.4 基于基于 LSTM 的多模型非线性组合预测的多模型非线性组合预测 非线性组合机制的实质是对高频分量和低频分量的预测结果进行二次预测42，通过训练大量连续的表示层从数据中学习数据关联特征。考虑到各分量的时变特性，采用多维LSTM非线性组合高频序列、低频序列预测结果：()LSTMBiLSTMWNN,PfPP=（18）式中：BiLSTMP为低频序列预测结果；WNNP为高频序列预测结果；LSTMf为各子模型预测结果与组合模 型预测结果间的非线性映射关系，通过最小化均方根误差训练得到。综上，所提考虑时空相关性的大坝渗压组合深度学习预测模型的流程如图3所示。首先基于KNN-DPC聚类算法识别渗压时序时空差异。进一步，基于小波分解对渗压时序逐步进行多尺度细化；并在双向长短期记忆网络输入端耦合影响因子及多测点间的时空关联信息，以挖掘低频子序列趋势性特征；同时，采用小波神经网络提取高频子序列细节特征。最后采用长短期记忆网络拟合子模型间的非线性关系，进而得到各测点渗压时序时空组合预测结果。图图 3 考虑时空相关性的大坝渗压组合深度学习预测模型流程考虑时空相关性的大坝渗压组合深度学习预测模型流程 Fig.3 Flowchart of combinatorial deep learning prediction model for dam seepage pressure considering spatiotemporal correlation 2 案例分析案例分析 为验证所提模型的合理性，选用西南地区糯扎渡水电站坝体渗压监测数据开展渗压预测研究，选取全坝段及防渗帷幕共计50个渗压计2014年4月1日2017年9月2日的日监测数据作为研究样本，编号依次简记为P1、P2、P50，并对其进行缺失值插补、异常值剔除、归一化和标准化等数据预处理。2.1 渗压时序相关性分析渗压时序相关性分析 图4展示了所选研究测点在1251天内的渗压变化情况。由于变化趋势和波动程度的差异，大坝渗压时序呈现出多类不同的曲线形状，同类别间渗压序列的变化规律高度相似。序列之间的相关系数分布情况如图5所示，图中P1 P50依次表示50个测点的渗压监测序列，序列间的相关程度通过相关系数度量。渗压监测时序之间具有较强相关性，各序列相关系数的均值为 84 水力发电学报 图图 4 大坝渗压实测过程线大坝渗压实测过程线 Fig.4 Time variations in measured dam seepage pressures 图图 5 大坝渗压监测序列相关系数图大坝渗压监测序列相关系数图 Fig.5 Correlation coefficient graph of dam seepage pressure monitoring sequences 54.7%，中位数为57.4%，上四分位数为87.9%。2.2 基于基于 KNN-DPC 的渗压时序时空相关性聚类的渗压时序时空相关性聚类 为了合并相似的渗压时序，以相关距离作为序列间的距离函数，采用KNN-DPC算法进行聚类分析，该方法具有唯一待定参数k。由于真实分类标签未知，故通过内部聚类评价指标探讨不同k值对聚类结果的影响，以确定最优k值。结果如图6所示，CH对k值的敏感程度高于SC和DBI，故选择CH最大值所对应的k值（k=4），即每个样本点的局部密度需融合4个近邻点的信息。据此，最终划分出3个序列簇。决策过程及标准化后的聚类结果如图7、图8所示。图图 6 基于不同基于不同 k 值的值的 KNN-DPC 算法聚类效果评价算法聚类效果评价 Fig.6 Evaluation of clustering performance of KNN-DPC algorithm based on different k values 王晓玲，等：考虑时空相关性的大坝渗压组合深度学习预测模型 85 图图 7 KNN-DPC 决策图决策图 Fig.7 KNN-DPC decision graph 图图 8 基于基于 KNN-DPC 算法的渗压时序聚类结果算法的渗压时序聚类结果 Fig.8 Clustering results of seepage pressure time series based on KNN-DPC algorithm 2.3 基于基于 WD 的渗压时序多尺度特征提取的渗压时序多尺度特征提取 选择具有较好正则性的dbN小波作为小波函数以流畅地重构信号。为兼顾小波频带划分能力、计算效率和实时性分析能力43，取小波函数阶数N=3。为避免由于分解层数越高造成的信息丢失、计算性能下降及误差累积等问题43-44根据经验选取较小的分解层数，通常选择三层。图9展示了测点P07渗压时序小波分解结果。图图 9 测点测点 P07 渗压时序小波分解结果渗压时序小波分解结果 Fig.9 Wavelet decomposition results of seepage pressure time series at measuring Point P07 2.4 渗压时空预测模型构建与分析渗压时空预测模型构建与分析 渗压监测时序数据维度为501251，影响因子数据维度为141251，包括、ln、sin(2t/365)、cos(2t/365)、sin(4t/365)、cos(4t/365)、T、P、P1-3、P4-7、H1-3、H4-7、库水位、尾水位，二者合并即为输入数据集。其中，训练集与测试集比例为4:1，并按1.2节中的步骤对不同聚类簇的渗压序列进行组合预测。各监测点处的渗压时序建模参数略有不同，主要参数设置如下：求解器设置为Adam，epoch=200轮，dropout取值范围0.3,0.5；为在一定程度上避免梯度消失和梯度爆炸，梯度阈值设置为1；WNN隐匿层层数取值范围2,5；并采用粒子群优化（particle swarm optimization,PSO）算法对BiLSTM和LSTM的学习率和隐匿层单元数进行寻优，参数取值如表1所示。表表 1 PSO-BiLSTM 及及 PSO-LSTM 的网络参数的网络参数 Table 1 Network parameters of PSO-BiLSTM and PSO-LSTM 测点 PSO-BiLSTM PSO-LSTM 学习率隐匿层单元数 学习率 隐匿层单元数 P07 0.0044 144 0.0085 224 P15 0.0040 250 0.0257 200 P26 0.0027 164 0.0025 223 P29 0.0060 126 0.0024 250 P39 0.0001 300 0.0057 200 P49 0.0105 89 0.0022 244 86 水力发电学报 本文所提组合预测模型由双向长短期记忆网络（BiLSTM）、小波神经网络（WNN）和长短期记忆网络（LSTM）构成，模型较为复杂。模型复杂度的选取是避免过拟合、保证预测性能的重要环节。模型的预测分析分为两个阶段，第一阶段包括基于WNN的渗压高频细节序列建模分析和基于BiLSTM的渗压低频趋势序列建模分析，第二阶段是基于LSTM的多模型非线性组合预测。WNN隐匿层层数较低，对组合模型复杂度影响较小。两个深度学习模块（BiLSTM和LSTM）的隐含层神经元数目是影响所提模型复杂度的主要参数。因此本文将分阶段对比分析不同结构的BiLSTM和LSTM的拟合情况，以确定相对较优的模型结构。合适的模型复杂度需要兼顾训练集拟合精度、测试集拟合精度及过拟合比45（测试集RMSE/训练集RMSE），使三者尽可能同时取得较优值。以P29渗压时序为例，图10、图11分别展示了含有不同隐含层神经元数目的两个模型（BiLSTM和LSTM）在训练集和测试集中的拟合误差，同时，引入过拟合比评估模型的过拟合情况。由图10可知，当BiLSTM隐含层神经元数取126时，模型训练误差RMSE为0.5444 m，在对比模型中处于较低值，仅高于隐含层神经元数取130时的训练RMSE（RMSE=0.4645 m）；且其预测误差RMSE为1.3506 m，在对比模型中取得最小值；对应的过拟合比为2.4808，在对比模型中取得较小值。其余对比模型难以兼顾训练集拟合精度、测试集拟合精度和过拟合比，因此在所选对比模型中，BiLSTM模型的复杂度相对合理。图图 10 基于不同基于不同 BiLSTM 的低频序列预测效果对比的低频序列预测效果对比 Fig.10 Comparison of low frequency sequence prediction results based on different BiLSTM 确定BiLSTM和WNN的较优参数后开始第二阶段的训练。由图11可知，当LSTM的隐含层神经元数取250时，模型训练误差RMSE为0.4140 m，在对比模型中处于中游水平；但其预测误差RMSE为0.4440 m，在对比模型中取得最小值；对应的过拟合比为1.0725，在对比模型中取得较小值。其余对比模型难以兼顾训练集拟合精度、测试集拟合精度和过拟合比，因此在所选对比模型中，LSTM模型的复杂度相对合理。综合两个阶段可获得组合模型的较优参数集。图图 11 基于不同基于不同 LSTM 的组合预测效果对比的组合预测效果对比 Fig.11 Comparison of combined prediction results based on different LSTM 图12、图13依次展示了测点P07、P29处的渗压预测结果。图图 12 测点测点 P07 渗压时序预测结果渗压时序预测结果 Fig.12 Prediction results of seepage pressure time series at measuring Point P07 图图 13 测点测点 P29 渗压时序预测结果渗压时序预测结果 Fig.13 Prediction results of seepage pressure time series at measuring Point P29 王晓玲，等：考虑时空相关性的大坝渗压组合深度学习预测模型 87 结果表明：预测曲线和实测曲线表现出较高相似度，模型预测效果良好。本文模型可以较好地拟合渗压数据的总体变化趋势和局部波动特征。模型在P29处的RMSE为0.444 m，MAE为0.370 m，MAPE为0.421%；在P07处的RMSE为0.043 m，MAE为0.032 m，MAPE为0.104%。P29测点处的渗压时序预测误差随机分布，无明显的预测误差。然而，P07测点在2017年6月26日2017年8月26日期间预测误差逐渐增大。造成该现象的原因可能是P07处的渗压时序波动程度较大，存在随机波动的特征，如图14所示，因此模型未能精确拟合此类非平稳时序。进一步，设置BP神经网络、随机森林（random forest，RF）、单测点LSTM作为对比算法，图15展示了各模型在P07测点处的预测曲线。通过对比多个模型在P07测点的预测曲线可知，多数传统模型难以针对波动程度较大的序列准确建模，本文所提模型也不例外。尽管如此，本文所提方法在一定程度上更加适用于此类序列数据的建模任务，在非平稳时序预测研究中取得了一定的进展。图图 14 P07 和和 P29 的归一化实测过程线的归一化实测过程线 Fig.14 Normalized time variations in measured pressures at P07 and P29 图图 15 各模型在各模型在 P07 处的预测曲线处的预测曲线 Fig.15 Pressures at P07 predicted using different models 3 讨论讨论 为验证本文所提模型的优越性，本节选取5组对比算法对各聚类簇中心序列及簇内波动较大的序列进行预测分析。对比模型包括单点预测模型BP神经网络、单点预测模型随机森林（RF）、单点预测模型LSTM、线性组合时空预测模型KNN-DPC-WD-BiLSTM-WNN（KD-WBLW）及所提模型。本文所提模型在各个测点处的RMSE依次为0.043 m、0.464 m、0.254 m、0.444 m、1.728 m、0.576 m，MAE依次为0.032 m、0.326 m、0.220 m、0.370 m、1.472 m、0.498 m，MAPE依次为0.104%、0.369%、0.162%、0.421%、3.062%、0.929%，均低于其余对比模型，故本文所提模型预测精度高且具有一定的普适性。同时，本文所提模型具有良好稳定性，可以较好地适应大坝渗压突变情况。例如：测点P26、P29、P39处的渗压时序具有较大波动性，对比模型在此均出现了较大预测误差，本文所提模型在此处仍具有较好预测性能，如图16所示。88 水力发电学报 图图 16 各模型的误差评价指标各模型的误差评价指标 Fig.16 Error indicators for comparing models 为对比各模型的预测性能，图17展示了5个模型在测点P15处的渗压时序拟合优度R2。结果表明：LSTM等深度学习方法在渗压预测任务中预测精度、拟合优度均优于BP神经网络、随机森林等传统的机器学习算法，具有更高的预测精度。相较于单点预测模型，时空组合模型在复杂时序预测任务中预测性能更佳。例如：KD-WBLW和所提模型在测点P15处的预测值仍能基本维持在中心线附近，其RMSE、MAE、MAPE和R2优于BP、RF及LSTM，表明考虑时空特征提升了模型预测精度。所提模型的RMSE、MAE、MAPE和R2均优于KD-WBLW，表明考虑子