基于BO-GRU神经网络的锂离子电池剩余使用寿命预测.pdf

502023,61(12)总第7 12 期机械制造检测试验基于BO-GRU神经网络的锂离子电池剩余使用寿命预测安元超张岳君2林文文沈伟豪1.宁波大学机械工程与力学学院浙江宁波3152112.浙江工商职业技术学院机电工程学院浙江宁波315699摘要：锂离子电池剩余使用寿命预测是锂离子电池健康管理的重要内容。针对锂离子电池剩余使用寿命预测困难、传统循环神经网络预测精度低的问题，提出一种基于贝叶斯优化（BO）门控循环单元(CRU)神经网络的锂离子电池剩余使用寿命预测方法。这一方法提取循环数与对应的容量融合作为新特征，采用滑动窗口方法分割特征数据集，搭建门控循环单元神经网络，在网络中加入随机失活，并采用贝叶斯优化对门控循环单元神经网络参数进行优化。在不同来源数据上进行试验验证，这一方法的相对误差均小于3%，能够实现对锂离子电池剩余使用寿命的准确预测。关键词：锂离子电池剩余使用寿命预测贝叶斯优化门控循环单元神经网络中图分类号：TM912文献标志码：A文章编号：10 0 0-4 9 9 8（2 0 2 3）12-0 0 5 0 0 6Abstract:The prediction of the remaining service life of lithium-ion battery is an important part oflithium-ion battery health management.Aiming at the difficulty of predicting the remaining service life oflithium-ion battery and the low prediction accuracy of traditional recurrent neural network,a remaining servicelife prediction method for lithium-ion battery based on Bayesian optimization-gated recurrent unit neural networkwas proposed.This method extracts the number of cycles and the coresponding capacity fusion as new features,uses the sliding window method to split the feature data set,builds the gated recurrent unit neural network,addsdropout to the network,and uses Bayesian optimization to optimize the parameter of the gated recurrent unitneural network.Experiments on different sources of data show that the relative error of this method is less than3%,which can accurately predict the remaining service life of lithium-ion battery.Keywords:Lithium-ion BatteryRemaining Service LifePredictionBOGRUNeural Network1石研究背景锂离子电池具有能量密度大、功率密度高、使用寿命长、自放电低且无记忆效应等优点，目前已经广泛应用于各类储能装备，尤其是在新能源汽车中，得到了广泛应用。锂离子电池在使用过程中，电池容量会不断衰减。有多个特征能够用于衡量电池容量的衰减，电池最大可用容量下降至初始容量值的8 0%，就可以认为电池失效。锂离子电池剩余使用寿命指锂离子电池最大可用容量从当前时刻衰减到失效阈值所经历的充放电循环周期数2 目前，国内外关于锂离子电池剩余使用寿命预测方法的研究中，最多的是使用基于数据驱动的方法。*国家自然科学基金资助项目（编号：2 2 0 7 8 16 4）基于数据驱动的方法不需要对锂离子电池内部机理进行深刻分析，而是通过挖掘出锂离子电池数据的变化规律，建立预测模型，就可以得到比较准确的锂离子电池剩余使用寿命。常用的基于数据驱动的方法有支持向量机3 、相关向量机(4 、极限学习机5 、人工神经网络6 等。人工神经网络的改进网络在锂离子电池剩余使用寿命预测研究中具有很好的应用，如循环神经网络7 、长短期记忆神经网络8 、门控循环单元神经网络 等。其中，支持向量机、相关向量机、极限学习机等属于浅层学习方法，一般用于处理小规模预测问题，而循环神经网络、长短期记忆神经网络、门控循环单元神经网络属于深度学习方法，具有更强的处理复杂非线性大数据的能512023,61(12)总第7 12 期机械制造检测试验力，适合处理锂离子电池的非线性退化问题。锂离子电池在退化过程中会出现不同程度的容量回升现象10 ,这种容量回升会导致模型的预测准确性降低，对此，不少学者考虑融合其它算法来提高模型的精度。RenLei等(l考虑锂离子电池在实际使用时会受到外部因素的影响，以及标准放电得到的退化数据量的有限性，提出一种Auto卷积神经网络长短期记忆神经网络方法，预测锂离子电池的剩余使用寿命。PanDawei等12 提出一种基于长短期记忆神经网络融合粒子滤波的预测锂离子电池不同工况下剩余使用寿命的方法。Karal13提出一种卷积神经网络长短期记忆神经网络一粒子群优化方法，预测锂离子电池的剩余使用寿命。然后，融合型方法虽然能够在一定程度上提高单一模型的预测精度，但是依然存在建模困难、融合不确定、模型参数调节困难等问题。笔者在以上各研究的基础上，提出一种基于贝叶斯优化一门控循环单元神经网络的锂离子电池剩余使用寿命预测方法。这一方法通过提取循环数作为新特征，与对应的容量特征进行融合，来完成特征数据的升维；采用滑动窗口方法，通过分割特征数据集，完成数据集的扩充；引人随机失活技术，搭建神经网络模型，采用贝叶斯方法优化模型，进而实现对锂离子电池剩余使用寿命的准确预测。2试验数据2.1数据获取笔者采用的数据为美国国家航空航天局实验室的B5号、B6号、B18号电池容量数据与自主测试的1号、2号电池容量数据。为了验证模型在不同数据集上的表现，自主测试的电池型号、试验条件、测试环境设置与美国国家航空航天局数据不同。自主测试的电池为INR1865025P三元锂离子电池。充电方案如下：以4 A恒流方式对锂离子电池充电至电压为4.2 V，然后以4.2 V恒压方式对锂离子电池充电至容量为0.2 5 Ah，停止充电，静置10 min。在充电过程中，每隔1min收集一次电流、电压等数据。在充电结束的静置过程中，每隔3 s收集一次电压等数据。放电方案如下：以2 0 A的放电电流对锂离子电池放电至电压为2.5 V,停止放电，静置3 0 min。在放电过程中,每隔1s收集一次电流、电压等数据。在放电结束的静置过程中,每隔2 min收集一次电压等数据。上述充电、放电各进行一次为一次完整的充放电，通过重复充放电进行循环测试，收集测试数据。2.2数据处理在锂离子电池剩余使用寿命预测中，大多数学者会将容量作为直接特征输人至网络中，进行未来的容量的预测，输入的特征只有一维特征。笔者考虑将每个容量点所对应的循环数作为第二个特征，与容量特征组合为二维特征。考虑到两个特征的量纲不同，采用Z分数标准化公式对数据进行标准化。Y=(1)式中：x为原数据的均值；为原数据的标准差；x为标准化前的数据；y为标准化后的数据。笔者采用滑动窗口法提高模型对数据信息的挖掘能力。滑动窗口法预测如图1所示，滑动窗口的大小为,第一次输人序列为x1，x 2，x 3，x，预测值为k+1，然后剔除第一个值x，将预测值xk+加人第二次输人序列，保证每次输人的数量固定为窗口k，输出预测值。通过滑动窗口分割训练集，分批次输人网络，以达到扩充数据的目的。输入输出X1X2X3XkXk+1-预测X2X3Xk文k+2X3X4-文k+2Xk+3图1滑动窗口法预测3预测原理3.1预测框架基于贝叶斯优化一门控循环单元神经网络对锂离子电池剩余使用寿命进行预测，预测框架如图2 所示，3.2门控循环单元神经网络传统的循环神经网络在解决时间序列问题时容易出现梯度消失、梯度爆炸的问题，一旦出现这种问题，就很难学习到新的信息，因此需要对循环神经网络进行改进。循环神经网络常见的变体有长短期记忆神经网络、门控循环单元神经网络。门控循环单元神经网络是在标准的长短期记忆神经网络基础上改进的，主要将长短期记忆神经网络中的遗忘门和输入门改为一个更新门，从而减少模型参数，加快训练速度。门控循环单元神经网络结构如图3 所示。图3 中，z，为更新门，为重置门，门控循环单元神经网络通过这两个门实现对信息的传输。对门控循环单元神经网络结构中的输人、输出进行计算，为z,=o(W,hr-1,x,)(2)522023,61(12)总第7 12 期机械制造检测试验门控循环单元神经网络序列输入层门控循环单元层最优参数组合训练集随机失活层贝叶斯优化原始数据全连接层回归输出层融合特征容量滑动窗口循环数预测容量输出剩余使用寿命测试集评价图2预测框架Zh重置门更新门tanh图3门控循环单元神经网络结构T,=g(W,h,-1,x,)(3)h,=tanh(W.r,ht-1,x,)(4)h,=(1-z,)hr-1+z,h,(5)式中：（）为sigmoid函数；h，为当前时刻隐藏状态；h,-1为上一时刻隐藏状态；h，为候选隐藏状态；x，为当前时刻输人信息；W，为更新门权重；W，为重置门权重；W为门控循环单元神经网络权重。其中，遗忘门和输人门合并之后，z,是需要记住的信息，忘记信息则通过1一z实现。3.3随机失活随机失活指在深度学习中，通过以一定的概率随机丢弃一些隐含层的神经元，切断神经元与前后神经元之间的信息传递，使其暂时失去活性，目的是防止神经网络对训练数据的过拟合而失去对未来预测的泛化能力。在门控循环单元神经网络训练过程中，加人随机失活，表现为在每一次迭代预测时都会根据一定的概率随机选中一些神经元，使其暂时失活，失活的神经元不再参与前向和后向的传播计算。3.4贝叶斯优化对深度学习模型进行参数耦合较为复杂，在依靠人工经验调节的基础上，确定参数范围，加人参数优化算法，能够进一步寻找到最优的模型参数。贝叶斯优化是机器学习常用的参数寻优算法，适合在深度学习中复杂的神经网络参数调节。笔者采用贝叶斯优化来确定最优参数组合，贝叶斯优化结果见表1。表1贝叶斯优化结果参数优化范围优化结果学习率0.001 0.0150.010555学习率下降因子0.1 0.60.2最大轮数50200100学习率下降周期105050神经元数量10 10090最小训练批次22016随机失活大小0.1 0.50.2滑动窗口大小5 20114评价指标预测锂离子电池的剩余使用寿命，指从预测起点Eop开始预测,直到寿命结束点Eo期间所历经的循环次数。532023,61(12)总第7 1 2 期机械制造检测试验为了定量评价预测性能，采用三种评价指标，分别为绝对误差RuLae、相对误差RuLre和均方根误差RMsE，计算式为：RuLae=Eop-EoLl(6)Rure=Rulae/EoL.100%(7)RMSE1(8)式中：y为容量的预测值；y为容量的真实值；n为参与评价的样本数。5预测结果分析5.1贝叶斯优化初始化长短期记忆神经网络参数、门控循环单元神经网络参数，分别开展训练，对两种锂离子电池分别进行剩余使用寿命预测，再根据表1 参数重新设置长短期记忆神经网络参数、门控循环单元神经网络参数，分别进行训练、预测。两种锂离子电池的剩余使用寿命预测结果如图4、图5、表2 所示。1.91.501.81.451.401.71.35V/鲁1.61001101201301401.5真实值1.4长短期记忆神经网络优化前长短期记忆神经网络优化后门控循环单元神经网络优化前1.3门控循环单元神经网络优化后失效阅值预测起点1.211020406080100120140160180循环次数图4B5号电池剩余使用寿命预测结果2.5厂2.102.42.052.32.002.21.952.11.901601802002202.0真实值长短期记忆神经网络优化前1.9长短期记忆神经网络优化后门控循环单元神经网络优化前1.8门控循环单元神经网络优化后失效阈值预测起点1.7050100150200250300循环次数A图51号电池剩余使用寿命预测结果由表2 可知，对于美国国家航空航天局实验室数据，贝叶斯优化后长短期记忆神经网络、门控循环单元神经网络的平均相对误差减小约1 3.5 个百分点，对于自主测试数据，平均相对误差减小约1 7.7 个百分点。门控循环单元神经网络在两类数据上的平均相对误差约为2.5%，低于长短期记忆神经网络的6.6%，由此证明贝叶斯优化一门控循环单元神经网络的优越性。表2贝叶斯优化预测结果锂离子神经贝叶斯绝对相对均方根电池网络优化误差误差误差前2519.38%0.068 6长短期记忆后107.7%0.0252B5号前129.30%0.0302门控循环单元后21.5%0.0186前2422.02%0.2038长短期记忆后43.67%0.072 0B6号前2018.35%0.1304门控循环单元后54.5%0.0652前2929.90%0.049 4长短期记忆后1111.34%0.0462B18号前1212.37%0.039 4门控循环单元后22.06%0.0408前4622.55%0.0672长短期记忆后125.88%0.025 71号前2713.24%0.0377门控循环单元后52.45%0.0164前6829.57%0.032 8长短期记忆后114.78%0.01612号前4820.87%0.021 4门控循环单元后62.61%0.009 75.2随机失活对于长短期记忆神经网络和门控循环单元神经网络，在不同起点下选择是否加人随机失活，对锂离子电池剩余使用寿命进行行预测。美国国家航空航天局实验室数据电池预测结果相似，B5号电池不同起点剩余使用寿命预测结果如图6所示，B5号电池预测绝对误差如图7 所示。1 号电池以9 0 为起点剩余使用寿命预测结果如图8 所示。锂离子电池剩余使用寿命预测结果对比见表3。由图7 可知，长短期记忆神经网络以7 0 为起点的锂离子电池剩余使用寿命预测误差小于以9 0 为起点，原因在于第9 0 周期出现了较大的容量回升，导致预测精度降低。加入随机失活后，两种神经网络的预测精度大幅提高。通过以上试验可见，加人随机失活后门控循环单元神经网络对于美国国家航空航天局实验室数据的平542023,61(12)总第7 1 2 期机械制造试验检测1.91.451.81.401.71.351.61201301401.5真实值1.4长短期记忆神经网络不加随机失活长短期记忆神经网络加随机失活门控循环单元神经网络不加随机失活1.3门控循环单元神经网络加随机失活失效阅值预测起点1.2020 406080100120140 160 180循环次数(a)以7 0 为起点1.91.50F1.8.45.401.7.351.61301401501601701.5真实值1.4长短期记忆神经网络不加随机失活长短期记忆神经网络加随机失活门控循环单元神经网络不加随机失活1.3门控循环单元神经网络加随机失活失效阅值预测起点1.2020 406080100120 140160180循环次数(b)以9 0 为起点图6B5号电池不同起点剩余使用寿命预测结果40r35起点7 0起点9 03025201510502鲜忆加网区失活门控循环单元经加随机失活随机失活图7B5号电池预测绝对误差均相对误差稳定在1%，对于自主测试数据的平均相对误差约为2.5%，由此通过两种锂离子电池验证了贝叶斯优化一门控循环单元神经网络具有较高的剩余使用寿命预测精度，并且在不同锂离子电池中具有一定的通用性。2.52.42.022.002.31.981.962.21.941.922.1190200 21072202302402.0真实值长短期记忆神经网络不加随机失活1.9长短期记忆神经网络加随机失活门控循环单元神经网络不加随机失活1.8门控循环单元神经网络加随机失活失效阅值预测起点1.7050100150200250300循环次数图81号电池以9 0 为起点剩余使用寿命预测结果表3锂离子电池剩余使用寿命预测结果对比锂离子神经随机绝对相对均方根起点电池网络失活误差误差误差不加1511.6%0.031570加107.7%0.025 2长短期记忆不加3627.9%0.078 090加1713.1%0.0557B5号不加96.9%0.029770门控循环加21.5%0.0186单元不加118.5%0.038590加10.7%0.0198不加2522.94%0.097970长短期加43.67%0.072.0记忆不加1110.09%0.056 090加43.67%0.065 3B6号不加65.50%0.074 070门控循环加10.92%0.067 9单元不加65.50%0.078 590加10.92%0.032 9长短期不加1714.91%0.035 7记忆加1111.34%0.046 2B18号70门控循环不加44.12%0.0459单元加11.03%0.0578长短期不加2611.27%0.0373记忆加125.88%0.02571号90门控循环不加125.88%0.011 6单元加52.45%0.0164长短期不加208.70%0.0201记忆加114.78%0.01612号100门控循环不加187.83%0.012.4单元加62.61%0.009 76结束语笔者提出一种基于贝叶斯优化一门控循环单元神经网络的锂离子电池剩余使用寿命预测方法，通过提取循环数与对应的容量融合作为新特征，采用滑动窗口方法分割特征数据集，构建门控循环单元神经网络，加人随机失活，采用贝叶斯优化来优化门控循环单元552023,61(12)总第7 1 2 期机械制造罡（编辑收稿时间.2 0 2 3-0 7上接第2 2 页）东尔（编辑A检测试验神经网络参数，进而对锂离子电池剩余使用寿命进行预测。在美国国家航空航天局实验室数据和自主测试数据上进行试验验证，相对误差均小于3%，平均均方根误差小于0.0 2 7，能够实现对锂离子电池剩余使用寿命的准确预测，具有一定的通用性。参考文献1戴海峰,张艳伟，魏学哲，等.锂离子电池剩余寿命预测研究 J.电源技术,2 0 1 9,4 3(1 2）：2 0 2 9-2 0 3 5.2ZHANG H,MIAO Q,ZHANG X,etal.An ImprovedUnscented Particle Filter Approach for Lithium-ion BatteryRemaining Useful Life Prediction J.MicroelectronicsReliability,2018,81:288-298.3WANG J G,ZHANG S D,LI C Y,et al.A Data-DrivenMethod with Mode Decomposition Mechanism for RemainingUseful Life Prediction of Lithium-Ion Batteries J.IEEETransactions on Power Electronics,2022,37（1 1）:1368413695.4FENG H L,SONG D D.A Health Indicator Extraction Basedon Surface Temperature for Lithium-ion Batteries RemainingUseful Life Prediction J/OL.Journal of Energy Storage,2021,34,https:/doi.org/10.1016/j.est.2020.102118.5YAO F,HE W X,WU Y X,et al.Remaining Useful LifePrediction of Lithium-ion Batteries Using a Hybrid ModelJ/0L.Energy,2022,248,https:/doi.org/10.1016/j.energy.2022.123622.6NAGULAPATI V M,LEE H J,JUNG D W,et al.CapacityEstimation of Batteries:Influence of Training Dataset Sizeand Diversity on Data Driven Prognostic Models J/OL.Reliability Engineering&System Safety,2021,216,https:/doi.org/10.1016/j.ress.2021.108048.7JAVID G,ABDESLAM D O,BASSET M.Adaptive OnlineState of Charge Estimation of EVs Lithium-lon Batterieswith Deep Recurrent Neural Networks J/OL.Energies,2朱凯辉.游梁式抽油机主支承密封轴承的密封设计及其性能研究 D.荆州：长江大学,2 0 2 1.3梁晓鹏，廖朝军，柴施昭.游梁平衡抽油机连杆横梁的结构改进 J.石化技术，2 0 1 5,2 2（9）：1 3 1.4张天临，何生兵，秦德昭，等.游梁式抽油机中游梁支撑轴的研究与分析 J.机械制造,2 0 1 9,5 7（4）：6 0-6 1,9 6.5吴继农，陈杰，曹盛江，等.游梁式抽油机维修作业技术改进 J.江汉石油职工大学学报，2 0 2 2,3 5（6）：1 6 1 8.6缪明才，范新冉，张晓璇，等.游梁抽油机免维护轴承的结构设计与应用 J.中国设备工程，2 0 2 0（1 5）：5 5-5 7.7杨晓蔚.高速铁路轴承概述 J.轴承，2 0 1 1(1 0)：5 9-6 1.2021,14(3),https:/doi.0rg/10.3390/en14030758.8CHENJC,CHEN T-L,LIU W-J,et al.CombiningEmpirical Mode Decomposition and Deep Recurrent NeuralNetworks for Predictive Maintenance of Lithium-ion Battery J/OL.Advanced Engineering Informatics,2021,50,https:/doi.org/10.1016/j.aei.2021.101405.9CHEN JX,FENG X,JIANG L,et al.State of ChargeEstimationof Lithium-ionBatteryyUsingDenoisingAutoencoder and Gated Recurrent Unit Recurrent NeuralNetwork J/0L.Energy,2021,227,https:/doi.org/10.1016/j.energy.2021.120451.10蔡艳平，陈万，苏延召，等.锂离子电池剩余寿命预测方法综述 J.电源技术,2 0 2 1,4 5（5）：6 7 8-6 8 2.11REN L,DONG J B,WANG X K,et al.A Data-DrivenAuto-CNN-LSTM Prediction Model for Lithium-Ion BatteryRemaining Useful Life J.IEEE Transactions on IndustrialInformatics,2021,17(5):3478-3487.12PAN D W,LI H F,WANG S J.Transfer Learning-BasedHybrid Remaining Useful Life Prediction for Lithium-IonBatteries under Different Stresses J/OL.IEEE Transactionson Instrumentation and Measurement,2022,71,https:/doi.0rg/10.1109/TIM.2022.3142757.13KARA A.A Data-Driven Approach Based on Deep NeuralNetworks for Lithium-ion Battery Prognostics J.NeuralComputing and Applications,2021,33:13525-13538.收时同：2 0 2 5作者简介：安元超（1 9 9 4 一），男，硕士研究生，主要研究方向为锂离子电池寿命预测；张岳君（1 9 8 3 一），男，副教授，主要研究方向未智能制造、工业大数据；林文文（1 9 9 0 一），男，讲师，主要研究方向为智能制造系统、工业大数据。8何强，李安玲，张继祝，等.高速列车轴承的发展趋势 J.徐州工程学院学报（自然科学版），2 0 1 2,2 7（1）：5 8 6 4.9成大先.机械设计手册M.6版.北京：化学工业出版社,2 0 1 6.10张建军，李向齐，石惠宁.游梁式抽油机设计计算M.北京：石油工业出版社，2 0 0 5.作者简介：张龙洋（1 9 8 5 一），男，工程师，主要研究方向为石油钻采设备设计。