基于BiLSTM-STW神经网络的锂电池剩余容量预测.pdf

2023.7Vol.47No.7研 究 与 设 计收稿日期：2023-01-23作者简介：姚俊荣(1997)，男，广东省人，硕士研究生，主要研究方向为电储能规划、区域综合能源系统规划。通信作者：唐学用基于BiLSTM-STW神经网络的锂电池剩余容量预测姚俊荣1,2，唐学用2，李庆生2(1.贵州大学 电气工程学院，贵州 贵阳 550025；2.贵州电网有限责任公司电网规划研究中心，贵州 贵阳 550003)摘要：针对锂电池剩余容量预测精度无法满足当前工程应用的问题，结合双向长短时记忆网络(bi-directional longshort-term memory，BiLSTM)与滑动时间窗口(sliding time window，STW)算法的优点，提出一种电池剩余容量预测方法。首先分析 BILSTM 神经网络和 STW 算法原理，构建了 BiLSTM-STW 神经网络模型，采用自适应矩优化算法(adaptive moment estimation,Adam)对模型超参数进行优化，实现模型修正；然后选取美国国家航空航天局(NationalAeronautics Space and Administration，NASA)埃姆斯研究中心锂电池数据，对数据进行处理并选取容量衰减特征数据作为神经网络的预测输入量；最后利用构建的神经网络对NASA锂电池数据集进行剩余容量预测实验。实验结果表明，所构建的神经网络模型能够精确预测锂电池的剩余容量，相比LSTM神经网络模型有更好的精确度。关键词：锂电池；双向长短时记忆网络；滑动时间窗口；剩余容量预测；神经网络中图分类号：TM 912文献标识码：A文章编号：1002-087 X(2023)07-0889-05DOI:10.3969/j.issn.1002-087X.2023.07.014Remaining capacity prediction of lithium battery based on BiLSTM-STW neural networkYAO Junrong1,2,TANG Xueyong2,LI Qingsheng2(1.College of Electrical Engineering,Guizhou University,Guiyang Guizhou 550025,China;2.Power Grid Planning&Research Center Guizhou Power Grid Co.,Ltd.,Guiyang Guizhou 550003,China)Abstract：To address the problem that the remaining capacity prediction accuracy of lithium batteries cannot meet thecurrent engineering applications,a battery remaining capacity prediction method was proposed by combining theadvantages of bi-directional long short-term memory(BiLSTM)and sliding time window(STW)algorithms method.Firstly,the principle of BILSTM neural network and STW algorithm was analyzed,a BiLSTM-STW neural networkmodel was constructed,and adaptive moment estimation(Adam)was used to optimize the hyperparameters of themodel to achieve model correction.Then,the lithium battery data from the National Aeronautics and SpaceAdministration(NASA)Ames Research Center were selected,and the capacity decay characteristics were selected asthe prediction input of the neural network.The experimental results show that the neural network model constructedcan accurately predict the remaining capacity of lithium batteries with better accuracy than the LSTM neuralnetwork model.Key words:lithium battery;bidirectional long and short-term memory network;sliding time window;remainingcapacity prediction;neural network设备的故障和健康管理(prognostics and health manage-ment,PHM)对于提高储能系统的可靠性与经济性有重要的意义1-2。锂电池(lithium battery)作为一种典型的电力电子设备，广泛地应用于电力、航天、军事等领域，近几年来正向汽车领域拓展，并且作为关键设备发挥重要作用，对其健康状况和剩余容量进行监控具有重要意义3-4。然而，在循环充放电过程中，锂电池内部将发生许多化学反应，其中包括电极中有效材料的损耗，导致电池发生不可逆的老化，锂电池的健康状态难以通过外部直观地表现出来5。锂电池的剩余容量作为重要的健康指标之一，也会在循环充放电过程中产生衰减，一般认为电池容量衰减至70%80%时表示锂电池可以退役6-7，若不能及时发现并对电池进行更换，将存在巨大的安全隐患，产生不必要的损失。因此准确地预测锂电池剩余容量，对即将衰减至退役容量的锂电池进行更换，可以提高系统的可靠性8。目前对于锂电池的剩余容量进行预测的方法主要分为模型构建法和数据驱动法。模型构建法是通过分析锂电池的内部机理来建立锂电池的数学模型。文献9将等压差充电时间作为容量衰减特征，利用改进高斯过程回归模型对电池寿命进行预测；文献10通过实验数据建立了改进初值的隐马尔科夫模型预测电池的衰退程度，并提出衰退表现系数体现电池的容量衰减状况；文献11基于电池的 Thevenin等效模型，通过内部参数表征电池的剩余容量。然而，模型构建法大多计算过程复杂，对模型存在较高的依赖性，存在鲁8892023.7Vol.47No.7研 究 与 设 计棒性不高的问题。数据驱动法是当前主流的预测方法，它只需从电池的历史运行数据中提取与容量衰减有关的特征数据，并以此驱动构建好的模型实现对剩余容量的预测，具有较强的实用性和灵活性。作为数据驱动法的一种，深度学习技术已经应用于锂电池 的 剩 余 容 量 预 测 中，其 中 长 短 时 记 忆(long short-termmemory，LSTM)神经网络可以有效避免时间序列在训练时发生梯度爆炸问题。文献12利用多层感知机和 LSTM神经网络对波分量和退化趋势进行建模；文献13-14将锂电池能量数据分解为主趋势数据和噪声数据，并采用 LSTM 神经网络和DBN神经网络对其进行建模从而拟合锂电池的健康趋势；文献15结合 CNN网络和 LSTM 网络，选取等压降放电时间作为健康因子训练出电池容量衰减模型。文献16-17利用LSTM 神经网络搭建了锂电池的退化模型，实现了电池的性能退化和剩余寿命的预测。文献18提出Bi-LSTM神经网络并应用于负荷辨识，与LSTM神经网络相比，它可以更好地挖掘序列的特征，提高预测的准确性，但由于未对输入数据进行处理，当序列过长时将在训练时出现梯度弥散的问题19。本文提出一种基于深度学习的锂电池剩余容量预测方法。首 先 分 析 BiLSTM 网 络 和 STW 算 法 原 理，并 构 造BiLSTM-STW神经网络；然后选取可表征容量衰减的特征量输入神经网络进行预测，同时利用 Adam 优化算法对模型进行修正；最后对比了 BiLSTM-STW神经网络和LSTM神经网络的预测结果，结果表明BiLSTM-STW神经网络在锂电池的剩余容量预测上具有更高的精确度。1 基本原理1.1 BiLSTM神经网络LSTM 神经网络是一种特殊的循环神经网络(recurrentneural network,RNN)，相较于 RNN 神经网络，LSTM 在学习输入序列的非线性特征的同时，还可以解决时间序列在训练过程中存在的梯度消失与梯度爆炸问题。其中，LSTM 单元结构如图1所示。LSTM神经网络是由t时刻的输入序列xt，细胞状态ct，临时细胞状态 ct，隐层状态 ht，遗忘门 ft，记忆门 it，输出门 ot组成。具体工作流程如下：第一步：决定要从细胞状态中需要丢弃的信息。这个决定由 Sigmoid层遗忘门来做出。ht-1和 xt输入到遗忘门后，得到 01之间的输出 ft。之后跟细胞状态 ct-1逐点相乘。如果 ft对应的值为0，丢弃对应的信息；反之，则保留对应的信息。第二步：决定要在细胞状态中存储哪些信息。这包含两个部分：由Sigmoid层输入门决定将更新的信息。tanh层创建新的候选值的向量 ct，决定哪些信息能够被添加到细胞状态中。第三步：将细胞状态 ct-1更新为 ct。用旧状态 ct-1ft，丢弃决定要遗忘的信息；然后加上itct最终更新成细胞状态ct。第四步：决定输出的内容。这个输出取决于细胞状态。首先，由 Sigmoid 层输出门，决定将要输出的细胞状态的部分。将细胞状态通过 tanh层之后，与输出门相乘，就可以输出想要输出的部分。网络传递的途径如式(1)(6)所示：ft=(Ufhht-1+Wfxxt+bf)(1)it=(Uihht-1+Wixxt+bi)(2)ot=(Uohht-1+Woxxt+bo)(3)-ct=tanh(Uc hht-1+Wc xxt+bc)(4)ct=fct-1+itc t(5)ht=ottanh(ct)(6)式中：xt为t时刻神经元的输入；W、U为权重矩阵；b为偏置；为Sigmoid函数；表示按元素乘积。LSTM 网络适合处理时间序列，但也只能学习序列中过去状态对未来状态的影响，没有考虑未来状态的作用，这也与网络的序列输入有关。BiLSTM 通过两层 LSTM 网络，对相同的序列进行正向学习的同时，还对序列进行反向的学习。BiLSTM神经网络模块的链式结构如图 2所示。网络输出可以反映正向特征的隐层状态 ht1和反向特征的隐层状态ht2，合并得到的 Ht，如式(7)，因此 BiLSTM 能够充分挖掘时间序列的前后时间关联性，从而提高神经网络对时间序列的预测精度。Ht=ht1+ht2(7)式中：ht1为最后一个正向特征隐层的输出；ht2为最后一个反向特征隐层的输出；Ht为网络最终的输出。1.2 STW算法原理由于BiLSTM神经网络输入数据为三维，因此需要通过STW 算法将输入数据进行数据重构，并将重构后的数据作为 BiLSTM 网络的输入。利用滑动时间窗口(sliding timewindow，STW)算法，窗口宽度为K，窗口沿着待处理的二维数据滑动，将输入的前 K 个二维数据打包作为三维数据中的二维单位数据，以此类推将得到重构后的三维数据，如图3 所示。重构后的数据在满足 BiLSTM 网络的输入要求的同时，可以提高模型对时间序列特征的挖掘能力，从而提高图1LSTM神经元结构示意图图2BiLSTM神经网络模块的链式结构8902023.7Vol.47No.7研 究 与 设 计网络的预测精度。2 BiLSTM-STW预测模型2.1 模型修正在对神经网络进行训练时，通常将输入的数据进行正向传播得到网络的实际输出值，接着计算实际输出值与理论输出值的差值，并利用反向传播得出各个梯度，最后利用优化算法对权值矩阵 W和偏置b进行更新，实现网络模型的修正优化。Adam 优化算法 结合了随机 梯度下降 算法(stochasticgradient descent，SGD)和 Nesterov Momentum 算法的优点，既能适应稀疏梯度，又能缓解梯度振荡问题，计算效率高，适合计算参数或数据规模较大的优化问题。本文在训练BiLSTN-STW时，采用Adam算法对模型超参数进行修正。Adam算法更新参数的过程如下：gt=ft(t-1)(8)mt=1mt-1+(1-1)gt(9)vt=2vt-1+(1-2)g2t(10)t=t-1-mt/(1-t1)(vt1-t2+)(11)式中：t-1为未更新的参数；为学习率；gt为随机目标函数的梯度；mt为偏一阶矩估计，m0=0；vt为偏二阶矩估计，v0=0；1和2为矩估计的指数衰减率；为小正数，是为了防止分母为0的参数。在机器学习问题中这些参数的默认值为=0.01，1=0.9，2=0.999，=10-8。2.2 求解流程本文提出的 BiLSTM-STW 的锂电池剩余容量预测模型结构如图 4 所示。由 STW 层、BiLSTM 层、Dropout层和全连接层组成。锂电池剩余容量预测的具体流程如下(图5)：(1)对输入的锂电池数据进行数据预处理，得到 n个表征剩余容量的特征向量，并作为BiLSTM-STW网络的输入；(2)通过 STW 层对输入的数据进行处理，得到可以反映锂电池剩余容量的时间序列训练集和测试集，通过固定的滑动窗口将二维的数据进行数据重构，使得转换后的数据满足BiLSTM网络对数据的要求；(3)将重构后的数据输入BiLSTM层进行训练；(4)完成模型训练后，将测试集数据输入神经网络模型，预测锂电池的剩余容量。3 算例分析3.1 实验数据本文采用NASA的 18650型电池数据集，其中的 B5数据集是在室温下通过3种不同的状态(充电、放电和阻抗)运行。电池以1.5 A恒流模式进行充电，直至电池电压达到4.2 V，然后继续以恒压模式充电，直至充电电流降至 20 mA。接着以2 A的恒定电流水平进行放电，直到电池电压降至 2.7 V。锂电池的剩余容量也会随着循环次数的增加而衰减。B5锂电池的剩余容量衰减曲线如图6所示。电池的剩余容量难以直接测量，可以直接表征剩余容量的内阻也需要进行破坏性实验才可测得，因此需选取在工程实际中能直接获取且可表征剩余容量的量作为神经网络的输入。相对于容量和内阻，电池在充放电过程的电流和电压图3滑动时间窗口算法示意图图4基于BiLSTM-STW网络的锂电池剩余容量预测模型图5基于BiLSTM-STW网络的锂电池剩余容量预测流程8912023.7Vol.47No.7研 究 与 设 计容易获取和测量。随着循环次数的增加，在恒流充电阶段时，在同一起始电压升到截止电压所需要的时间会逐渐减少；在恒压充电阶段时，达到同一截止电流的时间会逐渐增加。所以选取充电阶段的等电流下降时间 t1、等电压上升时间t2和循环次数C来表征锂电池剩余容量的特征参数20。此外，为了评估所用网络模型对锂电池剩余容量预测的有效性，本文通过平均平方误差(mean square error，MSE)、平均绝对百分比误差(mean absolute percentage error，MAPE)、模型判定系数R2这3个指标来对模型性能进行评估，具体如下：MSE=1mi=1m(yi-y i)2(12)MAPE=100%mi=1m|yi-yiyi(13)R2=1-i=1m(yi-y i)2/i=1m(yi-y)2(14)式中：m为数据总量；yi为电池第 i个时刻真实的剩余容量；y i为神经网络在第i个时刻的剩余容量预测值；y 为锂电池剩余容量实际值的平均值。3.2 剩余容量预测BiLSTM-STW 模型与 LSTM 模型进行测试对比。将 B5电池的前 70次循环作为训练数据来训练模型，并预测 70次循环以后的电池剩余容量。BiLSTM-STW 与 LSTM 网络的主要参数设置如表1所示。为证明模型的有效性，将其与 LSTM神经网络预测结果进行对比，以 B5电池数据集为例，2种网络模型的预测结果如图7所示。2种模型对B5电池剩余容量预测结果的评价指标如表 2 所示。由表 2 可以看出，本文所构建的 BiLSTM-STW 神经网络的 MSE、MAPE和R2三项指标都优于 LSTM 神经网络。由图 7可以看出，BiLSTM-STW 神经网络的预测结果相比 LSTM 神经网络更加接近真实值，这是由于 BiLSTM 神经网络不仅可以学习时间序列的正向特征，同时也提取学习了反向特征，因此可以更好地表达时间序列。BiLSTM-STW 模型的收敛性如图 8 所示。由图可以看出，随着训练次数的增加，模型的训练误差快速下降，经过43次训练后，模型的误差趋近于 0，由此可以证明本文构建的BiLSTM-STW模型具有较好的收敛性。4 结论本 文 提 出 一 种 预 测 锂 电 池 剩 余 容 量 的 方 法，构 建BiLSTM-STW 神经网络，该网络选取电池等压升充电时间、等流降充电时间和循环次数作为容量衰减特征，并利用STW算法对输入的时序数据进行数据重构，实现了锂电池剩余容量的准确预测。最后将构建网络的预测结果与LSTM神经网络的预测结果进行对比，验证了所构建BiLSTM-STW神经网络的有效性与优越性。本文所构建的模型能够高效精确地预测锂电池的剩余容量，对于储能系统安全可靠的运行、延长设备的使用寿命、提高设备的经济性有重要意义。参考文献：1HESS A,FILA L.The joint strike fighter(JSF)PHM concept:poten-tial impact on aging aircraft problemsC/Aerospace Conference.US:IEEE,2003.2KAI G,SAHA B,SAXENA A,et al.Prognostics in battery healthmanagementJ.IEEE Instrumentation&Measurement Magazine,2008,11(4):33-40.3YE Z S,XIE M.Stochastic modelling and analysis of degradationfor highly reliable productsJ.Applied Stochastic Models inBusiness and Industry,2015,31(1):16-32.4OLIVARES B E,CERDA M M A,ORCHARD M E,et al.Particle-filtering-based prognosis framework for energy storage devices图6B5锂电池容量衰减曲线表1 网络参数设置 参数 BiLSTM-STW LSTM 隐藏层层数 2 1 全连接层层数 1 1 激活函数 SELU SELU 优化函数 Adam Adam dropout 0.2 0.2 训练次数 325 325 表 2 剩余容量预测指标 模型 MSE MAPE R2 BiLSTM-STW 0.002 7 3.021 9 0.807 2 LSTM 0.028 1 12.307 9 0.411 8 图72种网络模型的电池剩余容量预测结果图8BiLSTM-STW模型收敛性8922023.7Vol.47No.7研 究 与 设 计with a statistical characterization of state-of-health regenerationphenomenaJ.IEEETransactionsonInstrumentationandMeasurement,2013,62(2):364-376.5刘大同，宋宇晨，武巍，等.锂离子电池组健康状态估计综述J.仪器仪表学报，2020，41(11)：1-18.6刘大同，周建宝，郭力萌，等.锂离子电池健康评估和寿命预测综述J.仪器仪表学报，2015，36(1)：1-16.7史永胜，施梦琢，丁恩松，等.基于多退化特征的锂离子电池剩余寿命预测J.电源技术，2020，44(6)：836-840.8葛玉友，尚策.寿命约束的储能规划J.中国电机工程学报，2020，40(19)：6150-6161.9刘健，陈自强，黄德扬，等.基于等压差充电时间的锂离子电池寿命预测J.上海交通大学学报，2019，53(9)：1058-1065.10颜景斌，王飞，夏赛.改进初值隐马尔科夫模型预测电池健康度J.哈尔滨理工大学学报，2017，22(6)：33-38.11严干贵，蔡长兴，段双明，等.锂离子储能电池成组方式优化J.电力自动化设备，2021，41(4)：148-153.12王冉，后麒麟，石如玉，等.基于变分模态分解与集成深度模型的锂电池剩余寿命预测方法J.仪器仪表学报，2021，42(4)：111-120.13胡天中，余建波.基于多尺度分解和深度学习的锂电池寿命预测J.浙江大学学报(工学版)，2019，53(10)：1852-1864.14史永胜，施梦琢，丁恩松，等.基于 CEEMDAN-LSTM 组合的锂离子电池寿命预测方法J.工程科学学报，2021，43(7)：985-994.15陈赐阳，陈德旺.基于 CNN-LSTM 的锂电池剩余寿命(RUL)间接预测研究J.电源技术，2021，45(5)：589-594.16ZHANG Y,XIONG R,HE H,et al.Long short-term memoryrecurrent neural network for remaining useful life prediction oflithium-ionbatteriesJ.IEEETransactionsonVehicularTechnology,2018,67(7):5695-5705.17 REN L,DONG J,WANG X K,et al.A data-driven auto-CNN-LSTM prediction model for lithium-ion battery remaining usefullifeJ.IEEE Transactions on Industrial Informatics,2021,17(5):3478-3487.18何恒靖，王灏，肖勇，等.基于 Bi-LSTM 算法的非侵入式负荷监测模型J.南方电网技术，2019，13(2)：20-26.19WU Z,SHANG M,SHEN D,et al.SOC estimation for batteriesusing MS-AUKF and neural networkJ.Journal of Renewable andSustainable Energy,2019,11(2):024103.20 LIU D,WANG H,PENG Y,et al.Satellite lithium-ion batteryremaining cycle life prediction with novel indirect health indicatorextractionJ.Energies,2013,6(8):3654-3668.893