基于Transformer的锂离子电池SOC估计方法_李杰.pdf

第卷第期年月电力 电子技术，基于的锂离子电池估计方法李杰，康龙云“，岳睿谢缔（华南理工大学，电力 学 院，广东广州；华 南理工大学，广东 省绿 色能源技术重点实验室，广东广州）摘要：此处提出 了基于？的荷电状态（）预测模型以提 高对锂离子电池的预测精度及效 率。首 先将易于测量的电压电流 等数据 作为 编码器的输入，利 用编码器端的多头注意 力机制来提取深层 特征，充分地利用输入数据的特征 信息，同时将目标作为解码 器端的输入，将编码器的输出输入至解码器端，最 后输出时移后的得 到预测结 果。为了防止标签泄露，在解码 器端的输入采用了掩码机制，同时实现了卷积神经网络提取特征和循环神经网络利用数据变化的时序性。利用锂电池的工况放电实验数据进行训练，以均方误差（）作 为评价标准。实验结果 表明，所提出的基于模 型具 有较高的预测精度。关键词：锂离子电池；均方误差；荷电状 态中图分 类号：文献 标 识码：文章编号：（），（，）：，（），（）？：；：（）锂离子电池因其高能量密度、高 功率密度、长寿命和环境友 好的特点，逐渐成为电动汽车的主要动力来源。由于电动车行驶环境通常 非常复杂，电池会在重复 充放电过 程中退化，为 保证电池在安全窗口运行，需要电池管理系统（）对电池的健康状态进行监控，防止电池过度 充放电。电池反映了一个 充放电周期中的剩余电池电量，是中的一个关键状态。目前广泛研宄的有安时积 分法、开路电压（）法、基于模型的滤 波方引言法及机器学习方法。在预测时，基于的框 架，包括和，是对时序 数据建模的有效解决方案。尽 管 大多数现 有的基于的框架都显示了良好的性能，但是仍然存 在由于串行导致训练的高训练时间成本及受长期依赖问题导致降低性 能。而因卷积核的限制 使得学习遥远位置的依赖关系更加困难只能通过 加深卷积层来学习。为解决上述问题，所提出用并行的同时完 成及的任务 并 得到较好的结果。原理与设计基金项目：广东省 重 点领域研发计划（）定稿日期：作 者 简介：李杰（），男，硕 士，研究方向为基于机器 学习的锂离子动力电池多状态估计。模型在文本编码中表现良好，被探索应用在如推荐系统和计算机 视觉等领域，它通过基于的锂离子电池估计方法一种注意力机制并行且有效地捕获了长期依赖关系，由于 在 长 序列建模中的有效性和效 率此 处探索了其在预 测中的应用。一般模型由个部分组 成，分别是自注意力机制、多头注意 力机制、位置编码 和前向传播网络，模型结构如图所示。图模型结构编码器编码器由个相同层组成，每一层由个子层组成，第个子层是多头 注意力机制，第个子层是简单的位置 全连接网络，通过残差连接这两个子层，再 加上层归一化，每个子层的输出是：（；），其中（）表不子层对输入进行的 映射。解码器解码器也由个相同 的层组成，除了每个编码器层中的个子层外，解码器还插入第个子层，该 子层对编码器的输出执行多头注意。与 编码器类 似，对每个子层使用残差连接，然 后进行层归一化，并在解码器中的自注意子层中加入掩码机制将输出被位置偏移，以确保位置的预 测只依赖于小于位置的己知输出。自注意力机制自注意力机制 的计算需要先将输入向量转换成个不同的向量，即查询向量键向量和值向量，而个向量的维度为计算公式 为：，）（）该 式计算和相似 度，结果经过）将其结 果归一化为概 率 分布 并作为权重进行赋值运算。在和 中，都只能通过计算 获 得较短序列之间的特 征关 系，对于长序列 则可能会 发生梯度消 失或者梯度爆炸，而引入自注意力机制后，可通过多次 缩小序列之间的距离，更好地获得长序列之间的依赖特征，从而实现全局信息获取。多头注意力机制多头注意 力机 制则是由个 缩放点积注意力堆叠而成，能对输入信息 并 行处理。多头注意力模型 相比于单头注意力机制的优势在于，其能够通过每 个单独的注意力 头获取独立的位置信息。多头注意力机制通过 式（）计算出头缩放点积 注意力，然后整合 每个注意力头的输出结果。所提的编码 器和解码器模块都获 得了具 有区分性的隐藏序列，这些序列则是通过多头注意力结 构获得。具体计算公式分别 如式（）和式（）所示：（，）（，）（）（；，）（）式中：为注意 力头的数量；）为多头注意力 模块；（？）为连 接 操作；分 别 为 第；个注意力头的，欠，输入特征矩阵。位置编码由于模型中并不能捕获序列的位置信 息，而 对 应的位置数值，在交换了输入位置后也会同时发生交 换，故并 不会产生数值上的变化，因此也就没有序列的时序 信息，因此为将输入的时序信息加入模型，需要在时序序列中加入关于位置的信息。正因如此，选择在 编码器和解码器的底部输入嵌入中加入位置编码，为保证计算时 嵌入编码和位置编码可相加，则使其有相同 的维度，位置编码公式为：）（），（？，）（）（）其中位置为维度为，即位置编码的每个维度对应着一个波 长从 呈几何级数的正弦信 号，选择该函数可以针 对不同的维度从而选取不同频率的正余弦公式 来生成出对于不同位置的高维位置向量，并能让模型更容易通过相对位置来学习，因为对于任何固定 偏移都可以表 示为；（的线性函数。前向传播网络编码器和解码器中的每一层，除了注意力子层外，还包括分别应用于各个 位置的全连接的前向传播网络。这包括两个线性变换，中间有一个激活：（）（，）（）实验构建数据集由于三元材料的电池有 较 高的 电压平台和较（格）（测试集数据图预测值 真 实 值对比结论此处提出了将模型应用于预测中，能 够很好地完成卷 积神经网络提取深层特征的作 用，并且经过位置编码同时实现了的任 务。通过实验证明了该模型提高了糨度，达到了 并且解决了串行算法速度较慢的缺点。参考文献，？：，？：，（）：，：，？，（），（）其中，为时 刻的 电池容量，解码器的输出则是 解码器输入时移一个 单位，通过解码器输入端的掩码机制防止标签泄露。此处 使用优化器进 行训练，且其中超 参数学习率设置为，）丨，子模块中的 设置为。实验结 果图 为在工况下 模型应用于估计在训练集上的表现。图为在测试集即未拿来训练的数据集上的表现。可见，所提预测方法能够得到很好的预测结果。局能量密度的特点，逐渐成为了动力电池的主流方向。鉴于此该实验选用型 号的三元锂电池，主要参数如下：电池型 号为呢則（，标称容量为，额定电压为，充放电截止电压为，最大的持续放电 电流为。该实验采用的锂离子电池测试平台分别由安装有控制软件的主机、中位机、电池测试设备、恒温柜和电池 组成。电池测试设备的电压和电流测量精度均 为，最大电流上升时间为，最高数据记录频率为。在实验中 电池放入恒温柜以保证其周围温度稳定在（）丈范围之间。实验采用全球统一轻型车辆循环测试（）来对 所提的模型进行训练和验证。有个等级的循环工况，其中，的测试最全面，一个循环共，分别包含低速、中速、高速和超高速个 阶段，电动汽车在工况下一个周期内的电流曲线见图，通过图可见，由于加减速十分频繁，一个周期内以上的时间中电流都处于动态变化中。并且，由于充电与放电过程同时包含在测试 过程中，为了防止电池的电压高于充电截止电压，所提的测试实验都是从 开始的，并在锂电池的 电压下 降 到放电截止电压为止。？丨图的电流曲线 实验环境在此实验使用 的操作系统为，使用深度 学习库，硬件环境 使用 （处理器），（显卡）。模型输入输出及训 练此处输入分 为编码器输入及解码器输入两个部 分，编码器的输入如式（）所示：（）即选取 长度 为的时间窗口进 行滑动，从而米取到时序上的特征，其中和分别为时刻的电压和电流，以此类推，而编码器的输入和输出如式（），（）所示：，（格）（）训练 集数 据第 卷第期电力 电子技术，年月（珐）￥？己