改进残差网络的海水养殖鱼类识别与分类研究.pdf

计算机时代 2023年 第9期0 引言我国是水产品养殖大国，水产品养殖已超过世界水产产量的70%，是我国国民经济的重要来源之一1。在海水养殖业，由于海水产品种类多，品类价值差距大，因此对海水产品的种类识别在养殖、捕捞、加工等程序中显得格外重要。本文针对海水鱼类养殖业进行鱼类识别算法的研究。传统机器视觉识别技术通过对鱼类图像进行图像处理技术，提取其特征值并构建模型，通过模型对鱼类进行分类识别。国内外有关图像处理的研究已有较多成果。吴一全2等人采用一种多核的最小二乘类型支持向量机(LS-SVM)，以灰度共生矩阵来提取鳙鱼、鳊鱼、鲫鱼、青鱼和草鱼等五种鱼类的纹理特征，经过实验，其识别准确率超过80%。姚润璐3等通过分割鱼DOI:10.16644/33-1094/tp.2023.09.021改进残差网络的海水养殖鱼类识别与分类研究*季星宇，赵雪峰，陈荣军，仲兆满(江苏海洋大学计算机工程学院，江苏 连云港 222000)摘要：为了满足海水养殖行业不断提高的智能化需求，对海洋鱼类的识别和分类算法进行研究。采用多重残差网络进行鱼类识别及分类，不仅降低计算复杂度，同时加快了残差网络的学习速度；引入指数线性单元（ELU）改进网络的标准残差模块，对输入的负激活值部分进行非线性变化，其参数可通过卷积训练进行自适应学习，同时保持正激活值部分不变，解决了传统残差模块中ReLU层将包含有用信息的负激活值完全丢弃的问题，以降低梯度消失的概率。在海洋鱼类识别与分类的多次实验中，改进的残差网络准确率均不低于95.48%，表明改进算法拥有较高的识别准确率和良好的稳定性。关键词：海水养殖；鱼类识别；残差网络；指数线性单元；激活函数中图分类号：TP391.4文献标识码：A文章编号：1006-8228(2023)09-101-05Improved residual network and its application in intelligent maricultureJi Xingyu,Zhao Xuefeng,Chen Rongjun,Zhong Zhaoman（College of Computer Engineering,Jiangsu Ocean University,Lianyungang,Jiangsu 222000,China）Abstract：In order to meet the increasing intelligent needs of mariculture industry,the recognition and classification algorithms ofmarine fish are studied.A multiple residual network is used for fish recognition and classification.This network not only reducescomputationalcomplexity,butalsoacceleratesthelearningspeedoftheresidualnetwork.Exponentiallinearunit(ELU)isintroduced to improve the standard residual module of the network,which performs nonlinear changes on the negative activationvalue portion of the input.Its parameters can be adaptively learned through convolution training,while maintaining the positiveactivation value portion unchanged.It solves the problem of completely discarding the negative activation value containing usefulinformation in the ReLU layer of the traditional residual module,and reduces the probability of gradient disappearance.In manyexperiments on marine fish recognition and classification,the accuracy of the improved residual network has reached 95.48%ormore,which indicates that the improved algorithm has a high recognition accuracy and good stability.Key words：mariculture;fish recognition;residual network;exponential linear unit(ELU);activation function收稿日期：2023-03-30*基金项目：国家自然科学基金（72174079）；江苏省苏北科技专项（SZ-LYG202024）；江苏省“青蓝工程”优秀教学团队（2022-29）作者简介：季星宇（1998-），男，江苏扬州人，硕士研究生，主要研究方向：图像识别、人工智能。通讯作者：赵雪峰（1976-），男，四川西充人，副教授，博士，CCF会员，主要研究方向：数字图像处理与无损检测、人工智能算法优化。101Computer Era No.9 2023体获得相关鱼类图像，提取这些图像中的鱼类纹理特征和形状特征，构建相关模型，其模型识别准确率达到75%。胡灿4等人提出结合主成分分析算法（PCA）和粒子群优化算法（PSO），对图像处理所提取到的鱼类颜色、形态、纹理等25个特征值进行降维、优化，通过所得到的数据生成极限学习机（Extreme LearningMachine，ELM），实验表明鱼类分类识别准确率达到96.67%。这些传统机器视觉识别方法的特征提取部分较为复杂并且需要依赖人工选择，识别精度也无法完全满足现实需求5。随着人工智能技术、机器学习技术、计算机视觉技术等不断发展，深度神经网络在图像分类与识别中的优异表现被研究者所青睐。2012年Krizhevsky6利用5个卷积层和3个全连接层构建浅层网络，在ILSVRC竞赛中表现优异，取得了38.1%的Top-1错误率以及16.4%的Top-5错误率。2014年，VGGNet7首次将网络的深度增加到了 19 层，在 ILSVRC 竞赛上表现优异，其24.7%的Top-1错误率和7.3%的Top-5错误率的表现令人赞叹。深度神经网络的表现能力也随着网络深度的不断增加而日益增强8。然而，再增加网络深度并不能在网络深度达到一定程度时带来理想效果。为解决网络深度的增加而带来的网络退化的问题，He9等人提出了深度残差网络，缓解了网络深度增加带来的梯度爆炸等问题，同时残差网络在分类和识别方面的精确度也有了很大的提高。但深度残差网络中一般采用的 ReLU 函数对负激活值部分表现并不理想。本文以六种海洋鱼类为代表，构建所需的鱼类图片数据集，并提出一种基于多重残差网络的海水养殖鱼类识别模型，将准残差函数中的BN层和ReLU层用指数线性单元（exponential linear unit，ELU）来代替。并对模型进行测试及性能优化分析。1 引入ELU的ResNet算法改进1.1 ResNet分析原始残差单元是由卷积层(CONV)、批处理归一化层(BN)和非线性激活函数ReLU层组成的标准残差单元组成。我们将第L个残差单元的输入定义为xl，则输出xl+1可表示为如下的数学计算：xl+1=f(xl+F(xl,l)其中，l是该残差函数对应的权重参数;F(xl,l)是标准残差函数；f()为非线性激活函数。其中xl和F(xl,l)需要保持维度相同。如果xl和F(xl,l)的维度不一样，我们使用一个线性映射s将两者维度匹配。公式可以改成以下形式：xl+1=f(sxl+F(xl,l)对于网络中的前馈神经网络，一般需要前向传播输入信号，然后反向传播误差并使用梯度方法更新参数。举例说明，当第L层某参数的更新需要计算损失对其梯度的影响，该梯度依赖于该层的误差项(l)，(l)=z(l)，根据链式法则，(l)又依赖于后一层的误差项(l+1)。(l)=z(l+1)z(l)(l+1)若网络单元的输入与输出保持维度一致，则定义(l)z(l+1)z(l)，于是有：(l)(l)(l+1)当(l)0(exp(x)-1),x 0其中是一个随机的参数，它控制负值部分在何时饱和，以此达到处理负值信息的目的。，由ELU函数在负激活处的定义可以看出，负激活值部分也可以102计算机时代 2023年 第9期携带有用信息并被使用，其在负激活值部分的非线性变换可以减小偏置变换，这使得标准梯度接近自然梯度，从而能够加快训练速度。ELU表达式表明在负激活值的处理方式要优于传统的ReLU激活函数。图1引入ELU的残差单元研究发现，深度残差网络的每一个百分比的提升都需要显著增加层数，这也增加了网络计算和存储的成本。为此，我们使用了多残差网络(Multi-Resnet)来缓解这一难题。1.3 改进的多重残差网络对于原始的残差网络来说残，其最大的问题是残差模块中函数f()是非线性激活函数。当为了提升准确而不断增加网络深度的时候，激活函数f()会使得反向传播的梯度值趋于零，这就延缓了信息流在网络中传播的速度，也就增加了网络的训练时间。为此，改进的残差单元中将激活函数f()替换为恒等映射函数。在恒等映射函数下，公式中残差单元的输出则可以形式化为xl+1=xl+F(xl,l)本文将标准残差函数形式改为多个相同残差函数的和，保持深度固定的同时，拓展其宽度，其表现形式如下：xl+1=xl+i=1kF(xl,l)我们选用上文的改进的残差单元作为残差网络中的多个残差单元，其可以更好地缓解残差网络梯度消失的问题，多重残差网络可以在保持深度固定的同时，通过增加每个残差单元中残差函数的数量来提高网络训练速度。将残差模块中的残差函数进行分组，并将其分配给不同的 GPU进行计算，通过多 GPU并行操作，来提高网络的训练速度。改进后的多重残差网络如图2所示。图2改进后的多重残差网络2 实验与结果分析2.1 海水养殖鱼类数据集的制作本文研究采用网络部分公开数据集和用网络爬虫的方式获取的相关图像构成本文所用数据集（如图3所示），实验选择了六种海鱼作为研究对象，分别是长鳍金枪鱼（ALB）、肥壮金枪鱼（BET）、海豚鱼（DOL）、月亮鱼（LAG）、灰鲭鲨（SHARK）和黄鳍金枪鱼（YFT）。图3数据样本网络爬虫获取的鱼类图像可能存在尺度不一、格式不定等问题，因此需要对获取的图像进行统一数据预处理。采用图像批处理的方式，将所有图像数据存储格式统一为.jpg格式，按照不同鱼类进行分别存储。数据增强是在保证不改变数据类型的前提下，对原始数据进行相关操作，以增加所需数据的多样性，数据增强使这些图像的像素点矩阵中的像素点发生变化，因此这些图像在模型训练的过程中得到不同的矩阵特征，经过训练和学习后，对原始图像进行样本扩展，从而达到增强数据集的目的。翻翻、裁剪、缩放103Computer Era No.9 2023等常用的资料增强方法。通过数据增强（如图4所示）可以提高残差网络的泛化能力，同时能弥补鱼类图像数据集资源匮乏之不足的问题。图4尺度变换通过数据增强的方式，共获得3940张鱼类图像，并以这些图像组成本文数据集。其中80%作为训练集，20%作为实验测试集。2.2 数据集标注数据集标注就是人工划分出图像中待识别目标所在区域的分类信息、语义信息和位置信息等，使得模型训练时能够更高效地获取目标的特征。针对各种不同需求，数据集标注完整性的要求会是不同的。对于本文的目标检测与识别和图像分类的任务中，只需要标注图片中所含目标类别，如图5所示。图5数据集标注2.3 评价标准本文采用准确率（Accuracy）、精确度（Precision）、召回率（Recall）和 F1 分数（F1 score）10来衡量本文模型性能，其公式如下所示：Accuracy=TP+TNTP+FP+TN+FNRecall=TPTP+FNPrecision=TPTP+FPF1score=2 Precision RecallPrecision+Recall其中，TP表示为真实种类的且模型识别为正确的种类数量；FN表示为真实种类的且模型识别为错误的种类数量；FP为样本为错误种类但模型识别为正确的种类数量；TN表示样本为错误种类模型识别为错误的种类数量。2.4 算法有效性验证随着迭代次数的不断增加，本文算法的性能也不断提高。通过不断地实验，当迭代次数达到700次左右时，模型的准确率趋于平缓，如表1所示。对比四种不同迭代次数下模型识别准确率，考虑时间成本的，本文最终选择700次迭代的版本作为最终模型，其测试集准确率达到95.48%。本文提出的鱼类识别算法做到了保证正确率的情况下拥有较低的模型复杂度，图 6 为识别结果。图 7 为每张测试图像识别准确率散点图，部分图像任受背景影响导致识别精度不高，但整体上识别算法还是拥有较高的识别准确率。表1不同迭代次数下的识别精度对比迭代次数训练集准确率测试集准确率1000.89870.92933000.92470.94235000.93370.94857000.95600.9548图6部分识别结果2.5 不同鱼类识别算法对比实验为测试本文算法性能，我们用ResNet、AlexNet以及本文算法进行测试，不同算法识别结果如表2所示。104计算机时代 2023年 第9期图7识别准确率表2各识别算法的评价指标对比算法名称AlexNetResNet（原始）ResNet（本文）准确率%93.8290.9295.15精确度%94.3291.1495.33召回率%93.3691.5696.27F1分数%93.8391.3595.793 结束语针对传统残差网络中忽略负激活值、网络计算与储存成本过大等问题，本文提出一种适用于海洋鱼类识别和分类任务的残差网络改进算法。使用能够减少网络深度、增加网络宽度的多重残差网络作为模型的主干网络，可加快学习的收敛速度，极大地加速了网络的训练和检测速度，同时降低了网络计算成本。残差函数中，使用ELU取代BN层和ReLU的结合，使得一些有用的负值信息可以被使用，提高了残差网络对于鱼类识别和分类的准确性。实现对六种鱼类的鱼种分类，实验显示，识别准确率达95.48%，相较于原始的ResNet网络准确率提高了4.23%。参考文献(References):1罗茵.2020中国渔业统计年鉴J.海洋与渔业,2020(6):12-13.2 吴一全,殷骏,戴一冕,等.基于蜂群优化多核支持向量机的淡水鱼种类识别J.农业工程学报,2014,30(16):312-319.3 姚润璐,桂詠雯,黄秋桂.基于机器视觉的淡水鱼品种识别J.微型机与应用,2017,36(24):37-39.4 胡灿.基于ELM算法的鲜活淡水鱼图像自动归类研究D.湖南:湘潭大学,2017.5 胡涛.基于深度学习的鱼类识别研究D.浙江:浙江工业大学,2019.6 Krizhevsky A,Sutskever I,Hinton G.ImageNet Classifica-tionwith Deep Convolutional Neural NetworksJ.Ad-vances in neural information processing systems,2012,25(2).7 Karen Simonyan,Andrew Zisserman.Very Deep Convolu-tionalNetworksforLarge-ScaleImageRecognition.CoRRJ.2014,abs/1409.1556.8 Zifeng Wu,Chunhua Shen,Anton van den Hengel.WiderorDeeper:RevisitingtheResNetModelforVisualRecognitionJ.Pattern Recognition,2019,90.9 Kaiming He,Xiangyu Zhang,Shaoqing Ren,Jian Sun 0001.Identity Mappings in Deep Residual Networks.CoRRJ,2016,abs/1603.05027.10 万鹏,赵竣威,朱明,等.基于改进 Res Net50 模型的大宗淡水鱼种类识别方法J.农业工程学报,2021,37(12):159-168.Dynamics Control,2015,10(7):435-446.10 Koelstra,S.DEAP:A Database for Emotion Analysis;UsingPhysiologicalSignalsJ.IEEEtransactionsonaffective computing,2012.3(1):18-31.11 Zhang X,Yao L,Kanhere S S,et al.MindID:PersonIdentificationfromBrainWavesthroughAttention-based Recurrent Neural NetworkJ,2017,2(3):1-23.12SarmaP,BarmaS.EmotionrecognitionbydistinguishingappropriateEEGsegmentsbasedonrandom matrix theoryJ.Biomedical Signal Processingand Control,2022.70(9):1-13.13 Topic A,Russo M.Emotion recognition based on EEGfeaturemapsthroughdeeplearningnetworkJ.Engineering Science and Technology an InternationalJournal,2021,24(6):1442-1454.14 Shi L C,Jiao Y Y,Lu B L.Differential entropy featurefor EEG-basedvigilanceestimationA.35thInterna-tional Conference of the IEEE Engineering in Medicine&Biology SocietyC.Osaka,EMBC,2013:6627-6630.15 Yin Z,Zhao M,Wang Y,et al.Recognition of emotionsusingmultimodalphysiologicalsignalsandanensemble deep learning modelJ.Computer Methods&ProgramsinBiomedicine,2017,140(Complete):93-110.16 Xie Y,Wang L P.EEG-Based Emotion RecognitionUsingAutoencoderandLSTMD.BachelorDegree,Singapore:NTU,2021.17 李文书,何芳芳,钱沄涛,等.基于Adaboost-高斯过程分类的人脸表情识别J.浙江大学学报(工学版),2012,46(1):79-83.(上接第100页)CECE105