1、25农业灾害研究 2023,13(8)基于深度学习的番茄叶部病害识别方法研究王明英1,王 嘉2,裴志远1,李宇豪2,李荣荣31.山西省大宁县气象局,山西大宁 042300;2.山西省吉县气象局,山西吉县 042200;3.山西省曲沃县气象局,山西曲沃 043400摘要 在深度学习中,番茄叶部病害图像识别模型往往采用传统的卷积神经网络,虽然识别率高、性能好,但存在参数量大、成本高、训练时间长等问题,在硬件资源受限的环境条件下局限性较大,难以部署到移动设备、嵌入式设备等终端。基于此,在ResNet18的主体结构上,通过增加特征提取尺度、更新残差层连接方式、分解大卷积核等操作,采用了一种改进型的病害
2、识别模型Multi-scale ResNet。在减少参数量的同时降低了空间存储开销。试验结果表明,与ResNet18相比,在准确率相差不大的情况下,模型的训练参数减少约99%。提出的改进型网络在保证精确度的前提下降低了模型的复杂度,使番茄叶部病害识别模型在硬件资源受限的条件下仍可以运行部署,更具有普适性。关键词 深度网络;病害识别;多尺度;残差层中图分类号:S436.412.1 文献标识码:B 文章编号:20953305(2023)080025-03番茄是重要的蔬菜作物,全球年总产量达1.7亿 t,在蔬菜作物中位居首位。然而,我国番茄的病害不少于30种,其中严重发生、流行地区日趋扩大,且造成明
3、显减产的病害超过10种,这些病害成为番茄高产稳产的一大阻碍1。因此,识别防治番茄叶部病害类型,能有效阻止病害传播并降低其造成的经济损失2。柴洋等3通过选取5种番茄叶片病害部位较明显的特征,并根据该特征值采用贝叶斯分类器对番茄3种病害进行识别,准确率达到92%以上。郭小清等4根据番茄叶部病害的特点,对AlexNet采取多种尺度卷积、去除局部的归一化层等操作,减少了网络参数量,该模型的识别准确率可达到92.7%。胡志伟等5提出一种网络ARNet,在残差网络上引入注意力机制,提高了番茄病害识别的细粒度水平和鲁棒性,识别准确率可达到88.2%。随着深度学习模型的不断发展,为适应更复杂的环境,网络层的设
4、计都朝着深度化方向发展。然而,由于计算量大、存储成本高、模型复杂、硬件要求高等特性,使得深度学习无法有效地应用于轻量级移动便携设备6-7。因此,在保证模型识别准确率的前提下,应该尽量压缩模型复杂度。本研究分析了ResNet18网络的不足之处,并在其主体结构的基础上,采用了一种改进型网络Multi-scale ResNet8。对该模型分别采用不同epoch进行训练,以判断模型的收敛情况和稳定性。1 番茄叶部病害识别方法研究1.1 试验流程设计采用深度学习的通用流程进行试验,设置好训练参数后划分数据集,并对数据进行预处理、数据增强操作,然后将数据读入内存;构建网络模型,定义损失函数和优化器,然后使
5、用该模型对读入数据集进行训练,将训练好的模型用于测试集,预测识别效果,对该模型的性能进行评估。1.2 试验参数设置本试验采用的软件环境为:Windows 64位系统,TensorFlow 2.4.0配合Cuda11.0 进行训练,Python编程语言(Python 3.8.5),使用Jupyter Notebook实现。Research on Tomato Leaf Disease Recognition method based on Deep LearningWang Ming-ying et al(Daning Meteor-ological Bureau,Daning,Shanxi 0
6、42300)Abstract In deep learning,several traditional convolutional neural networks are often used in tomato leaf disease image recognition models.Although the recognition rate is high and the performance is good,there are still problems such as large parameter quantities,high cost,and long training t
7、ime.In an environment with limited hardware resources,there are still significant limitations and it is difficult to deploy to mobile devices,embedded devices,and other terminals.Based on the main structure of ResNet18,adopted an improved disease identification model,Multiscale ResNet,by adding feat
8、ure extraction scales,updating residual layer connectivity,and decomposing large convolution cores.Reducing the amount of parameters while reducing the space storage overhead.The experimental results showed that compared with ResNet18,the training parameters of the model were reduced by about 99%wit
9、h little difference in accuracy.The improved network proposed in this study reduced the complexity of the model while ensuring accuracy,making the tomato leaf disease identification model still operational and deployable under limited hardware resources,making it more universal.Key words Deep networ
10、k;Disease identification;Multi scale;Residual layer作者简介 王明英(1999),女,山西大宁人,助理工程师,主要从事地面气象综合观测等工作。收稿日期 2023-03-1026Journal of Agricultural Catastrophology 2023,Vol.13 No.8硬件环境:计算机内存16 GB;处理器为AMD Ryzen 7 4800H with Radeon Graphics,2.90 GHz;GPU为NVIDIA GeForce RTX 2060,6 GB显存。部分参数设置:网络批处理大小(batch-size)设置
11、为32,样本输入尺寸采用224224,所有网络模型迭代次数(epoch)均为20轮。1.3 数据准备1.3.1数据集本试验选取的数据集是来自PlantVillage的5种番茄叶片图像,包含4种病害标签和1种健康样本标签,图像总数为7 551张。表1为数据集详细信息,图1为番茄数据集病害样本示例。表1 试验数据库叶片类型训练集数量验证集数量测试集数量总数番茄细菌性斑点病1 2764264252 127番茄早疫病6002002001 000番茄晚疫病1 1453833811 909番茄叶霉病554186184924番茄健康叶片9543193181 591总数4 5291 5141 5087 551
12、番茄细菌性斑点病番茄早疫病番茄晚疫病番茄叶霉病番茄健康叶片番茄细菌性斑点病番茄早疫病番茄晚疫病番茄叶霉病番茄健康叶片图1 番茄数据集病害样本1.3.2 数据预处理与增强原始数据集文件夹下有5个番茄类别文件,每个类别下有若干张同种病害图片,定义一个python文件用来划分数据集,通过随机打乱操作将原始数据集按照622的比例划分为训练集、验证集、测试集。本研究中数据增强采用了7种方式:随机左右翻转;随机裁剪;剪切或填充图像;随机调节亮度,最大变化范围为原来的0.6;随机调节色度,最大变化范围为原来的0.5;随机调节对比度,最低设置为0.2,最高设置为1.8;随机调节饱和度,最低设置为0.2,最高设
13、置为1.8。1.4 病害图像识别模型1.4.1 ResNet18介 绍ResNet18一 共有18层,网络输入为2242243,经过size=77、stride=2的大卷积核后图像降维到112112,输出通道为64;经过一个size=33,stride=2的最大池化层后图像降维至5656,输出通道不改变;然后进入残差部分,每一个残差块由2个basic-block组成,而basic-block将输入数据分为2条通道,一条通道将输入直接传到后边短接,另一条通道经过2个33卷积,2条通道进行相加并由经过Relu激活函数输出,第一次残差操作不使用下采样,图像尺寸为5656,通道数仍为64,接下来每经历
14、一次残差操作后图像降维至原先一半,通道数增加为原来2倍,经历3次残差操作后图像尺寸为77,通道数增加至512;最后连接池化层和全连接层。ResNet18通过残差连接解决了梯度消失的问题,然而在资源受限的场景下,该模型仍存在参数多、特征提取尺寸单一等问题。1.4.2改进型Multi-scaleResNet本研 究 针 对ResNet18的 不 足 之 处,采 用 了 一 种 改 进 版 本 的Multi-scale ResNet,网络参数见表2。该网络模型基于ResNet18的主体架构,在以下4个方面做了改进:(1)残差层连接方式。在ResNet18中,网络只学习相邻2个卷积层的残差来更新参数,
15、而改进后的模型使用了2层残差连接,在学习3个相邻卷积层误差的同时可以学习到相邻2个网络层的误差。(2)特征图降维方式。ResNet18的降维卷积层放在残差模块里,然后将残差模块两两相连;改进后的模型将残差模块之间的特征图降维卷积层放置于2个残差模块之间,在学习层间误差的同时可以学到输出特征,有效地降低网络复杂度。(3)特征提取尺度。ResNet18通过单尺度卷积层的堆叠实现图像特征提取,但现实中番茄叶片病害症状复杂,病斑部位、大小、颜色等均不相同,有些病害早晚期症状也不相同,因此改进后的Multi-scale ResNet进行多尺度特征提取来扩大感受野的范围。本网络将残差通道设置为双通道,第一
16、个通道为size=77的卷积层叠加size=33的卷张27农业灾害研究 2023,13(8)积层,第二个通道为size=55的卷积层叠加size=33的卷积层,最后输出时将2个通道相加,重复2次,构成多尺度特征提取残差模块。表2 Multi-scaleResNet网络参数层次结构卷积核步长输出特征图大小过滤器数目Input/22422431st卷积层71(2,1)112112322nd卷积层17(1,2)112112323rd最大池化层3325656324th残差块1/15656325th卷积层3322828646th卷积层3321414967th残差块2/11414968th卷积层33277
17、1929th平均池化层/10th全连接层/(4)卷积核。由于改进后的Multi-scale ResNet获取多尺度特征的同时会导致网络的参数增加,因此需要对大卷积核分解来压缩模型的参数量。大卷积核拆分有2种方法:对称拆分和非对称拆分,2种方法都可以保证分解后的卷积核感受野不改变且参数下降,理论分析非对称拆分参数量更少,效果更明显。1.5 损失函数和优化器损失函数也叫目标函数,通过计算预测出的结果与真实结果之间的距离衡量当前任务是否已经完成。本试验中,读取标签的方法是建立一个字典类型的数据结构,将标签转换为对应的整型索引,由于标签是数字编码,且属于单标签多分类问题,因此采用的损失函数是Spars
18、eCategoricalCrossentropy()。优化器是将损失函数作为其第一个参数,决定采用什么样的方式对网络进行更新,以降低损失值。在本试验中,优化器使用的是SGD的一种变体形式RMSprop。1.6 模型训练对模型进行编译后,将数据加载进模型开始迭代训练,本试验中batch size=32,epoch=20。1.7 模型评估与预测完成训练循环后,保存模型的权重信息,将训练好的模型应用于测试集数据,计算其准确率,完成模型评估。本研究用到的模型量化指标如下。(1)准确率。在测试集上得到正确的分类结果的样本数所占参与测试的总样本的比率。计算公式如下:Accuracy(%)=预测正确的样本数
19、测试样本总数100%表3 Multi-scaleResNet正确分类识别率番茄细菌性斑点病番茄早疫病健康番茄晚疫病番茄叶霉病92.4387.3186.2394.7390.40图2 单张图片预测结果图(2)模型参数和模型尺寸。随着网络模型的精度提高,模型尺寸随之发生变化,过于复杂庞大的网络模型需要大量的空间和运算开销,使得在硬件资源环境受限的情况下具有一定的局限性,因此模型尺寸的大小也是评估模型的一个重要指标。2 结论表3为Multi-scale ResNet在番茄叶部病害数据集上的正确分类识别率,图2为该模型单张图片预测结果图。综上可以得出,多尺度的残差模块与小卷积核的结合会产生意想不到的效果
20、。本研究采用的改进型的网络模型可以使得识别准确率与网络复杂度之间达到较好的平衡,为番茄叶片病害识别系统提出了一种更好的模型,为硬件资源受限、对模型大小有限制要求的边缘部署提供了新方法。参考文献1 李君明,项朝阳,王孝宣,等.“十三五”我国番茄产业现状及展望J.中国蔬菜,2021,41(2):13-20.2 许冠芝,王泽民,李成强.基于深度学习的番茄叶部病害识别模型J.微处理机,2020,41(3):30-36.3 柴洋,王向东.基于图像处理的温室大棚中番茄的病害识别J.自动化技术与应用,2013,32(9):83-89.4 郭小清,范涛杰,舒欣.基于改进Multi-Scale AlexNet的番茄叶部病害图像识别J.农业工程学报,2019,35(13):162-169.5 胡志伟,杨华,黄济民,等.基于注意力残差机制的细粒度番茄病害识别J.华南农业大学学报,2019,40(6):124-132.6 方晨晨,石繁槐.基于改进深度残差网络的番茄病害图像识别J.计算机应用,2020,40(S1):203-208.7 耿丽丽,牛保宁.深度神经网络模型压缩综述J.计算机科学与探索,2020,14(9):1441-1455.8 王春山,周冀,吴华瑞,等.改进Multi-scale ResNet的蔬菜叶部病害识别J.农业工程学报,2020,36(20):209-217.%