基于元辅助任务学习的中药饮片识别方法.pdf

收稿日期:2022-12-09摇 摇 摇 摇 摇 摇 修回日期:2023-04-12基金项目:国家自然科学基金青年项目(61701222)作者简介:张一鹏(1996-),男,硕士研究生,研究方向为深度学习、图像处理;通讯作者:吴梦麟(1982-),男,博士,副教授,研究方向为医学图像处理、医学影像病变分析、三维影像重建、医疗信息的检索和挖掘等。基于元辅助任务学习的中药饮片识别方法张一鹏,罗启甜,吴梦麟*(南京工业大学 计算机科学与技术学院,江苏 南京 211816)摘摇 要:中药饮片的分类对临床中药的实际应用有着十分重要的影响,传统的人工分类主要依靠主观经验作为判断依据,而基于计算机视觉的中药饮片自动识别分类有着快速、准确的特点。但影响自动识别结果的因素较多,针对中药饮片自动识别结果受产地、锻造方式等因素影响大的问题,提出了一种基于元辅助任务学习的中药饮片识别方法。该方法采用了辅助任务以提升主任务表现的策略,利用中药饮片的多种属性构成辅助任务,以提升主任务即中药饮片分类结果的准确性;此外该方法还加入了元学习标签生成网络,该网络自动为模型生成辅助标签作为辅助任务,在提升模型表现的同时节省了人工标注的成本;最后该方法使用了 Swin-Transformer 作为骨干网络进行特征提取,提升了模型的全局感知能力,进一步提升了模型的泛化性。实验结果表明,该方法在不同批次中药饮片中的识别精度均高于普通方法。关键词:中药饮片识别;辅助任务;多任务;元学习;深度学习中图分类号:TP399摇 摇 摇 摇 摇 摇 摇 文献标识码:A摇 摇 摇 摇 摇 摇 文章编号:1673-629X(2023)10-0109-06doi:10.3969/j.issn.1673-629X.2023.10.017Traditional Chinese Medicine Slice Recognition Method Based onMeta-assisted Task LearningZHANG Yi-peng,LUO Qi-tian,WU Meng-lin*(School of Computer Science and Technology,Nanjing Tech University,Nanjing 211816,China)Abstract:The classification of TCM(Traditional Chinese Medicine)decoction pieces has a very important influence on the practical ap鄄plication of clinical TCM.The traditional manual classification mainly relies on subjective experience as the judgment basis,while the au鄄tomatic recognition and classification of TCM decoction pieces based on computer vision has the characteristics of fast and accurate.However,there are many factors affecting the results of automatic recognition of TCM decoction pieces.Aiming at the problem that theresults of automatic recognition of TCM decoction pieces are greatly affected by factors such as origin and forging mode,a method ofTCM decoction pieces recognition based on meta-assisted task learning is proposed.The method adopts the strategy of using auxiliarytasks to improve the performance of the main task.Various attributes of TCM decoction pieces are used to form auxiliary tasks to improvethe accuracy of the main task,namely,the classification results of TCM decoction pieces.In addition,a meta-learning tag generationnetwork is added to the method.The network automatically generates auxiliary tags for the model as auxiliary tasks,which can improvethe performance of the model and save the cost of manual labeling.Finally,the Swin-Transformer is used as the backbone network forfeature extraction,which improves the global perception ability of the model and further improves the generalization of the model.Theexperimental results show that the accuracy of the proposed method in different batches of TCM decoction pieces is higher than that of or鄄dinary method.Key words:TCM slice recognition;auxiliary task;multi task;meta learning;deep learning0摇 引摇 言中药饮片是中药材按中医药理论,经过加工炮制后,可直接用于中医临床的中药。中药饮片种类繁多,且由于炮制方式和产地不同造成的外形差异较大,都给中药饮片鉴别带来了不小的挑战。传统的人工鉴别方法通过观察形、色、气、味等,依靠经验知识进行鉴别1,这样的方法需要有较强的专业知识,鉴别结果受主观性影响较大,且检测效率较低。随着计算机技术的发展,基于计算机视觉的中药自动识别技术的优势愈发明显。相较于传统的人工鉴第 33 卷摇 第 10 期2023 年 10 月摇 摇 摇 摇 摇 摇 摇 摇 摇 摇计 算 机 技 术 与 发 展COMPUTER TECHNOLOGY AND DEVELOPMENT摇 摇 摇 摇 摇 摇 摇 摇 摇 摇Vol.33摇 No.10Oct.摇 2023定手段,自动识别技术能够更好地提取中药饮片图像的特征,加强鉴别的客观性;且自动识别技术的效率更高,可以实现高效的大批次检测。在中药饮片鉴别的自动识别领域,早期的图像处理方法通过从中药饮片的形状、纹理、颜色中提取出人工设计的底层图像特征,然后结合浅层机器学习分类器对中药饮片进行分类。如陶欧2提出采用灰度共生矩阵研究中药材的纹理特征;胡继礼3利用颜色矩、灰度共生矩阵以及 Hu 不变矩提取中药的视觉特征,最后利用 SVM 分类器进行分类。这类方法有一定效果但提取的浅层不具有高层语义的特征信息,很容易受检测环境影响,实际应用时可靠性较差4。近年来伴随着深度学习的兴起,图像自动识别技术有了巨大突破,同时也推动了中医药识别技术的发展5。李玲6基于电子鼻的三七及其伪品,采用了堆叠栈式自编码网络和深度信念网络两种网络结构,探究了深度学习方法在电子鼻数据上的适用性;Tan 等人7利用深度卷积神经网络提出了一种高效、准确的蔷薇科山楂属植物鉴别方法。深度学习卷积神经网络依靠强大的特征提取优势已经应用于中药鉴别领域。但这些方法对图像的细节特征关注度不强,且模型的泛化性不强,与实际应用仍有差距。为解决普通模型泛化性不强、不利于实际应用的问题,该文提出了一种基于元辅助任务学习的方法,该方法在传统的单任务分类模型上加入了辅助任务,通过共享不同任务之间的参数达到提升模型泛化性的目的;此外该方法还利用元学习的思想,在辅助任务学习的基础上新增了一个标签生成网络,从而达到自动生成辅助任务标签的目的;最后该方法使用 Swin-Transformer 作 为 模 型 的 骨 干 网 络,目 的 是 利 用Transformer 的全局感知能力更好地捕获图片的空间信息,进一步提升模型的精确度与泛化性。主要贡献有:(1)将辅助任务学习的方法引入中药饮片识别当中,达到了提升药材分类精度的目的;(2)将元学习思想引入中药饮片识别当中,达到了可以自生成辅助任务标签的目的,从而减少了人工定义辅助 任 务 时 需 要 做 的 大 量 标 注 工 作;(3)将Transformer 结 构 引 入 中 药 饮 片 识 别 当 中,利 用Transformer 的全局感知能力更好地捕获图片的空间信息,达到了进一步提升了药材分类精度的目的。1摇 相关工作1.1摇 多任务学习与辅助任务学习多任务学习的目的是通过同时训练若干个相关的任务进而实现不同任务之间的共享特征表示,提升各个任务的表现。一般来说有多个目标函数的损失同时进行学习的都属于多任务学习的范畴。由于从相关任务中提取到的先验知识是相互依赖的,所以由这些先验知识共同编码构成的共享特征表示可以提升每个独立任务的表现。Yi 等人8提出了一种联合训练人脸确认损失和人脸分类损失的多任务人脸识别网络;Zhang 等人9提出了将 SoftmaxLoss 和 TripletLoss 结合在一种网络中进行多任务训练的方法,并将此方法用于细粒度车辆分类中,取得了不错的效果。相较于普通的单任务学习,多任务学习框架在提升模型的泛化性、防止训练过程陷入局部最优、提升模型学习速率、防止过拟合等方面都有比较好的效果。中药饮片由于产地与锻造方式的不同,普通单任务模型会有泛化性不足、跨批次精度下降的问题,而多任务学习框架为解决该问题提供了可行的思路。与多任务学习为提升各个任务的表现不同,辅助任务学习将若干个相关任务分成了主任务与辅助任务两大类,其中辅助任务的作用是为主任务提供更多的先验知识进而提升主任务的表现。Shubham 等人10为了提升会话语音识别的性能,将中低级的音素识别作为辅助任务;He 等人11为了解决图片中是否包含文字区域的问题,其在传统 CNN 基础上加入了对图片进行字符分类和用 BinaryMask 表示字符位置两个辅助任务。该文利用辅助任务学习的方法,将中药饮片分类作为主任务,中药饮片的形状和颜色分类作为两个辅助任务,通过硬参数共享12的方式对三个任务进行联合训练。经过实验证明,在同一骨干网络下,加入了辅助任务学习的模型要明显优于普通的单任务模型。在后续的工作中,该文利用元学习框架设计了标签生成网络,实现了自动为模型选择最适宜标签的功能,在提升模型泛化性的同时还能够减少人工标注的工作量。1.2摇 元学习元学习又称作学会学习,与传统深度学习中对提取特征进行学习不同的是,元学习的目的是对算法本身进行归纳学习。在早期,元学习的探索主要集中在如何对神经网络模型进行自动学习更新13-15;而近几年的方 法 主 要 聚 焦 于 基 于 LSTM16或 者 合 成 梯度17-18 的深度神经网络模型。此外,元学习也可以被用来寻找最优的超参数,并可以在小样本学习中学习出一个更好的初始化参数。该文提出的标签生成网络就是基于元学习方法,元学习阶段的目的在于生成有用的辅助任务标签,而这些辅助任务标签会被用于多任务学习阶段。1.3摇 TransformerTransformer 最早应用于自然语言处理领域并且011摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 计算机技术与发展摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 第 33 卷取得了巨大成功,研究者尝试将 Transformer 引入计算机视觉任务中。Dosovitskiy 等19提出了一个基于Transformer 的图像处理模型,将图像划分为多个图像块并编码形成序列向量,解决了 Transformer 应用在图像领域的输入问题,并在图像分类领域的基准数据集上取得了优于卷积神经网络的效果。Liu 等20提出的Swin-Transformer 利用空间维度的移位窗口来对全局和边界的特征进行建模,增强了模型对局部和全局特征的提取能力。该文将 Transformer 结构引入中药饮片识别的问题当中,将 Swin-Transformer 作为模型的主干网络进行特征提取,利用 Swin-Transformer 特有的全局感知能力更好地捕获图片的空间信息。通过引入 Swin-Transformer 结构可以进一步提升模型的泛化能力,进而提升药材的分类精度。2摇 基于元辅助任务学习的中药饮片识别2.1摇 模型框架该文提出的用于中药饮片分类的基于元辅助任务学习的模型结构如图 1 所示。该模型主要由多任务学习阶段和元学习标签生成阶段两部分构成,两阶段的网络均采用了 Swin-Transformer 作为骨干网络。HW3input图 1摇 基于元辅助任务学习中药识别方法的模型结构摇 摇 多任务学习阶段与元学习标签生成阶段同时训练构成一个 epoch,每个 epoch 有两个步骤:第一步是多任务学习阶段使用药品的主任务标签(即真实标签)与来自标签生成阶段的辅助任务标签进行训练;第二步是根据第一步得出结果更新元学习标签生成阶段的参数。2.2摇 多任务学习阶段在多任务学习阶段,作为主任务的中药饮片分类任务与其他辅助任务所使用的预测损失函数都是focal loss21。中药饮片由于其产地和珍稀程度导致样本的分本不均衡,呈现出长尾分布的状态,而 focalloss 损失函数比较适用于数据样本不均衡的场景,相较于其他损失函数更适用于中药饮片的数据集。focalloss 损失函数定义如下:L(y,y)=-y(1-y)log(y)(1)式中,y 代表预测的中药饮片种类、属性标签,y 代表真实的中药饮片种类、属性标签,可调节因子 酌 设置为 2。将定义好的 focal loss 应用到作为主任务的中药饮片分类任务与所有的辅助任务上,定义多任务学习阶段为函数 f兹1(x),其中 兹1为中药饮片分类多任务学习阶段需要进行学习更新的参数,x 代表输入,多任务学习阶段的损失函数定义如下:Ltotal兹1=L(fpri兹1(xi),ypri(i)+L(faux1兹1(xi),yaux1(i)+L(faux2兹1(xi),yaux2(i)(2)式中,fpri兹1(xi)、ypri(i)分别代表主任务中药饮片种类的预测标签、真实标签;faux兹1(xi)、yaux(i)分别代表辅助任务中药饮片属性的预测标签、真实标签;(i)代表训练集中的第 i 个训练批次。该阶段最终的目的是将总损失,即 Ltotal兹1训练收敛至最小值。2.3摇 元学习标签生成阶段在元学习中药饮片识别辅助标签生成阶段,标签生成网络的参数 兹2由多任务学习阶段的结果进行更新;兹2更新之后又可以为多任务网络选择最适合的中药饮片识别辅助标签,进而使得多任务学习网络有更好的表现。在这个过程中,利用多任务学习阶段的结果进行标签生成网络参数的更新,可以被认为是元学习的一种形式。将元学习标签生成阶段的损失函数定义如下:L兹2=L(fpri兹+1(xi),ypri(i)(3)式中,兹2为元学习中药饮片识别辅助标签生成阶段需要更新的参数,兹+1表示使用式(2)中定义的中药饮片识别多任务学习阶段损失函数进行一次梯度更新后的多任务网络的权重,即:111摇 第 10 期摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 张一鹏等:基于元辅助任务学习的中药饮片识别方法兹+1=兹1-琢兹1Ltotal兹1(4)式中,琢 代表多任务学习阶段的学习率。更新元学习阶段参数 兹2的过程实际上是一次二阶求导的过程,保留 兹+1的计算图再次计算关于 兹2的导数,在其他几种元学习框架中也用到了这种通过保留计算图进行二阶求导的方法22-23。此外,在参数 兹2更新过程中加入了熵损失函数H(yaux1+yaux2)作为一个正则项24。加入该正则项可以避免标签生成网络每次都产生相同标签的现象,进而使得标签生成网络能够生成更复杂且有用的中药饮片识别辅助标签。最终将式(3)和熵损失函数应用到元学习标签生成阶段,参数 兹2的更新过程如下:兹+2=兹2-茁兹2(L兹2+姿H(yaux1+yaux2)(5)3摇 实验与分析实验部分使用 Python 语言完成了训练数据的预处理、PyTorch 框架的使用和实验结果数据的整理,同时使用 PyTorch 框架完成了训练数据的加载、模型的结构实现和模型的训练,具体的硬件环境配置如下:CPU 使用 Intel(R)Xeon(R)E5-2630 v3,GPU 使用NVIDIA GeForce GTX 1080 Ti,内存大小为 32 GB,操作系统为 Windows 10。3.1摇 数据集介绍目前中药饮片识别领域还没有公开的大型数据集可用,并且网上可搜寻的图片往往背景复杂,带来的噪声对结果影响较大。本实验所使用的数据集是由专业的高清设备拍摄,如图 2 所示,拍摄的背景进行了统一,进而保证了噪声影响的最小化。实验所用药材采样于中药饮片交易中心,保证了药材的质量与种类,并且为了测试模型的泛化性,共计采样了两批次、数十种药材进行实验。将采样后的图片进行了归类,每张图都人工配以标签(种类、颜色、形状),该过程的目的是为了将人工定义辅助标签与自动生成标签进行实验比较。最终用于本次实验的数据集共有两个批次、三十六种药材、六千五百余张图片。图 2摇 部分数据集的展示3.2摇 实验设置及评价标准实验将第一批次的数据集,按照 8 颐 2 的比例划分成训练集与验证集,将第二批次的数据集均用作测试集,最终的精度测试结果均来自测试集上,这样的划分可以保证最大程度上对模型的泛化性进行评估。为保证数据的统一,所有的图像统一到 224伊224 大小的尺寸,然后采用随机水平翻转并进行归一化处理。实验中采用自适应矩估计(Adaptive moment estimation,Adam)优化算法,训练迭代总次数为 100,初始学习率设置为 0.000 1,每迭代 25 个 epoch 将学习率下降为原来的 1/2。为了定量评估文中方法且适应中药饮片数据集存在样本分布不均衡的情况,实验采用了针对每一类别的精确率(Pre)、召回率(Recall)、F-score 作为具体药材的评价指标,计算公式分别为:Pre=TPTP+FP(6)Recall=TPTP+FN(7)F-score=2PreRecallPre+Recall(8)其中,TP 代表真阳性,指一类药材正确分类的样本数;FP 代表假阳性,指错将其他类药材错分为一类药材的样本数;FN 代表假阴性,指错将一类药材分成其他类的样本数。最终的实验结果取同一批次中各类药材的精确率与召回率的平均值作为评价标准,即:PAvg=移(Pre1+Pre2+Pren)n(9)RAvg=移(Recall1+Recall2+Recalln)n(10)F-score=2PAvgRAvgPAvg+RAvg(11)3.3摇 实验结果与分析3.3.1摇 卷积神经网络的对比为了同 Swin-Transformer 进行对比,实验首先对几种卷积神经网络进行了测试,使用单任务学习网络,实验结果如表 1 所示。表 1摇 卷积神经网络的对比指标模型MobileNetVGGNetResNet-34ResNet-101PAvg0.589 70.637 80.694 70.671 2RAvg0.601 80.656 60.685 90.664 2F-score0.595 60.647 00.690 20.667 6摇 摇 可以看出,在卷积神经网络的对比中,ResNet-34网络在精确率与召回率方面的表现都更好一些,因此选取了 ResNet34 作为与 Swin-Transformer 进行对比的卷积神经网络。3.3.2摇 卷积神经网络与 Swin-Transformer 的对比实验部分主要是将 Swin-Transformer(SwinT)与ResNet-34 进行对比,使用人工标注属性数据集,实验211摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 计算机技术与发展摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 第 33 卷结果如表 2 所示,其中 M-SwinT、M-ResNet34 代表对应的网络应用于多任务学习框架上,PAvg、RAvg、F-score 的计算方式与公式(6)公式(8)相同。表 2摇 卷积神经网络与 Swin-Transformer 的对比模型&精度ResNet-34SwinTM-ResNet34M-SwinTPAvg0.694 70.736 10.722 90.751 3RAvg0.685 90.745 80.717 60.764 9F-score0.690 20.740 90.725 20.767 3摇 摇从表 2 可以看出,Swin-Transformer 在单任务与多任务框架下相较于 ResNet-34,其实验的指标都更好,也就意味着以 Swin-Transformer 为骨干网络的模型有更好的表现。同时在这一小节的实验中,可以看出在同一骨干网络下单任务与多任务框架的表现差异,从表中可以看出,多任务框架的模型相较于单任务模型有着更好的表现。3.3.3摇 消融实验本实验部分为消融实验,目的是在主干网络的基础之上进行逐步扩展,同时进行实验证明每一步的扩展是否能在先前基础上使得模型性能有所提升,最终确定最优模型框架。实验结果如表 3 所示。(1)该部分实验采用 Swin-Transformer(SwinT)作为骨干网络,得出的 PAvg、RAvg、F-score 结果作为该部分基准。(2)在数据处理方面增加了数据增强处理步骤(Data Augmentation),该部分利用翻转、旋转、平移、亮度增强的方法对原始数据进行扩充增强,实验结果表明数据增强能够提升模型的性能。(3)在先前基础上加入了多任务学习框架(MultiTask),与 3.3.2 中已经应用了多任务学习框架的 M-SwinT 结果相比,该部分的数据已做了数据增强,实验结果表明多任务学习能够提升模型的性能。(4)加 入 了 元 学 习 标 签 生 成 网 络(Meta-Generation),该部分的实验数据不再需要人工额外标注属性,实验结果表明元学习标签生成网络在节省人工标注成本的同时能够提升模型的性能。表 3摇 消融实验模型&精度PAvgRAvgF-scoreSwinT0.736 10.745 80.740 9+Data Augmentation0.759 60.751 50.760 5+Multi Task0.777 30.773 40.779 2+Meta Generation0.805 30.791 90.798 5摇 摇 从消融实验的结果可以看出,每一部分的融入都使得实验结果有所提升,最终得到的包含 SwinT+DataAugmentation+Multi Task+Meta Generation 的模型框架达到了实验的最佳性能。4摇 结束语为解决普通深度学习模型泛化性不强、不利于实际应用的问题,提出了一种基于元辅助任务学习的方法。该方法在传统的单任务分类模型上加入了多任务学习网络、元学习标签生成网络,同时使用了相较于卷积神经网络有更好表现的 Swin-Transformer 作为模型的骨干网络。实验结果表明,该方法能够有效地提升深度学习模型在中药饮片识别中的精确度与泛化性,有利于将深度学习模型应用到实际的中药饮片识别当中,同时也为中药自动识别提供了更宽阔的思路。参考文献:1摇 张摇 谊,万摇 华,涂淑琴.基于计算机视觉的中药饮片分类技术综述与案例研究J.计算机应用,2022,42(10):3224-3234.2摇 陶摇欧,林兆洲,张宪宝,等.基于饮片切面图像纹理特征参数的中药辨识模型研究J.世界科学技术-中医药现代化,2014,16(12):2558-2562.3摇 胡继礼,阚红星,丁摇桦,等.中药材微性状真伪自动识别系统设计与实现J.电脑知识与技术,2016,12(36):178-180.4摇 SUN X,QIAN H.Chinese herbal medicine image recognitionand retrieval by convolutional neural network J.PLoSOne,2016,11(6):e156327.5摇 吴摇 冲.基于深度学习的中药材鉴别方法研究D.成都:四川大学,2021.6摇 李摇 玲.基于电子鼻的三七及其伪品的分类研究D.杭州:浙江大学,2020.7摇 TAN C,WU C,HUANG Y,et al.Identification of differentspecies of Zanthoxyli Pericarpium based on convolution neu鄄ral networkJ.PLoS One,2020,15(4):e230287.8摇 SUN Yi,民 CHEN Yuheng,WANG Xiaogang,et al.Deeplearning face representation by joint identification-verifica鄄311摇 第 10 期摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 张一鹏等:基于元辅助任务学习的中药饮片识别方法tionC/Proceedings of the advances in neural informationprocessing systems.Canada:NIPS,2014:1988-1996.9摇 ZHANG X,FENG Z,LIN Y.Embedding label structures forfine-grained feature representationC/2016 IEEE confer鄄ence on computer vision and pattern recognition.Las Vegas:IEEE,2015:1114-1123.10 TOSHNIWAL S,TANG H,LU L,et al.Multitask learningwith low-level auxiliary tasks for encoder-decoder basedspeech recognitionJ.Computer Science,2017,13(4):25-32.11 HE T,HUANG W,QIAO Y,et al.Text-attentional convolu鄄tional neural network for scene text detection J.IEEETransactions on Image Processing,2016,25(6):2529-2541.12 RUDER S.An overview of multi-task learning in deep neu鄄ral networksJ.arXiv.1706.05098,2017.13 BENGIO S,BENGIO Y,CLOUTIER J,et al.On the optimi鄄zation of a synaptic learning ruleC/Proceedings of 1992international joint conference on neural networks.Seattle:IEEE,1992:969-1005.14 BENGIO Y,BENGIO S,CLOUTIER J.Learning a synapticlearning rule C/IJCNN-91-Seattle international jointconference on neural networks.Washington:IEEE,1991:969-975.15 SCHMIDHUBER J.Learning complex,extended sequencesusing the principle of history compressionJ.Neural Com鄄putation,1992,4:234-242.16 LAROCHELLE S.Optimization as a model for few-shotlearningC/Proceedings of the 5th international confer鄄ence on learning representations.Toulon:ICLR,2017:4-15.17 ANDRYCHOWICZ M,DENIL M,GOMEZ S,et al.Learn鄄ing to learn by gradient descent by gradient descentJ.Ad鄄vances in Neural Information Processing System,2016,30(16):3988-3996.18 JADERBERG M,CZARNECKI W M,OSINDERO S,et al.Decoupled neural interfaces using synthetic gradientsC/International conference on machine learning.New York:PMLR,2017:1627-1635.19 DOSOVITSKIY A,BEYER L,KOLESNIKOV A,et al.Animage is worth 16x16 words:transformers for image recogni鄄tion at scaleC/Proceedings of the 9th international con鄄ference on learning representations.Austria:Virtual Event,2020:264-273.20 LIU Z,LIN Y,CAO Y,et al.Swin transformer:hierarchicalvision transformer using shifted windowsC/Proceedingsof the IEEE/CVF international conference on computer vi鄄sion.Canada:ICCV,2021:10012-10022.21 LIN T Y,GOYAL P,GIRSHICK R,et al.Focal loss fordense object detectionJ.IEEE Transactions on Pattern A鄄nalysis&Machine Intelligence,2020,42(2):318-327.22 FINN C,ABBEEL P,LEVINE S.Model-agnostic meta-learning for fast adaptation of deep networksJ.Proceedingsof Machine Learning Research,2017,34(70):1126-1135.23 ZHANG Y,TANG H,JIA K.Fine-grained visual categoriza鄄tion using meta-learning optimization with sample selectionof auxiliary dataC/Proceedings of the European confer鄄ence on computer vision.Munich:ECCV,2018:233-248.24 LIU S,DAVISON A J,JOHNS E.Self-supervised general鄄isation with meta auxiliary learningJ.Advances in NeuralInformation Processing Systems,2019,26(7):145-152蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚蕚.(上接第 65 页)9摇 ANDERSON T,BIRMAN K,BROBERG R,et al.A brief o鄄verview of the NEBULA future internet architecture J.ACM SIGCOMM Computer Communication Review,2014,44(3):81-86.10 NAYLOR D,MUKERJEE M K,AGYAPONG P,et al.XIA:architecting a more trustworthy and evolvable InternetJ.ACM SIGCOMM Computer Communication Review,2014,44(3):50-57.11 ZHANG H,QUAN W,CHAO H,et al.Smart identifier net鄄work:a collaborative architecture for the future internetJ.IEEE Network,2016,30(3):46-51.12 张宏科,冯博昊,权摇 伟.智融标识网络基础研究J.电子学报,2019,47(5):977-982.13 苏摇 伟,刘摇 琪,张宏科.一体化标识网络体系及关键技术J.中兴通讯技术,2011,17(2):1-4.14 MICHEL O,BIFULCO R,RETVARI G,et al.The program鄄mable data plane:abstractions,architectures,algorithms,andapplicationsJ.ACM Computing Surveys,2021,54(4):1-36.15 BENZEKKI K,EL FERGOUGUI A,ELBELRHITI ELA鄄LAOUI A.Software defined networking(SDN):a surveyJ.Security and Communication Networks,2016,9(18):5803-5833.16 董摇 平,杨摇 冬,秦雅娟,等.新一代互联网移动管理机制研究J.电子学报,2008(10):1916-1922.17 邱摇 峰.一体化标识网络移动性管理关键技术研究D.北京:北京交通大学,2012.18 楚摇 青.新型互联网移动终端切换机制设计和实现D.北京:北京交通大学,2016.411摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 计算机技术与发展摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 第 33 卷