植物疾病是导致农作物产量降低的主要原因之一，常常在生长过程中感染，而且当疾病症状明显时，治疗机会常被错过。因此，及时进行植物的病害诊断，可以有效地抑制病害的传播，防止粮食产量大规模下降。到目前为止，植物病害的诊断面临着两个问题：对于传统的植物病害检测方法，需要依赖专业人员进行疾病诊断，适用性有限；基于数字图像处理和传统机器学习的植物疾病诊断方法又仅只限于对单一作物进行病害诊断，并且现有的模型具有大量参数，不适合部署到农业移动设备上。同时，减少模型参数又会导致模型准确性的下降。因此，如何找到一个轻量高效、适用性广泛的自动化植物病害诊断模型成为了当下研究热点。

2023年6月，Plant Phenomics在线发表了贵州大学公共大数据国家重点实验室王崎教授、郝格非教授团队题为 Knowledge Distillation Facilitates the Lightweight and Efficient Plant Diseases Detection Mode 的研究论文。

近日，贵州大学公共大数据国家重点实验室王崎教授、郝格非教授团队提出了一种基于知识蒸馏的方法，通过将教师模型（YOLOR模型）的知识传递给多个轻量级学生模型（YOLOR-Light-v1、YOLOR-Light-v2、Mobile-YOLOR-v1、Mobile-YOLOR-v2），来改善轻量模型的性能。采用多阶段知识蒸馏方法，在保持小模型参数的同时，实现了在PlantDoc数据集（https://arxiv.org/abs/1911.10317）上达到60.4%的mAP@ .5的性能，超过了现有的方法。

本研究比较了4个植物病害数据集，并引入了2个通用的图像目标检测数据集作为参考。如表1所示，PlantVillage数据集具有过于简单的图像背景，并且不提供对象检测注释。PlantDoc数据集（https://arxiv.org/abs/1911.10317）是一个公共可用的数据集，可以应用于分类和检测任务，如图1所示。

表1 植物病害诊断和图像目标检测之间的数据集比较。

图1 PlantDoc数据集上每个类别的图像和边界框的数量。

多阶段知识蒸馏（MSKD）模型的框架如图2所示：

1）教师模型和学生模型都是以图像作为植物病害检测的输入。

2）Head Stage蒸馏器：教师模型通过将知识提炼到学生模型的backbone和neck部分来指导学生模型的训练。Head Stage Distiller 提供整个学生模型的反馈，帮助其提高整体性能。

3）蒸馏模块（DM）：DM 在指导学生模型的学习中起着至关重要的作用。它使用三个损失函数来比较与图像相关的标签和学生模型生成的多级特征。这些损失函数帮助学生模型完善其预测并将其与教师的预测保持一致。

4）反馈循环：DM 和头级蒸馏器负责在训练期间向学生模型提供反馈。这种反馈循环确保学生模型不断提高其性能并与教师模型的知识保持一致。

图2 多级蒸馏（MSKD）模型框架。

图3展示了植物病害检测中教师和学生模型采用的模型轻量级策略。子图 (A)说明了教师模型中使用的“原始块”的实例，它展示了用于特征提取的构建块。子图(C)呈现了教师模型的整体“原始架构”，它由原始块的 N₃ 个实例组成，负责从输入数据中提取特征。子图 (B)显示了通过简化原始块得到的有效块。子图 (D)显示了具有M₃（M₃<N₃）有效块的有效体系结构，这种高效的架构降低了模型的复杂性，同时保留了植物病害检测的基本特征。子图(E)代表从 MobileNetv3派生的“Mobile-Block”。Mobile-Block 已合并到 Mobile-YOLOR-v1 模型中。它具有优化功能，这使得模型更加轻量级并且适合实际应用。

图2示范模型轻量级战略。

表5 植物病害诊断模型在PlantDoc数据集上的定性结果。（↑表明越高越好。↓表明越低越好）

（更加详细的数据对比请看原文） 通过多次实验对比及实验数据研究表明：

1）提出的学生模型在参数数量（Paras）、GFLOPs和内存使用方面优于这些图像对象检测方法，甚至某些指标远远优于它们，除了YOLOv6s。

2）在mAP@ .5方面，提出的模型的性能与最新的图像对象检测方法相差不大，但远好于传统方法。

3）与YOLOv6l相比，提出的YOLOR-Light-v2 (Distilled)模型只高出1.5%的mAP@ .5，但计算成本明显降低。

这些实验结果表明，提出的轻量级学生模型在性能和资源消耗方面具有优势，能够以较低的计算资源获得与最新的图像对象检测方法相媲美的性能。此外，使用多任务知识蒸馏模块（MKDM）的模型在mAP@ .5方面表现明显优于没有使用MKDM的模型，表明MKDM能够提供额外的有效约束，提高了性能。

这些结果强调了轻量级对象检测方法在植物疾病诊断和农业生产中的潜在应用，尤其是在需要高效、准确且轻量级的模型的情况下，例如农业生产中使用的无人机。轻量级模型能够在保持性能的同时降低计算成本，推动了对象检测技术在农业生产和研究中的发展。

代码可在https://github.com/QDH/MSKD获得

作者介绍

论文链接：

https://spj.science.org/doi/10.34133/plantphenomics.0062

——推荐阅读——

To what extent does yellow rust infestation affect remotely sensed nitrogen status?

https://spj.science.org/doi/10.34133/plantphenomics.0083

Plant Phenomics | 叶片病害压力在多大程度上影响遥感氮状况？以条锈病为例研究

An effective image-based tomato leaf disease segmentation method using MC-UNethttps://doi.org/10.34133/plantphenomics.0049

Plant Phenomics | 基于自制番茄叶片病害的图像分割方法研究

加入作者交流群