[论文解读] Label-Efficient Learning in Agriculture: A Comprehensive Review

Jiajia Li, Dong Chen+5 more|arXiv (Cornell University)|May 24, 2023

Smart Agriculture and AI被引用 4

一句话总结

本文对农业领域标签高效学习（LEL）方法进行了全面综述，将其分类为弱监督（如主动学习、半监督和弱监督学习）和自监督/无监督方法。系统评估了其在精准农业、植物表型分析及采后品质评估中的应用，突出强调了减少农业机器学习中对昂贵标注数据依赖的关键挑战与未来研究方向。

ABSTRACT

The past decade has witnessed many great successes of machine learning (ML) and deep learning (DL) applications in agricultural systems, including weed control, plant disease diagnosis, agricultural robotics, and precision livestock management. Despite tremendous progresses, one downside of such ML/DL models is that they generally rely on large-scale labeled datasets for training, and the performance of such models is strongly influenced by the size and quality of available labeled data samples. In addition, collecting, processing, and labeling such large-scale datasets is extremely costly and time-consuming, partially due to the rising cost in human labor. Therefore, developing label-efficient ML/DL methods for agricultural applications has received significant interests among researchers and practitioners. In fact, there are more than 50 papers on developing and applying deep-learning-based label-efficient techniques to address various agricultural problems since 2016, which motivates the authors to provide a timely and comprehensive review of recent label-efficient ML/DL methods in agricultural applications. To this end, we first develop a principled taxonomy to organize these methods according to the degree of supervision, including weak supervision (i.e., active learning and semi-/weakly- supervised learning), and no supervision (i.e., un-/self- supervised learning), supplemented by representative state-of-the-art label-efficient ML/DL methods. In addition, a systematic review of various agricultural applications exploiting these label-efficient algorithms, such as precision agriculture, plant phenotyping, and postharvest quality assessment, is presented. Finally, we discuss the current problems and challenges, as well as future research directions. A well-classified paper list can be accessed at https://github.com/DongChen06/Label-efficient-in-Agriculture.

研究动机与目标

• 解决农业机器学习应用中大规模标注数据集成本高昂且稀缺的问题。
• 基于监督程度系统分类标签高效学习（LEL）方法：弱监督（主动学习、半监督/弱监督学习）与无监督（无监督/自监督学习）。
• 回顾应用于精准农业、植物表型分析和采后品质评估等关键农业领域的前沿LEL技术。
• 识别农业LEL中的开放性挑战，包括数据分布漂移、灾难性遗忘，以及多模态学习中的语义鸿沟。
• 通过GitHub仓库提供经筛选的、最新的相关论文列表，以支持标签高效农业AI的持续研究。

提出的方法

• 建立系统化的分类体系，按监督级别对LEL方法进行分类：弱监督（主动学习、半/弱监督学习）与无监督（无监督/自监督学习）。
• 回顾代表性前沿LEL技术，包括伪标签法、一致性正则化、对比学习与知识蒸馏。
• 评估LEL与增量学习的结合，以应对数据流演变与新概念学习，同时避免灾难性遗忘。
• 探索利用视觉、深度及其他传感器模态的无标签数据，构建自监督信号的多模态学习方法。
• 提出在线聚类与高斯混合模型等策略，实现在潜在空间中动态更新模型表征。
• 分析在无标签农业数据上进行自监督预训练，以提升下游任务泛化能力并增强对分布漂移的鲁棒性。

实验结果

研究问题

• RQ1 标签高效学习方法如何减少农业机器学习中对大规模、高成本人工标注数据集的依赖？
• RQ2 在农业应用中，弱监督、自监督与无监督学习在关键技术差异与性能权衡方面有何不同？
• RQ3 当标注数据稀缺或类别不平衡时，标签高效方法在提升模型泛化能力方面有何作用？
• RQ4 增量学习与持续表征更新策略如何缓解动态农业环境中灾难性遗忘问题？
• RQ5 在农业任务（如杂草检测与果实收获）中，应用多模态、标签高效学习的机遇与挑战是什么？

主要发现

• 自2016年以来，已有超过50篇关于农业领域标签高效深度学习的研究论文发表，表明该领域研究兴趣持续增长。
• 自监督与半监督学习方法在降低标注成本的同时，仍能保持在植物病害检测与杂草识别等任务中的高性能，展现出巨大潜力。
• 伪标签法与一致性正则化技术可提升模型在无标签数据上的鲁棒性，但对确认偏见仍具脆弱性。
• 增量学习策略（如在线聚类与自适应高斯混合模型）有助于在新数据或新概念出现时维持模型性能。
• 利用视觉、深度及其他传感器输入的无标签多模态学习可增强特征表征，但在农业领域仍处于研究空白。
• GitHub仓库（https://github.com/DongChen06/Label-efficient-in-Agriculture）提供了分类清晰、持续维护的相关论文列表，可有效支持未来研究。