[論文レビュー] Label-Efficient Learning in Agriculture: A Comprehensive Review

Jiajia Li, Dong Chen+5 more|arXiv (Cornell University)|May 24, 2023

Smart Agriculture and AI被引用数 4

ひとこと要約

本論文は、農業分野におけるラベル効率的学習（LEL）手法について包括的なレビューを提示し、弱教師あり（例：アクティブ学習、半教師あり、弱教師あり学習）および自己教師あり／教師なしアプローチに分類している。精密農業、植物表型計測、出荷後品質評価への応用を体系的に評価し、農業分野の機械学習における高コストなラベル付きデータへの依存を低減するための主な課題と今後の研究方向性を強調している。

ABSTRACT

The past decade has witnessed many great successes of machine learning (ML) and deep learning (DL) applications in agricultural systems, including weed control, plant disease diagnosis, agricultural robotics, and precision livestock management. Despite tremendous progresses, one downside of such ML/DL models is that they generally rely on large-scale labeled datasets for training, and the performance of such models is strongly influenced by the size and quality of available labeled data samples. In addition, collecting, processing, and labeling such large-scale datasets is extremely costly and time-consuming, partially due to the rising cost in human labor. Therefore, developing label-efficient ML/DL methods for agricultural applications has received significant interests among researchers and practitioners. In fact, there are more than 50 papers on developing and applying deep-learning-based label-efficient techniques to address various agricultural problems since 2016, which motivates the authors to provide a timely and comprehensive review of recent label-efficient ML/DL methods in agricultural applications. To this end, we first develop a principled taxonomy to organize these methods according to the degree of supervision, including weak supervision (i.e., active learning and semi-/weakly- supervised learning), and no supervision (i.e., un-/self- supervised learning), supplemented by representative state-of-the-art label-efficient ML/DL methods. In addition, a systematic review of various agricultural applications exploiting these label-efficient algorithms, such as precision agriculture, plant phenotyping, and postharvest quality assessment, is presented. Finally, we discuss the current problems and challenges, as well as future research directions. A well-classified paper list can be accessed at https://github.com/DongChen06/Label-efficient-in-Agriculture.

研究の動機と目的

• 農業分野の機械学習応用における大規模ラベル付きデータセットの高コストおよび不足問題に対処すること。
• 弱教師あり（アクティブ学習、半教師あり、弱教師あり学習）と教師なし（教師なし、自己教師あり学習）の supervision 水準に基づいて、ラベル効率的学習（LEL）手法を体系的に分類すること。
• 精密農業、植物表型計測、出荷後品質評価などの主要な農業分野に応用された最新の LEL 技術をレビューすること。
• データ分布のシフト、深刻な忘却、マルチモーダル学習における意味的ギャップといった、農業分野における LEL のオープンな課題を特定すること。
• 継続的な研究を支援するため、GitHub リポジトリを通じて関連論文のキュレート済みで最新のリストを提供すること。

提案手法

• 弱教師あり（アクティブ学習、半教師あり／弱教師あり学習）および教師なし（教師なし／自己教師あり学習）の supervision 水準に基づき、LEL 手法を体系的に分類する原理的分類法を開発した。
• 疑似ラベル付け、一貫性正則化、対照的学習、知識蒸留などの代表的な最新の LEL 技術をレビューした。
• 新しいデータや概念の出現に対応するため、継続的学習と LEL の統合を評価し、忘却を伴わずに性能を維持する方法を検討した。
• 視覚的、深度、その他のセンサーモダリティを用いた未ラベルデータからのマルチモーダル学習を検討し、自己教師信号を生成した。
• 潜在空間におけるモデル表現の動的更新を図るため、オンラインクラスタリングやガウス混合モデルの戦略を提案した。
• 未ラベル付き農業データを用いた自己教師あり事前学習の活用を分析し、分布シフトに強い一般化性能と耐性を向上させることの有効性を示した。

実験結果

リサーチクエスチョン

• RQ1 ラベル効率的学習手法は、農業分野の機械学習において、大規模で高コストな人手によるアノテーションデータセットへの依存をどのように低減できるか？
• RQ2 農業応用において、弱教師あり学習、自己教師あり学習、教師なし学習の間で、主な技術的差異とパフォーマンスのトレードオフは何か？
• RQ3 ラベル付きデータが不足している、もしくは不均衡な状況において、ラベル効率的手法はモデルの一般化性能をどのように向上させるか？
• RQ4 継続的学習および継続的な表現更新戦略は、動的変化する農業環境における深刻な忘却をどのように緩和できるか？
• RQ5 雑草同定や果実収穫といった農業タスクに、マルチモーダルでラベル効率的な学習を適用する際の機会と課題は何か？

主な発見

• 2016 年以降、農業分野におけるラベル効率的ディープラーニングに関する研究論文が 50 範目以上が発表されており、研究関心の高まりがうかがえる。
• 自己教師ありおよび半教師あり学習手法は、植物病害虫診断や雑草認識などのタスクにおいて、高パフォーマンスを維持しながらアノテーションコストを大幅に削減する可能性を示している。
• 疑似ラベル付けや一貫性正則化技術は、未ラベルデータに対するモデルのロバスト性を向上させるが、確認バイアスに脆弱であるという課題を有する。
• オンラインクラスタリングや適応的ガウス混合モデルといった継続的学習戦略は、新しいデータや概念の出現に対応する際に性能を維持するのに有効である。
• 視覚的、深度、その他のセンサーデータを用いた未ラベルデータからのマルチモーダル学習は、特徴表現を強化できるが、農業分野ではまだ十分に検討されていない。
• GitHub リポジトリ（https://github.com/DongChen06/Label-efficient-in-Agriculture）は、関連論文を体系的に分類し、活発にメンテナンスされているリストを提供しており、今後の研究を支援する。