[논문 리뷰] Label-Efficient Learning in Agriculture: A Comprehensive Review

Jiajia Li, Dong Chen외 5명|arXiv (Cornell University)|2023. 05. 24.

Smart Agriculture and AI인용 수 4

한 줄 요약

이 논문은 농업 분야의 레이블 효율적 학습(LEL) 방법에 대한 종합적인 리뷰를 제시하며, 약한 지도 학습(예: 주도적, 준, 약한 지도 학습)과 자기지도/비지도 학습 접근법으로 분류한다. 정밀 농업, 식물 형질 측정, 수확 후 품질 평가 분야에서의 응용을 체계적으로 평가하며, 농업 기계 학습에서 비용이 많이 드는 레이블링 데이터에 대한 의존도를 줄이기 위한 주요 과제와 향후 연구 방향을 강조한다.

ABSTRACT

The past decade has witnessed many great successes of machine learning (ML) and deep learning (DL) applications in agricultural systems, including weed control, plant disease diagnosis, agricultural robotics, and precision livestock management. Despite tremendous progresses, one downside of such ML/DL models is that they generally rely on large-scale labeled datasets for training, and the performance of such models is strongly influenced by the size and quality of available labeled data samples. In addition, collecting, processing, and labeling such large-scale datasets is extremely costly and time-consuming, partially due to the rising cost in human labor. Therefore, developing label-efficient ML/DL methods for agricultural applications has received significant interests among researchers and practitioners. In fact, there are more than 50 papers on developing and applying deep-learning-based label-efficient techniques to address various agricultural problems since 2016, which motivates the authors to provide a timely and comprehensive review of recent label-efficient ML/DL methods in agricultural applications. To this end, we first develop a principled taxonomy to organize these methods according to the degree of supervision, including weak supervision (i.e., active learning and semi-/weakly- supervised learning), and no supervision (i.e., un-/self- supervised learning), supplemented by representative state-of-the-art label-efficient ML/DL methods. In addition, a systematic review of various agricultural applications exploiting these label-efficient algorithms, such as precision agriculture, plant phenotyping, and postharvest quality assessment, is presented. Finally, we discuss the current problems and challenges, as well as future research directions. A well-classified paper list can be accessed at https://github.com/DongChen06/Label-efficient-in-Agriculture.

연구 동기 및 목표

• 농업 기계 학습 응용 분야에서 대규모 레이블링된 데이터셋의 높은 비용과 부족함을 해결하기 위해.
• 약한 지도 학습(주도적, 준, 약한 지도 학습)과 지도 없음(비지도, 자기지도 학습) 기반의 supervision 수준에 따라 레이블 효율적 학습(LEL) 방법을 체계적으로 분류하기 위해.
• 정밀 농업, 식물 형질 측정, 수확 후 품질 평가와 같은 핵심 농업 분야에 적용된 최신 LEL 기법을 검토하기 위해.
• 데이터 분포 이동, 치명적 망각, 다중모달 학습에서의 의미적 갭과 같은 LEL의 농업 분야에서의 열린 과제를 식별하기 위해.
• 지속적인 연구를 지원하기 위해 GitHub 리포지토리(https://github.com/DongChen06/Label-efficient-in-Agriculture)를 통해 정렬된 최신 논문 리스트를 제공하기 위해.

제안 방법

• 약한 지도 학습(주도적 학습, 준/약한 지도 학습)과 지도 없음(비지도/자기지도 학습) 기반의 supervision 수준에 따라 LEL 기법을 체계적으로 분류하는 원칙적인 분류 체계를 수립하였다.
• 가짜 레이블링, 일致성 정규화, 대비 학습, 지식 정복 등 대표적인 최신 LEL 기법을 검토하였다.
• 새로운 데이터나 개념이 등장할 때도 기억을 잃지 않도록 하기 위해 LEL과 점진적 학습의 통합을 평가하였다.
• 시각, 깊이 및 기타 센서 모odal을 활용하여 비레이블 데이터에서 다중모달 학습을 통해 자기지도 신호를 생성하는 방법을 탐구하였다.
• 잠재 공간에서 모델 표현을 동적으로 업데이트하기 위해 온라인 클러스터링 및 혼합 가우시안 모델과 같은 전략을 제안하였다.
• 비레이블 농업 데이터를 활용한 자기지도 사전학습의 활용을 분석하여, 하류 작업의 일반화 능력 향상과 분포 이동에 대한 강건성을 향상시키는 데 기여하였다.

실험 결과

연구 질문

• RQ1 어떻게 레이블 효율적 학습 기법이 농업 기계 학습에서 대규모 비용이 드는 인간 레이블링 데이터셋에 대한 의존도를 줄일 수 있는가?
• RQ2 농업 응용 분야에서 약한 지도 학습, 자기지도 학습, 비지도 학습 간의 주요 기술적 차이점과 성능 트레이드오프는 무엇인가?
• RQ3 레이블이 부족하거나 불균형한 경우, 레이블 효율적 기법은 모델 일반화 능력을 어떻게 향상시키는가?
• RQ4 점진적 학습과 지속적인 표현 업데이트 전략은 동적인 농업 환경에서 치명적 망각을 어떻게 완화할 수 있는가?
• RQ5 다중모달, 레이블 효율적 학습을 농업 작업(예: 잡초 탐지, 과일 수확)에 적용할 때의 기회와 과제는 무엇인가?

주요 결과

• 2016년 이후 약 50편 이상의 논문이 농업 분야의 레이블 효율적 딥 러닝에 대해 발표되어 연구 관심이 증가하고 있음을 보여준다.
• 자기지도 학습 및 준지도 학습 기법은 식물 병해충 탐지 및 잡초 인식 등의 작업에서 높은 성능를 유지하면서도 레이블링 비용을 크게 줄일 잠재력을 보이고 있다.
• 가짜 레이블링 및 일치성 정규화 기법은 비레이블 데이터에서 모델의 강건성을 향상시키지만, 확인 편향에 취약하다는 점이 남아 있다.
• 온라인 클러스터링 및 적응형 가우시안 혼합 모델과 같은 점진적 학습 전략은 새로운 데이터나 개념이 등장할 때 성능 유지에 기여한다.
• 시각, 깊이 및 기타 센서 입력을 활용한 비레이블 데이터에서의 다중모달 학습은 특징 표현을 향상시킬 수 있으나, 아직 농업 분야에서 충분히 탐색되지 않은 분야이다.
• GitHub 리포지토리(https://github.com/DongChen06/Label-efficient-in-Agriculture)는 잘 분류되고 활발히 유지 관리되는 관련 논문 리스트를 제공하여 향후 연구를 지원한다.