[논문 리뷰] A 1d convolutional network for leaf and time series classification

Dongyang Kuang|arXiv (Cornell University)|2019. 06. 28.

Smart Agriculture and AI참고 문헌 30인용 수 5

한 줄 요약

이 논문은 식물의 잎을 분류하기 위해 중심선 윤곽 거리 곡선(CCDC)이라는 유일한 입력을 사용하는 1D 컨volutional 신경망(1D-CNN)을 제안하며, 수많은 수작업 특징을 사용하는 기존 방법들과 비교해도 최상의 성능을 달성한다. 이 모델은 엔드 투 엔드 분류기이자 유니버설 특징 추출기로 기능하며, 벤치마크 데이터셋과 Grad-CAM과 같은 해석 가능성 기법을 통해 1D 시계열 분류에 대해 강력한 일반화 성능을 입증한다.

ABSTRACT

In this paper, a 1d convolutional neural network is designed for classification tasks of plant leaves. This network based classifier is analyzed in two directions. In the forward direction, the proposed network can be used in two ways: a classifier and an automatic feature extractor. As a classifier, it takes the simple centroid contour distance curve as the single feature and achieves comparable performance with state-of-art methods that usually require multiple extracted features. As a feature extractor, it produces nearly linear separable features, hence can be used together with other classifiers such as support vector machines to provide better performance. The proposed network adopts simple 1d input and is generally applicable for other tasks such as classifying one dimensional time series in an end-to-end fashion without changes. Experiments on some benchmark datasets show this architecture can provide classification accuracies that are comparable or higher than some existing methods. In the backward direction, methods like gradient-weighted class activation mapping and maximum activation map of neurons in the classification layer with respect to inputs are performed to help investigate and further validate that hidden signatures helping trigger the trained classifier's specific decisions can be human interpretable. Code for the paper is available at https://github.com/dykuang/Leaf_Project.

연구 동기 및 목표

• 식물의 잎 인식을 위해 단순하고 엔드 투 엔드 방식의 1D-CNN 분류기를 개발하며, 중심선 윤곽 거리 곡선(CCDC)과 같은 간단하고 쉽게 추출 가능한 특징을 최소로 사용한다.
• 단일이고 저차원의 형태 기술자인 CCDC가 딥 러닝과 조합될 경우 높은 분류 정확도를 달성할 수 있는지 평가한다.
• 이 모델이 잎 분류를 넘어 다양한 1D 시계열 데이터셋에 적용되었을 때 일반화 능력을 보여주는지를 입증한다.
• 기울기 가중 클래스 활성화 맵(Grad-CAM)과 같은 시각화 기법을 통해 모델의 결정 과정을 해석 가능하게 한다.
• SVM이나 kNN과 같은 후행 분류기와 조합했을 때 성능을 향상시키는 유니버설 특징 추출기를 제공한다.

제안 방법

• 모델은 1D 컨volutional 신경망 아키텍처를 사용하며, 다수의 컨볼루션 및 풀링 레이어를 통해 1D CCDC 특징 시퀀스를 처리한다.
• 입력은 잎의 형태에서 유도된 단일이고 단순한 1D 특징인 중심선 윤곽 거리 곡선(CCDC)이며, 복잡한 특징 공학을 피한다.
• 네트워크는 엔드 투 엔드 방식으로 훈련되어 원시 CCDC 입력에서 직접 분류가 가능하며 추가 전처리가 필요하지 않다.
• 특징 추출을 위해 네트워크의 중간 레이어를 활용하여 거의 선형으로 분리 가능한 특징을 생성하며, 이를 통해 후행 분류기의 성능을 향상시킨다.
• 기울기 가중 클래스 활성화 맵(Grad-CAM)과 활성화 최적화를 통해 어떤 입력 영역이 특정 예측을 유도하는지 시각화함으로써 해석 가능성을 확보한다.
• 유사한 아키텍처를 UEA & UCR 시계열 데이터셋 4개에 그대로 적용하여 1D 시퀀스 작업에 대한 일반화 능력을 입증한다.

실험 결과

연구 질문

• RQ1 CCDC를 유일한 입력으로 사용할 때 1D-CNN이 다수의 수작업 특징에 의존하지 않고도 높은 정확도를 달성할 수 있는가?
• RQ2 1D-CNN이 CCDC 입력으로부터 의미 있는 생물학적 또는 형태 수준의 차이를 반영하는 분류 가능한, 인간이 이해할 수 있는 패턴을 학습하는가?
• RQ3 훈련된 1D-CNN이 SVM이나 kNN과 같은 전통적 분류기와 조합되었을 때 성능 향상을 이끌 수 있는 유니버설 특징 추출기로 기능하는가?
• RQ4 1D-CNN이 잎 분류를 넘어 다른 1D 시계열 분류 작업으로 일반화되는 정도는 어느 정도인가?
• RQ5 Grad-CAM과 활성화 맵과 같은 시각화 기법이 네트워크의 결정 과정을 어느 정도 드러내는가?

주요 결과

• UCI 100-잎 데이터셋에서 1D-CNN은 CCDC 특징만을 사용해 73.99% ± 3.72%의 정확도를 기록하며, 다수의 특징에 의존하는 기존 방법들을 능가했다.
• SVM와 조합했을 때 1D-CNN은 전체 3개 특징 입력에서 99.43% ± 0.62%의 정확도를 달성했으며, 이는 이 벤치마크에서 보고된 최고의 방법을 초월했다.
• ChlorineConcentration 시계열 데이터셋에서 1D-CNN은 99.77%의 정확도를 기록했으며, 이는 이전에 보고된 최고 방법(SVM-Q, 84.57%)을 뛰어넘었다.
• InsectWingbeatSound 데이터셋에서 모델은 76.61%의 정확도를 기록했으며, 보고된 최고 방법(RF, 63.89%)을 능가했다.
• ElectricDevices에서는 94.34%의 정확도를, DistalPhalanXTW에서는 71.22%의 정확도를 기록했으며, 각각의 보고된 최고 결과를 초월했다.
• 시각화 기법을 통해 네트워크가 CCDC 내에서 의미 있는 국소 패턴을 학습하고 있으며, 이는 클래스 간 구분 특징과 관련이 있음을 확인했으며, 모델의 해석 가능성은 향상되었다.