[논문 리뷰] Efficient deep learning models for land cover image classification

Ioannis Papoutsis, Nikolaos-Ioannis Bountos외 3명|arXiv (Cornell University)|2021. 11. 18.

Remote-Sensing Image Classification참고 문헌 62인용 수 6

한 줄 요약

이 논문은 BigEarthNet 데이터셋을 사용한 지형 분류를 위해 복합 스케일링된 웨이드 리서널 네트워크(WRNs)에 효율적인 채널 주의 메커니즘을 통합한 경량이고 효율적인 딥러닝 프레임워크를 제안한다. 이 모델은 ResNet50 기준선 대비 평균 F-스코어가 4.5% 높고, 파rameter 수가 10배 적고, 훈련 속도가 2배 빠르며, 다중 GPU에 걸친 분산 훈련을 지원한다.

ABSTRACT

The availability of the sheer volume of Copernicus Sentinel imagery has created new opportunities for land use land cover (LULC) mapping at large scales using deep learning. Training on such large datasets though is a non-trivial task. In this work we experiment with the BigEarthNet dataset for LULC image classification and benchmark different state-of-the-art models, including Convolution Neural Networks, Multi-Layer Perceptrons, Visual Transformers, EfficientNets and Wide Residual Networks (WRN) architectures. Our aim is to leverage classification accuracy, training time and inference rate. We propose a framework based on EfficientNets for compound scaling of WRNs in terms of network depth, width and input data resolution, for efficiently training and testing different model setups. We design a novel scaled WRN architecture enhanced with an Efficient Channel Attention mechanism. Our proposed lightweight model has an order of magnitude less trainable parameters, achieves 4.5% higher averaged f-score classification accuracy for all 19 LULC classes and is trained two times faster with respect to a ResNet50 state-of-the-art model that we use as a baseline. We provide access to more than 50 trained models, along with our code for distributed training on multiple GPU nodes.

연구 동기 및 목표

• BigEarthNet와 같은 대규모 지형 이용 및 지형 변화(LULC) 데이터셋에서 고성능을 달성하기 위해 고성능을 요구하는 딥러닝 모델 훈련의 과제를 해결한다.
• 위성 영상 기반 지형 이용 지ap 맵핑에서 분류 정확도, 훈련 속도, 추론 효율성을 향상시킨다.
• 매우 낮은 파rameter 수로도 높은 성능을 유지하는 확장 가능한 가벼운 아키텍처를 설계한다.
• 다중 GPU 노드 간의 분산 훈련을 가능하게 하여 모델 개발 및 구현을 가속화한다.
• 정확도, 속도, 모델 크기 간의 최적의 트레이드오프를 도출하기 위해 최신 아키텍처(CNNs, Transformers, EfficientNets, WRNs)를 기준으로 벤치마킹한다.

제안 방법

• 모델 용량과 효율성의 균형을 맞추기 위해 깊이, 너비, 입력 해상도를 동시에 증가시켜 복합 스케일링을 웨이드 리서널 네트워크(WRNs)에 적용한다.
• 최소한의 계산 오버헤드로 특징 표현을 향상시키기 위해 효율적인 채널 주의 메커니즘을 통합한다.
• 훈련 가능한 파rameter 수를 10배 감소시키면서도 높은 성능을 유지하는 새로운 스케일링된 WRN 아키텍처를 설계한다.
• 19개의 LULC 클래스에 걸쳐 다중 스펙트럼 위성 영상을 포함한 BigEarthNet 데이터셋을 사용해 모델을 훈련하고 평가한다.
• 수렴 속도를 가속화하기 위해 확장 가능한 훈련 프레임워크를 사용해 다중 GPU 노드에서 분산 훈련을 구현한다.
• F-스코어, 훈련 시간, 추론 속도를 지표로 사용해 ConvNets, MLPs, 시각적 트랜스포머, EfficientNets, WRNs 등 다양한 아키텍처의 성능을 비교 분석한다.

실험 결과

연구 질문

• RQ1 복합 스케일링된 웨이드 리서널 네트워크가 대규모 위성 데이터셋에서 지형 분류의 정확도와 효율성을 어떻게 향상시킬 수 있는가?
• RQ2 효율적인 채널 주의 메커니즘을 통합할 경우 파arameter 수 증가를 최소화하면서 분류 성능은 어느 정도 향상되는가?
• RQ3 제안된 경량 모델은 ResNet50 기준선 대비 F-스코어, 파aram터 수, 훈련 속도 측면에서 어떻게 비교되는가?
• RQ4 대규모 LULC 분류 작업에서 분산 훈련이 모델 수렴과 확장성에 미치는 영향은 어떠한가?
• RQ5 지형 영상 분류에 있어 정확도, 추론 속도, 모델 크기 간의 최적 트레이드오프를 제공하는 딥러닝 아키텍처는 무엇인가?

주요 결과

• 제안된 모델은 ResNet50 기준선 대비 19개의 지형 이용 및 지형 변화 클래스 전반에서 평균 F-스코어가 4.5% 높다.
• ResNet50 기준선 대비 훈련 가능한 파aram터 수가 한 순위 감소하여 모델 복잡도가 크게 감소한다.
• ResNet50 기준선 대비 훈련 시간이 2배 감소하여 훈련 효율성이 향상됨을 입증한다.
• 다중 GPU 노드 간의 분산 훈련을 지원하여 확장 가능하고 가속화된 모델 개발을 가능하게 한다.
• 50개 이상의 훈련된 모델과 분산 훈련을 위한 코드가 공개되어 재현성과 접근성 향상에 기여한다.
• 기타 최신 아키텍처인 트랜스포머와 EfficientNets 대비 정확도 대비 파aram터 효율성 비율에서 뛰어난 성능을 기록한다.