[논문 리뷰] Multiclass Approaches for Support Vector Machine Based Land Cover Classification

Mahesh Pal|ArXiv.org|2008. 02. 18.

Remote-Sensing Image Classification참고 문헌 18인용 수 46

한 줄 요약

이 논문은 원격 감지 데이터를 사용한 지형 분류를 위해 여섯 가지 다중 클래스 서포트 벡터 머신(SVM) 방법—One-vs-One, One-vs-Rest, 방향성 비순환 그래프(DAG), 오류 보정 출력 부호(ECOC), 그리고 두 가지 단일 최적화 방법—을 평가한다. 연구 결과, One-vs-One 방법이 분류 정확도와 계산 효율성의 최적의 균형을 달성하여 다른 방법들보다 두 지표에서 모두 뛰어난 성능을 보였다.

ABSTRACT

SVMs were initially developed to perform binary classification; though, applications of binary classification are very limited. Most of the practical applications involve multiclass classification, especially in remote sensing land cover classification. A number of methods have been proposed to implement SVMs to produce multiclass classification. A number of methods to generate multiclass SVMs from binary SVMs have been proposed by researchers and is still a continuing research topic. This paper compares the performance of six multi-class approaches to solve classification problem with remote sensing data in term of classification accuracy and computational cost. One vs. one, one vs. rest, Directed Acyclic Graph (DAG), and Error Corrected Output Coding (ECOC) based multiclass approaches creates many binary classifiers and combines their results to determine the class label of a test pixel. Another catogery of multi class approach modify the binary class objective function and allows simultaneous computation of multiclass classification by solving a single optimisation problem. Results from this study conclude the usefulness of One vs. One multi class approach in term of accuracy and computational cost over other multi class approaches.

연구 동기 및 목표

• 원격 감지 데이터를 사용한 지형 분류에서 여러 다중 클래스 SVM 접근 방식의 성능을 평가하고 비교하는 것.
• 다양한 다중 클래스 SVM 전략 간의 분류 정확도와 계산 비용을 평가하는 것.
• 실제 원격 감지 응용 분야에서 가장 효과적인 다중 클래스 SVM 접근 방식을 특정하는 것.
• 다중 클래스 SVM 구현에서 정확도와 계산 효율성 간의 상호 상충 관계에 대한 실증적 증거를 제공하는 것.

제안 방법

• 이 연구는 여섯 가지 다중 클래스 SVM 접근 방식을 구현한다: One-vs-One, One-vs-Rest, DAG, ECOC, 그리고 이진 SVM 목표 함수를 수정한 두 가지 단일 최적화 방법.
• 각 방법은 다수의 이진 분류기들을 훈련하고, 그 출력을 조합하여 테스트 픽셀에 클래스 레이블을 할당한다.
• One-vs-One 방법은 모든 클래스 간의 쌍별 조합을 구성하고, 각 쌍에 대해 이진 분류기를 훈련한다.
• One-vs-Rest 방법은 각 클래스당 하나의 분류기를 훈련하여 나머지 클래스들과의 구분을 수행한다.
• DAG 및 ECOC는 계층적 및 부호 기반 전략을 사용하여 이진 분류기 출력을 조합한다.
• 단일 최적화 방법들은 다중 클래스 문제를 단일 최적화 단계에서 해결할 수 있도록 SVM 목표 함수를 재구성한다.

실험 결과

연구 질문

• RQ1 원격 감지 데이터를 사용한 지형 지ap 맵핑에서 어떤 다중 클래스 SVM 접근 방식이 가장 높은 분류 정확도를 제공하는가?
• RQ2 다양한 다중 클래스 SVM 접근 방식은 계산 비용과 처리 시간 측면에서 어떻게 비교되는가?
• RQ3 One-vs-One 접근 방식은 다양한 원격 감지 데이터셋에서 뛰어난 성능을 유지하는가?
• RQ4 DAG 및 ECOC와 같은 앙상블 기반 방법들은 직접적인 다중 클래스 설정에 비해 정확도와 효율성에서 어떻게 비교되는가?
• RQ5 단일 최적화 다중 클래스 SVM은 정확도와 속도 측면에서 쌍별 또는 one-vs-all 전략을 초월할 수 있는가?

주요 결과

• One-vs-One 접근 방식은 평가된 모든 다중 클래스 SVM 방법 중에서 가장 높은 분류 정확도를 달성했다.
• One-vs-One는 가장 낮은 계산 비용을 보였으며, 다른 방법들보다 더 효율적인 것으로 나타났다.
• One-vs-Rest 및 ECOC 방법은 One-vs-One에 비해 낮은 정확도와 더 긴 처리 시간을 보였다.
• DAG 기반 방법들은 중간 정도의 정확도를 보였지만, One-vs-One보다 계산 비용이 더 높았다.
• 단일 최적화 다중 클래스 SVM은 정확도 또는 계산 효율성 측면에서 One-vs-One을 뛰어넘지 못했다.
• 종합적으로 볼 때, One-vs-One는 분류 성능와 계산 비용 간의 최적의 균형을 제공했다.