[논문 리뷰] Aggregation of Classifiers: A Justifiable Information Granularity Approach

Tien Thanh Nguyen, Xuan Cuong Pham외 2명|arXiv (Cornell University)|2017. 03. 15.

Rough Sets and Fuzzy Logic참고 문헌 34인용 수 4

한 줄 요약

이 논문은 고정된 수치값이 아닌 간격 소속도를 통해 불확실성과 다양성을 모델링함으로써 이질적인 분류기들을 집계하는 새로운 앙상블 학습 방법을 제안한다. 이 방법은 결정론적 불확실성의 특성을 활용하여 UCI 데이터셋에서 기준 방법들인 AdaBoost, Bagging 및 여러 고정/학습 가능한 조합 규칙들을 능가하는 분류 성능을 향상시킨다.

ABSTRACT

In this study, we introduce a new approach to combine multi-classifiers in an ensemble system. Instead of using numeric membership values encountered in fixed combining rules, we construct interval membership values associated with each class prediction at the level of meta-data of observation by using concepts of information granules. In the proposed method, uncertainty (diversity) of findings produced by the base classifiers is quantified by interval-based information granules. The discriminative decision model is generated by considering both the bounds and the length of the obtained intervals. We select ten and then fifteen learning algorithms to build a heterogeneous ensemble system and then conducted the experiment on a number of UCI datasets. The experimental results demonstrate that the proposed approach performs better than the benchmark algorithms including six fixed combining methods, one trainable combining method, AdaBoost, Bagging, and Random Subspace.

연구 동기 및 목표

• 기본 분류기 간의 불확실성과 다양성을 忽시하는 고정된 조합 규칙의 한계를 해결하기 위해.
• 명확한 소속도 값이 아닌 간격으로 표현된 정보립자(정보립자)를 사용하여 분류기의 불확실성과 다양성을 모델링하기 위해.
• 간격의 하한과 상한뿐만 아니라 간격 길이까지 고려한 분류 정확도 향상을 위한 판별적 결정 모델을 개발하기 위해.
• 다양한 학습 알고리즘을 사용하여 표준 UCI 데이터셋에서 이질적인 앙상블 시스템을 평가하기 위해.
• AdaBoost, Bagging 및 랜덤 서브스페이스와 같은 기존의 앙상블 방법들과 비교하여 뛰어난 성능을 입증하기 위해.

제안 방법

• 기본 분류기의 각 클래스 예측에 대해 정보립자 이론을 활용하여 간격 소속도 값을 구성함으로써 불확실성과 다양성을 표현하기 위해.
• 간격의 하한과 상한, 그리고 간격 길이를 판별적 결정 모델의 특성으로 사용하기 위해.
• 최종 결정이 수치적 점수가 아닌 간격 기반의 정보립자 표현에 기반하는 메타학습 접근법을 적용하기 위해.
• 강건한 평가를 위해 10개 및 15개의 이질적인 학습 알고리즘을 선택하여 이질적인 앙상블 시스템을 구성하기 위해.
• 다양한 UCI 기준 데이터셋에서 앙상블를 훈련 및 테스트하여 일반화 능력과 성능을 평가하기 위해.
• 간격 기반 집계 방식을 여섯 개의 고정 조합 규칙, 하나의 학습 가능한 방법, AdaBoost, Bagging, Random Subspace와 비교하기 위해.

실험 결과

연구 질문

• RQ1 기본 분류기 간의 불확실성과 다양성을 간격 값으로 표현하는 정보립자가 앙상블 시스템에서 효과적으로 기능하는가?
• RQ2 결정 모델에 간격의 하한과 상한, 간격 길이를 통합함으로써 기존의 집계 방법보다 분류 성능이 향상되는가?
• RQ3 제안된 정보립자 기반 집계 방법은 다양한 데이터셋에서 기존의 앙상블 기법들인 AdaBoost 및 Bagging과 비교하여 어떻게 성능을 내는가?
• RQ4 이질적인 기본 학습기의 사용이 간격 기반 앙상블의 강건성과 정확도에 얼마나 기여하는가?
• RQ5 고정 또는 학습 가능한 수치 조합 규칙에 비해 제안된 방법이 불확실성 모델링 측면에서 더 타당한가?

주요 결과

• 제안된 간격 기반 집계 방법은 테스트된 UCI 데이터셋에서 여섯 개의 고정 조합 규칙보다 뛰어난 분류 정확도를 달성하였다.
• 학습 가능한 조합 방법보다도 성능이 뛰어나, 정보립자 기반의 불확실성 모델링이 학습된 수치적 가중치보다 앙상블 결정에 더 효과적인 기반을 제공한다는 것을 시사한다.
• 15개의 이질적인 기본 학습기를 사용한 이질적 앙상블 시스템은 단순한 앙상블 구성보다 일관되게 높은 성능을 보였다.
• 간격 길이를 판별적 특성으로 포함시킴으로써 결정 경계의 개선과 일반화 능력 향상에 기여하였다.
• 다양한 데이터셋에서 뛰어난 강건성을 보이며, AdaBoost, Bagging 및 Random Subspace보다 일관된 성능 향상을 보였다.
• 정보립자가 앙상블 학습에서 분류기의 불확실성을 모델링하기 위해 더 타당하고 해석 가능한 프레임워크를 제공한다는 것이 결과적으로 입증되었다.