[논문 리뷰] Inverse-Category-Frequency Based Supervised Term Weighting Schemes for Text Categorization *

Deqing Wang, Hui Zhang|arXiv (Cornell University)|2013. 03. 01.

Text and Document Classification Technologies참고 문헌 34인용 수 67

한 줄 요약

이 논문은 기존의 역문서빈도(idf) 대신 역카테고리빈도(icf)를 사용하여 두 가지 새로운 지도 학습 기반 용어 가중치 부여 기법—tf.icf 및 icf 기반 기법—을 제안한다. 이는 문서가 아닌 카테고리 내에서 드물게 나타나는 용어를 우선시한다. 다양한 분류기와 코퍼스에서의 실험 결과, 두 기법 모두 매크로-F1 및 마이크로-F1 측면에서 여섯 가지 지도 학습 기반 기법과 세 가지 전통적 기법을 능가하거나 동등하게 성능을 내는 것으로 나타났다.

ABSTRACT

Term weighting schemes often dominate the performance of many classifiers, such as kNN, centroid-based classifier and SVMs. The widely used term weighting scheme in text categorization, i.e., tf.idf, is originated from information retrieval (IR) field. The intuition behind idf for text categorization seems less reasonable than IR. In this paper, we introduce inverse category frequency (icf) into term weighting scheme and propose two novel approaches, i.e., tf.icf and icf-based supervised term weighting schemes. The tf.icf adopts icf to substitute idf factor and favors terms occurring in fewer categories, rather than fewer documents. And the icf-based approach combines icf and relevance frequency (rf) to weight terms in a supervised way. Our cross-classifier and cross-corpus experiments have shown that our proposed approaches are superior or comparable to six supervised term weighting schemes and three traditional schemes in terms of macro-F1 and micro-F1.

연구 동기 및 목표

• 텍스트 분류에서 tf.idf의 한계를 해결하기 위해, 기존의 idf가 문서 빈도의 희귀성에 초점을 맞추는 데 반해, 카테고리 빈도의 희귀성이 더 적합할 수 있음을 고려한다.
• 역카테고리빈도(icf)가 지도 학습 기반 텍스트 분류에서 용어의 분류 능력을 더 잘 반영할 수 있는지 탐색한다.
• icf와 관련 빈도(rf)를 조합한 지도 학습 기반 용어 가중치 기법을 개발하여 분류 성능을 향상시키고자 한다.
• 다양한 분류기와 코퍼스를 대상으로 제안된 기법을 평가하여 일반화 능력과 강건성을 입증하고자 한다.

제안 방법

• idf를 icf로 대체하여, 문서보다는 카테고리 수가 적은 데서 나타나는 용어를 우선시하는 tf.icf 기법을 제안한다.
• icf와 관련 빈도(rf)를 조합한 icf 기반 지도 학습 기반 용어 가중치 기법을 도입한다. 여기서 rf는 관련 카테고리 내에서 용어의 빈도를 측정한다.
• icf = log(C / N_c)를 사용한다. 여기서 C는 총 카테고리 수이고, N_c는 해당 용어를 포함하는 카테고리 수이다.
• kNN, 중심점 기반 및 SVM 분류기에서 가중치를 적용하여 다양한 학습 철학에 따른 성능을 평가한다.
• 교차 분류기 및 교차 코퍼스 평가를 통해 제안된 기법의 강건성을 검증한다.
• 매크로-F1 및 마이크로-F1을 평가 지표로 삼아, 제안된 기법을 여섯 가지 지도 학습 기반 및 세 가지 전통적 기법과 비교한다.

실험 결과

연구 질문

• RQ1 용어 가중치 부여에서 idf를 icf로 대체하면 지도 학습 환경에서 텍스트 분류 성능이 향상되는가?
• RQ2 icf와 관련 빈도(rf)의 조합은 기존의 지도 학습 기반 용어 가중치 기법과 비교해 어떻게 성능을 내는가?
• RQ3 제안된 기법은 다양한 분류기와 텍스트 코퍼스에서 일반화되는가?
• RQ4 매크로-F1 및 마이크로-F1 측면에서 tf.icf 및 icf 기반 기법의 성능이 기존의 확립된 용어 가중치 방법보다 뛰어나거나 동등한가?

주요 결과

• tf.icf 기법은 매크로-F1 및 마이크로-F1 측면에서 여섯 가지 지도 학습 기반 및 세 가지 전통적 기법과 비교해 성능이 뛰어나거나 동등하다.
• icf 기반 지도 학습 기반 용어 가중치 기법은 다양한 분류기와 코퍼스에서 뛰어난 성능 또는 동등한 성능을 기록한다.
• 카테고리 빈도의 희귀성을 강조하는 icf의 사용은 문서 기반 idf보다 텍스트 분류에서 더 나은 분류 능력을 지닌 용어 선택을 이끈다.
• 교차 분류기 및 교차 코퍼스 실험을 통해 제안된 용어 가중치 기법의 강건성과 일반화 능력이 확인된다.
• 결과는 카테고리 수준의 분류 능력이 핵심이 되는 상황에서 icf 기반 가중치 부여가 특히 효과적임을 보여준다.
• 제안된 기법들은 매크로-F1 및 마이크로-F1 양쪽 모두에서 일관된 향상을 보이며, 모든 카테고리에서 균형 잡힌 성능을 의미한다.