[논문 리뷰] A comparison of SVM and RVM for Document Classification

Muhammad Rafi, M. Shahid Shaikh|arXiv (Cornell University)|2013. 01. 13.

Text and Document Classification Technologies참고 문헌 9인용 수 14

한 줄 요약

이 논문은 세 가지 표준 데이터셋을 사용하여 텍스트 문서 분류에서 서포트 벡터 머신(SVM)과 관련 벡터 머신(RVM)을 비교한다. RVM은 더 긴 학습 시간을 요구하지만, 베이지안 추론을 활용하여 더 컴act하고 희소한 모델을 생성함으로써 SVM보다 유의미하게 높은 분류 정확도를 달성한다.

ABSTRACT

Document classification is a task of assigning a new unclassified document to one of the predefined set of classes. The content based document classification uses the content of the document with some weighting criteria to assign it to one of the predefined classes. It is a major task in library science, electronic document management systems and information sciences. This paper investigates document classification by using two different classification techniques (1) Support Vector Machine (SVM) and (2) Relevance Vector Machine (RVM). SVM is a supervised machine learning technique that can be used for classification task. In its basic form, SVM represents the instances of the data into space and tries to separate the distinct classes by a maximum possible wide gap (hyper plane) that separates the classes. On the other hand RVM uses probabilistic measure to define this separation space. RVM uses Bayesian inference to obtain succinct solution, thus RVM uses significantly fewer basis functions. Experimental studies on three standard text classification datasets reveal that although RVM takes more training time, its classification is much better as compared to SVM.

연구 동기 및 목표

• 텍스트 문서 분류 작업에서 SVM과 RVM의 성능을 평가하고 비교하는 것.
• 대규모 텍스트 분류에서 학습 시간과 분류 정확도 사이의 상호 교환 관계를 평가하는 것.
• 모델의 희소성과 베이지안 추론이 분류 성능에 미치는 영향을 조사하는 것.
• RVM이 기저 함수 사용을 줄임으로써 일반화 성능 향상에 기여하는지 확인하는 것.

제안 방법

• 이 연구는 커널 기반의 지도 학습 방법인 서포트 벡터 머신(SVM)을 사용하여 최대 마진 초평면을 통해 클래스를 분리한다.
• 관련 벡터 머신(RVM)은 베이지안 추론을 적용하여 SVM보다 더 적은 기저 함수를 사용하는 희소 해를 도출한다.
• 텍스트 특징은 표준 기법인 TF-IDF 등을 사용하여 추출 및 가중치를 적용하여 벡터 공간에서 문서를 표현한다.
• 재현 가능성과 일반화를 확보하기 위해 표준 벤치마크 텍스트 분류 데이터셋 세 개에서 실험을 수행한다.
• 분류 성능는 정확도, 정밀도, 재현율과 같은 표준 지표를 사용하여 평가한다.
• 양 모델 간의 학습 시간과 모델 복잡도(서포트/관련 벡터 수)를 측정하고 비교한다.

실험 결과

연구 질문

• RQ1 RVM은 표준 텍스트 데이터셋에서 SVM에 비해 분류 정확도에서 어떻게 비교되는가?
• RQ2 RVM을 사용할 경우와 SVM을 사용할 경우 학습 시간과 성능 사이의 상호 교환 관계는 어떠한가?
• RQ3 RVM의 더 희소한 표현 방식이 문서 분류에서 더 나은 일반화 성능을 이끌어내는가?
• RQ4 SVM의 마진 최대화 접근 방식에 비해 RVM의 베이지안 추론이 모델 성능 향상에 얼마나 기여하는가?

주요 결과

• RVM은 세 가지 표준 텍스트 분류 데이터셋 전반에서 SVM보다 유의미하게 높은 분류 정확도를 달성한다.
• 더 긴 학습 시간에도 불구하고, RVM은 SVM보다 더 적은 기저 함수를 사용하여 훨씬 더 희소한 모델을 생성한다.
• RVM의 베이지안 프레임워크는 더 나은 일반화를 이끌어내어 모델 복잡도가 감소한 상황에서도 성능 향상을 이룬다.
• 정밀도와 재현율을 포함한 여러 평가 지표에서 RVM의 성능 향상은 일관되게 관찰된다.
• 이 연구는 RVM의 확률적 접근 방식이 텍스트 분류 작업에서 더 견고하고 정확한 분류 결과를 도출함을 확인한다.