[논문 리뷰] Unsupervised Sequence Classification using Sequential Output Statistics

Yu Liu, Jianshu Chen외 1명|arXiv (Cornell University)|2017. 02. 25.

Machine Learning and Algorithms인용 수 9

한 줄 요약

이 논문은 순차적 출력 통계를 사용하는 비지도 시퀀스 분류 방법을 제안하며, 특히 임의의 솔루션을 피하기 위해 커버리지 탐색 행동을 유도하는 새로운 비용 함수인 Empirical-ODM을 도입한다. 이 비용 함수는 도전적인 기능 형태를 최적화하기 위해 확률적 원-대안 기반 경사(Stochastic Primal-Dual Gradient, SPDG) 알고리즘을 제안하여, OCR 및 철자 교정 작업에서 완전히 지도 학습한 경우의 테스트 오차 약 2배 수준의 성능을 달성함으로써, 레이블이 없는 데이터로도 뛰어난 성능을 보여준다.

ABSTRACT

We consider learning a sequence classifier without labeled data by using sequential output statistics. The problem is highly valuable since obtaining labels in training data is often costly, while the sequential output statistics (e.g., language models) could be obtained independently of input data and thus with low or no cost. To address the problem, we propose an unsupervised learning cost function and study its properties. We show that, compared to earlier works, it is less inclined to be stuck in trivial solutions and avoids the need for a strong generative model. Although it is harder to optimize in its functional form, a stochastic primal-dual gradient method is developed to effectively solve the problem. Experiment results on real-world datasets demonstrate that the new unsupervised learning method gives drastically lower errors than other baseline methods. Specifically, it reaches test errors about twice of those obtained by fully supervised learning.

연구 동기 및 목표

• 비용이 많이 드는 레이블이 필요한 데이터에 의존하지 않는 비지도 학습 방법을 개발하는 것.
• 이전 비지도 방법의 한계, 즉 단순한 해에 갇히거나 강력한 생성 모델이 필요한 문제를 해결하는 것.
• 레이블 없이도 분류기 학습을 유도하기 위해 순차적 출력 통계(예: N-그램 언어 모델)를 사전 지식으로 활용하는 것.
• 비지도 시퀀스 학습에 더 나은 최적화 성질을 지닌 새로운 비용 함수를 설계하는 것.
• 제안된 방법이 실제 세계의 시퀀스 분류 작업에서 효과적임을 입증하는 것.

제안 방법

• 사전에 훈련된 언어 모델 사전 지식과 실제 출력 분포를 일치시키는 방식으로, 새로운 비지도 비용 함수인 Empirical-ODM을 제안한다.
• 이전 방법과 달리, 단순한 해에 수렴하는 위험을 줄이기 위해 비용 함수에 커버리지 탐색 성질을 도입한다.
• 비볼록이고 기능 형태인 비용 함수를 최적화하기 위해, 비선형 기반의 확률적 원-대안 기반 경사(SPDG) 알고리즘을 개발한다.
• 비용 함수의 고차원 장벽을 줄이기 위해 최적화 문제를 원-대안 도메인으로 변환한다.
• 대규모 데이터셋에서의 확장 가능한 훈련을 위해, SPDG 알고리즘을 사용한 미니배치 확률적 최적화 전략을 적용한다.
• 2-그램, 3-그램 언어 모델을 순차적 사전 지식으로 사용하며, 이는 레이블이 없는 텍스트 데이터로부터 별도로 훈련된다.

실험 결과

연구 질문

• RQ1 강력한 생성 모델에 의존하지 않고도, 비지도 시퀀스 분류에서 단순한 해에 갇히지 않는 비용 함수를 설계할 수 있는가?
• RQ2 언어 모델 등 순차적 출력 통계를 효과적으로 활용하여, 레이블이 없는 데이터로도 시퀀스 분류기를 훈련시킬 수 있는가?
• RQ3 SPDG와 같은 새로운 최적화 방법이 비지도 학습에서 비볼록이고 기능 형태인 비용 함수의 도전 과제를 극복할 수 있는가?
• RQ4 1-그램 사전 지식에 비해 2-그램, 3-그램과 같은 고차원 N-그램을 사용할 경우 성능 향상 정도는 어느 정도인가?
• RQ5 비지도 시퀀스 분류 성능이 오차율 측면에서 완전히 지도 학습에 얼마나 가까이 도달할 수 있는가?

주요 결과

• OCR 데이터셋에서 제안된 방법은 테스트 오차율 9.59%를 기록했으며, 완전히 지도 학습한 경우의 4.63%에 비해 약 2배 수준의 오차율을 보였다.
• 철자 교정 데이터셋에서 방법은 테스트 오차율 1.94%를 기록했으며, 지도 학습의 0.00%에 비해 다시 한번 약 2배의 오차율을 보였다.
• 조정된 초모수를 적용한 후에도, 이전 최고 성능 방법([7])이 OCR에서 83.37%의 오차율을 기록한 것과 비교해 본 방법은 뚜렷한 성능 우위를 보였다.
• 4개의 테스트 데이터 소스 중 3개에서 3-그램 언어 모델이 2-그램 모델보다 낮은 오차율을 기록하여, 더 풍부한 순차적 사전 지식이 성능 향상에 기여함을 시사했다.
• 언어 모델의 품질에 대해 매우 강건했으며, 도메인 내 및 도메인 외 언어 모델 데이터를 사용했을 때도 유사한 성능(예: OCR에서 9.59% 대비 10.17%)을 기록했다.
• SPDG 알고리즘이 복잡한 비용 함수를 성공적으로 최적화하여, 이전 방법이 실패했던 의미 있는 해에 수렴하는 데 성공했다.