[논문 리뷰] Unsupervised Learning of Predictors from Unpaired Input-Output Samples

Jianshu Chen, Po-Sen Huang외 3명|arXiv (Cornell University)|2016. 06. 15.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 6

한 줄 요약

이 논문은 입력-출력 샘플이 쌍으로 이루어지지 않은 경우에도 출력 시퀀스의 구조적 사전 지식을 활용하여 예측자 모델을 훈련하는 비지도 학습 프레임워크를 제안한다. 출력 구조 적합도와 입력-출력 상관관계를 균형 잡는 비볼록 목적 함수를 도입하여, 적절한 정규화 조건 하에 쌍이 없는 훈련 데이터가 존재하더라도 근사 최적 해에 수렴하는 것을 보여준다.

ABSTRACT

Unsupervised learning is the most challenging problem in machine learning and especially in deep learning. Among many scenarios, we study an unsupervised learning problem of high economic value --- learning to predict without costly pairing of input data and corresponding labels. Part of the difficulty in this problem is a lack of solid evaluation measures. In this paper, we take a practical approach to grounding unsupervised learning by using the same success criterion as for supervised learning in prediction tasks but we do not require the presence of paired input-output training data. In particular, we propose an objective function that aims to make the predicted outputs fit well the structure of the output while preserving the correlation between the input and the predicted output. We experiment with a synthetic structural prediction problem and show that even with simple linear classifiers, the objective function is already highly non-convex. We further demonstrate the nature of this non-convex optimization problem as well as potential solutions. In particular, we show that with regularization via a generative model, learning with the proposed unsupervised objective function converges to an optimal solution.

연구 동기 및 목표

• 쌍이 없는 입력-출력 훈련 데이터가 존재할 때 예측 모델을 훈련하는 데 도전하는 것 — 이는 스케일이 클 경우 비용이 많이 들고 비현실적이다.
• 같은 평가 기준을 사용하면서도 쌍이 없는 데이터가 필요 없는 실용적인 비지도 학습 목적 함수를 개발하는 것.
• 출력 시퀀스에 대한 생성 모델 사전 지식을 통합하여 비지도 예측자 학습의 비볼록성과 잠재적인 평균적인 국소 최적해 문제를 해결하는 것.
• 정규화를 통한 생성 모델이 최적화를 안정화시키고 의미 있는 해로 수렴하도록 유도할 수 있음을 보여주는 것.

제안 방법

• 예측 출력이 비정규화된 출력 분포의 구조에 얼마나 잘 맞는지를 최대화하는 비지도 목적 함수를 정의한다. 이는 라벨이 없는 출력 시퀀스로부터 추정된 분포를 기반으로 한다.
• 출력 시퀀스의 생성 모델(예: 마르코프 체인)에 기반한 정규화 항을 통합하여 최적화 과정에서 평균적인 해를 피하도록 이끈다.
• 선형 분류기로 입력-출력 매핑을 모델링하며, 목적 함수는 출력 구조의 가능도와 입력 데이터와의 상관관계를 통합한다.
• 기울기 기반 최적화를 적용하여 비지도 비용 함수를 최소화한다. 정규화 강도는 출력 구조 적합도와 입력 상관관계 사이의 균형을 조절하도록 튜닝된다.
• 별도의 라벨이 없는 출력 시퀀스로부터 출력 분포 $ p(y_1, \ldots, y_T) $ 를 추정한다. 이를 마르코프 체인으로 모델링하며 전이 행렬 $ P $ 를 사용한다.
• 합성 데이터에서 테스트 오차를 측정하여 성능을 평가하고, 다양한 수준의 노이즈가 포함된 출력 사전 분포 추정에 대해 비지도 결과와 지도 학습 기준을 비교한다.

실험 결과

연구 질문

• RQ1 쌍이 없는 입력-출력 데이터가 존재할 때도 지도 학습 수준의 성능을 달성할 수 있는 비지도 목적 함수를 설계할 수 있는가?
• RQ2 비지도 목적 함수의 비볼록성이 최적화에 어떤 영향을 미치며, 잘못된 국소 최적해가 발생하는 원인은 무엇인가?
• RQ3 정규화가 평균적인 국소 최적해를 제거하고 의미 있는 예측자로 최적화를 이끄는 데 어떤 역할을 하는가?
• RQ4 출력 시퀀스 사전 분포 $ p(y_1, \ldots, y_T) $ 의 추정 오차에 대해 비지도 학습 성능이 얼마나 민감한가?
• RQ5 쌍이 없는 데이터가 존재하는 상황에서도 제안된 방법이 지도 학습 최적해에 가까운 해로 수렴할 수 있는가?

주요 결과

• 제안된 비지도 목적 함수는 간단한 선형 분류기 조차도 매우 비볼록적이며, 랭크-1 해와 같은 평균적인 국소 최적해가 다수 존재한다.
• 정규화 없이 최적화 과정에서는 평균적인 해 주변에 평탄한 영역이 존재하여 전역 최적해로의 수렴이 어려운 편이다.
• 적절한 정규화(예: $ \lambda = 30 $)를 적용하면 비용 함수에 '기울기'가 생기며, 이는 평균적인 국소 최적해에서 벗어나 전역 최적해에 가까운 해로 수렴하는 데 기여한다.
• 비지도 학습 성능은 출력 분포 $ p(y_1, \ldots, y_T) $ 의 추정 노이즈 증가에 따라 저하되지만, 사전 분포가 상당히 정확할 경우에도 강건하게 유지된다.
• 정규화 파라미터 $ \lambda $ 는 신중하게 튜닝되어야 한다: 너무 작으면 평균적인 해를 억제하지 못하고, 너무 크면 데이터 기반 항이 압도되어 성능이 저하된다.
• 정규화 파라미터 $ \lambda = 30 $ 를 사용한 비지도 학습으로 구한 해는 시각적으로나 정량적으로 지도 학습 해와 매우 유사하며, 이는 합성 데이터에서 접근의 타당성을 입증한다.