[논문 리뷰] Between-Domain Instance Transition Via the Process of Gibbs Sampling in RBM

Hossein Shahabadi Farahani, Alireza Fatehi외 1명|arXiv (Cornell University)|2020. 06. 25.

Domain Adaptation and Few-Shot Learning참고 문헌 24인용 수 6

한 줄 요약

이 논문은 제한된 볼츠만 기계(Restricted Boltzmann Machine, RBM)에서 길버스 샘플링을 사용하여 타겟 도메인의 인스턴스를 소스 도메인과 유사한 분포로 이전하는 새로운 전이 학습 방법을 제안한다. 이는 학습 중 타겟 데이터가 필요로 하지 않으며, 효과적인 도메인 적응을 가능하게 한다. 이 방법은 MNIST-M에서 38%의 정확도에서 65%로 크게 향상되었고, 확률적 샘플링을 통한 픽셀 수준의 도메인 적응을 실현한다.

ABSTRACT

In this paper, we present a new idea for Transfer Learning (TL) based on Gibbs Sampling. Gibbs sampling is an algorithm in which instances are likely to transfer to a new state with a higher possibility with respect to a probability distribution. We find that such an algorithm can be employed to transfer instances between domains. Restricted Boltzmann Machine (RBM) is an energy based model that is very feasible for being trained to represent a data distribution and also for performing Gibbs sampling. We used RBM to capture data distribution of the source domain and use it in order to cast target instances into new data with a distribution similar to the distribution of source data. Using datasets that are commonly used for evaluation of TL methods, we show that our method can successfully enhance target classification by a considerable ratio. Additionally, the proposed method has the advantage over common DA methods that it needs no target data during the process of training of models.

연구 동기 및 목표

• 소스 도메인과 타겟 도메인의 데이터 분포가 다를 때 발생하는 도메인 이동 문제를 해결하기 위해, 서로 다른 도메인 간에 인스턴스 수준의 전이를 가능하게 한다.
• 학습 중 타겟 데이터의 레이블이든, 심지어 레이블이 없는 데이터든 요구되지 않는 방법을 개발한다.
• 에너지 기반 모델인 RBM에서 길버스 샘플링을 사용하여 도메인 적응을 위한 확률적 메커니즘을 탐색한다.
• RBM 기반 샘플링을 통해 타겟 인스턴스에서 소스와 유사한 샘플을 생성함으로써 픽셀 수준의 전이 학습을 가능하게 한다.
• RBM 기반 길버스 샘플링이 타겟 데이터를 소스 데이터 분포와 효과적으로 정렬시켜, 후속 분류 성능을 향상시킬 수 있음을 입증한다.

제안 방법

• 에너지 함수를 통해 연합 확률 분포를 모델링하기 위해 소스 도메인 데이터(예: MNIST)에 대해 제한된 볼츠만 기계(RBM)를 훈련한다.
• 훈련된 RBM을 사용하여 타겟 도메인 인스턴스(예: MNIST-M)에서 길버스 샘플링을 수행하고, 반복적으로 타겟 인스턴스를 소스 분포에 더 가까운 새로운 샘플로 변환한다.
• 에너지 최소값에 점차로 수렴하도록, 여러 단계(예: 1단계 또는 3단계)에 걸쳐 길버스 샘플링 과정을 반복한다.
• 생성된 샘플을 소스 도메인에서 훈련된 분류기의 입력으로 사용하여, 타겟 도메인에서의 성능 향상을 달성한다.
• 표준 대비 기울기 대비 기울기(Contrastive Divergence)의 한계를 피하기 위해, 효율적이고 안정적인 RBM 훈련을 위해 지속적 대비 기울기(Persistent Contrastive Divergence, PCD) 알고리즘을 사용한다.
• 분류기로 컨volutional 신경망(CNN)을 사용하며, 소스 도메인에서 미리 훈련된 후 변환된 타겟 데이터에서 평가한다.

실험 결과

연구 질문

• RQ1 훈련된 RBM에서 길버스 샘플링이 타겟 도메인 인스턴스를 소스 도메인과 유사한 분포로 효과적으로 이전할 수 있는가?
• RQ2 학습 중 타겟 데이터가 사용되지 않을 때, 제안된 방법이 타겟 도메인의 분류 정확도를 향상시킬 수 있는가?
• RQ3 이 방법을 통해 타겟 인스턴스에서 소스와 유사한 시각적으로 타당한 샘플을 생성함으로써 픽셀 수준의 전이 학습을 달성할 수 있는가?
• RQ4 제안된 방법을 사용할 경우와 직접 적용하거나 전체 미세조정을 수행했을 경우의 분류기 성능을 비교하면 어떻게 되는가?
• RQ5 학습 중에 광범위한 타겟 데이터가 필요한 기존의 도메인 적응 기법보다 제안된 방법이 더 효과적인가?

주요 결과

• 제안된 방법은 MNIST-M 타겟 도메인에서 전이 없이 38%였던 분류 정확도를 RBM 기반 길버스 샘플링을 통한 도메인 적응으로 65%로 향상시켰다.
• 생성된 샘플이 시각적으로 MNIST 이미지와 유사하고 소스 도메인 레이블과 일관되므로, 이 방법은 성공적으로 픽셀 수준의 전이 학습을 수행했다.
• 소스 도메인에서 훈련된 분류기는 소스 데이터에서 98%의 정확도를 달성했지만, 동일한 모델은 원본 타겟 데이터에서는 단지 38%의 정확도를 기록했으며, 이는 심각한 도메인 이동 현상을 보여준다.
• 제안된 방법은 소스 모델을 타겟 도메인에 직접 적용한 경우보다 27%포인트의 성능 향상을 달성했으며, 레이블이 있는 MNIST-M 데이터로 미세조정했을 때의 94% 정확도에 근접했다.
• 이 방법은 학습 중에 타겟 데이터가 전혀 필요로 하지 않으며, 오직 소스 모델과 길버스 샘플링을 통한 추론 시 변환에 의존하므로, 저자료 또는 개인정보 감시가 필요한 상황에 적합하다.
• RBM 훈련에 지속적 대비 기울기(PCD)를 사용함으로써 소스 데이터 분포를 안정적이고 효과적으로 학습할 수 있었으며, 이는 신뢰할 수 있는 샘플링을 지원했다.