[논문 리뷰] Improving Generalization for Abstract Reasoning Tasks Using Disentangled Feature Representations

Xander Steenbrugge, Sam Leroux외 2명|ArXiv.org|2018. 11. 12.

Topic Modeling참고 문헌 9인용 수 38

한 줄 요약

이 논문은 추상적 추론 작업에서 픽셀 입력으로부터 구조적인 잠재 공간을 학습하기 위해 분리된 β-VAE를 제안하며, WReN 모델 내의 지도 학습 기반 CNN 인코더를 대체한다. 점진적으로 증가하는 β를 사용해 재구성 및 분리도 간의 균형을 맞추어 훈련함으로써, 특히 분포 외 문제에서 뛰어난 일반화 성능을 달성하며, 어려운 일반화 벤치마크에서 지도 학습 기반 WReN보다 최대 21.6% 향상된다.

ABSTRACT

In this work we explore the generalization characteristics of unsupervised representation learning by leveraging disentangled VAE's to learn a useful latent space on a set of relational reasoning problems derived from Raven Progressive Matrices. We show that the latent representations, learned by unsupervised training using the right objective function, significantly outperform the same architectures trained with purely supervised learning, especially when it comes to generalization.

연구 동기 및 목표

• 비지도 학습 기반 픽셀 데이터로부터 분리된 잠재 표현을 학습하여 추상적 추론 작업의 일반화 성능을 향상시키는 것.
• β-VAE를 통해 학습된 분리된 표현이 순수하게 지도 학습을 넘어서 관계 추론 성능을 향상시킬 수 있는지 조사하는 것.
• β-VAE 목표 함수에서 β의 값 변화가 절차적 추론 작업에서 일반화 성능에 미치는 영향을 평가하는 것.
• 분리된 잠재 공간이 WReN 아키텍처에 대한 관계 추론 문제를 더 다룰 수 있는 구조로 만드는지 확인하는 것.

제안 방법

• PGM 데이터셋에서 수정된 ELBO 목표 함수를 사용해 훈련한 분리된 β-VAE 인코더로 WReN 모델 내의 지도 학습 기반 CNN 인코더를 대체한다.
• 초기에는 시각적 세부 정보를 먼저 포착하고, 이후에 분리도를 강제하기 위해 β를 0.5에서 4.0으로 점진적으로 증가시키는 가변 β 훈련 제도를 사용한다.
• 미리 훈련된 VAE 인코더를 고정하고, WReN 모델을 이 인코더로 초기화하며, 512차원 CNN 특징 대신 64차원 잠재 벡터를 입력으로 사용한다.
• 고정된 인코더로 6 에포크 동안 WReN 모델을 훈련한 후, 잠재 공간에 적응하기 위해 추가로 2 에포크 동안 엔드 투 엔드로 미세조정한다.
• 입력 표현을 제외하고는 [1]과 동일한 WReN 아키텍처와 훈련 프rotocol를 사용한다 (VAE 임bedded vs. 원본 CNN 특징).
• 추론 시 후행 분포의 평균을 사용해 잠재 표현의 결정론적 복원을 보장한다.

실험 결과

연구 질문

• RQ1 순수하게 지도 학습과 비교했을 때, 분리된 표현 학습이 추상적 추론 작업의 일반화 성능을 향상시킬 수 있는가?
• RQ2 β-VAE 목표 함수에서 β의 선택이 잠재 공간의 재구성 품질과 분리도 간의 트레이드오프에 미치는 영향은 무엇인가?
• RQ3 분리된 잠재 공간은 훈련 중에 볼 수 없었던 분포 외 추론 문제에서 더 높은 성능을 이끌어낼 수 있는가?
• RQ4 VAE를 통한 비지도 사전 훈련이 WReN 모델의 관계 추론을 위한 인덕티브 바이어스를 향상시킬 수 있는가?

주요 결과

• β = 4.0인 VAE-WReN 모델은 중립 일반화 제도에서 64.2%의 테스트 정확도를 기록했으며, CNN-WReN 기준선(62.6%)을 초월했다.
• 가장 도전적인 일반화 제도인 H.O. 트리플스에서 VAE-WReN 모델은 24.6%의 테스트 정확도를 기록했고, CNN-WReN 모델의 19.0%보다 29.5% 높은 상대적 향상률을 보였다.
• 모든 일반화 제도에서 일관된 성능 향상을 보였으며, 특히 H.O. 어트리뷰트 페어 제도에서 21.6%의 절대적 향상률(36.8% 대 27.2%)을 기록했다.
• 잠재 공간 시각화 결과, VAE가 형태, 색상, 객체 존재 여부와 같은 핵심 생성 요인을 명확히 분리했으며, 개별 차원 간의 인터폴레이션 효과도 확인되었다.
• 검증 세트에서도 기준선(63.0%) 대비 VAE-WReN 모델(64.8%)이 더 높은 성능을 기록하여, 분리된 공간이 분포 내 성능 향상에도 기여함을 시사했다.
• Cohen’s Kappa 점수 역시 향상을 확인했으며, VAE-WReN 모델은 중립 테스트 세트에서 0.591을 기록했고, 기준선은 0.573이었다.