[논문 리뷰] On the Transfer of Disentangled Representations in Realistic Settings

Andrea Dittadi, Frederik Träuble외 6명|arXiv (Cornell University)|2020. 10. 27.

Computability, Logic, AI Algorithms참고 문헌 55인용 수 12

한 줄 요약

이 논문은 100만 장의 시뮬레이션 이미지와 1,800장의 실제 로봇 암이 큐브를 조작하는 실제 이미지를 포함하는 대규모 고해상도 데이터셋을 소개한다. 이 데이터셋은 상관 요소와 음영을 포함하고 있으며, 분리 표현 학습을 위한 확장 가능한 VAE 기반 아키텍처를 제안하고, 분리성이 분리된 분포 외 일반화를 강력하게 예측함을 입증한다. 특히 학습 중 입력 노이즈를 적용할 경우 더욱 두드러진다.

ABSTRACT

Learning meaningful representations that disentangle the underlying structure of the data generating process is considered to be of key importance in machine learning. While disentangled representations were found to be useful for diverse tasks such as abstract reasoning and fair classification, their scalability and real-world impact remain questionable. We introduce a new high-resolution dataset with 1M simulated images and over 1,800 annotated real-world images of the same setup. In contrast to previous work, this new dataset exhibits correlations, a complex underlying structure, and allows to evaluate transfer to unseen simulated and real-world settings where the encoder i) remains in distribution or ii) is out of distribution. We propose new architectures in order to scale disentangled representation learning to realistic high-resolution settings and conduct a large-scale empirical study of disentangled representations on this dataset. We observe that disentanglement is a good predictor for out-of-distribution (OOD) task performance.

연구 동기 및 목표

• 상관 요소와 음영이 존재하는 고해상도, 복잡한 실제 유사 환경에서 분리 표현 학습을 위한 현실적인 벤치마크 부족 문제를 해결하기 위해.
• 고해상도이고 현실적인 데이터에서 효과적인 분리 학습을 가능하게 하는 확장 가능한 신경망 아키텍처를 개발하기 위해.
• 분포 내 및 분포 외 설정에서 분리 표현의 일반화 성능을 평가하고, 시뮬레이션에서 실제 환경으로의 전이 성능도 포함하기 위해.
• 명시적인 레이블 없이도 분리성이 분포 외 일반화의 대체 지표로 기능할 수 있는지 조사하기 위해.
• 약한 지도 학습과 입력 노이즈가 실제 환경 배포 시나리오에서 분포 외 일반화에 미치는 영향을 탐색하기 위해.

제안 방법

• 로봇 암이 큐브를 조작하는 과정에서 발생하는 상관관계, 음영, 복잡한 구조를 반영한 100만 장의 시뮬레이션 이미지와 1,800장의 실제 이미지로 구성된 새로운 고해상도 데이터셋을 제안한다.
• 고해상도 관측치에 대한 분리 학습을 확장 가능한 방식으로 수행할 수 있도록 개선된 인덕티브 바이어스와 능력을 갖춘 수정된 VAE 아키텍처를 설계한다.
• 다양한 학습 및 평가 설정에서 최신 분리 표현 학습 방법을 사용하여 총 1,080개의 모델을 대규모 실험적으로 학습한다.
• 지표 레이블이 없는 약한 지도 학습 환경에서 모델 선택을 위한 대체 지표로 재구성 손실과 ELBO를 사용한다.
• 학습 중에 입력 노이즈 증강을 적용하여 분포 외 일반화 성능에 미치는 영향을 평가한다.
• 두 가지 분포 외 시나리오(OOD1: 시뮬레이션에서의 분포 외 요소, OOD2: 실제 환경 배포)에서 전이 성능을 평가하며, 제로샷 시뮬레이션에서 실제 환경으로의 전이도 포함한다.

실험 결과

연구 질문

• RQ1 실제 로봇 조작 환경에서 분리 표현은 분포 외 설정, 특히 실제 환경 배포에 대해 효과적으로 일반화될 수 있는가?
• RQ2 지표 레이블이 없을 경우 분리성과 분포 외 성능 간의 상관관계는 어떻게 되는가?
• RQ3 학습 중에 입력 노이즈를 적용하면, 예상치 못한 실제 관측치로의 일반화 성능이 어느 정도 향상되는가?
• RQ4 재구성 손실이나 ELBO는 약한 지도 학습 조건에서 강력한 분포 외 일반화 성능을 보이는 모델 선택에 신뢰할 수 있는 대체 지표가 될 수 있는가?
• RQ5 실제 데이터의 상관관계와 음영은 분리 학습 방법의 확장성과 성능에 어떤 영향을 미치는가?

주요 결과

• 분리성은 분포 외 일반화 성능을 강력하게 예측하며, 특히 실제 환경 배포를 포함하는 OOD2 시나리오에서 두드러진다.
• 분리성과 OOD2 일반화 간의 상관관계는 OOD2-A 케이스(시뮬레이션된 실제 이미지)에서는 유의미하지만, OOD2-B 케이스(진짜 실제 이미지)에서는 약해진다.
• 학습 중에 가우시안 노이즈를 추가하면 OOD2 일반화 성능이 크게 향상되며, OOD1에는 영향을 주지 않아 도메인 이동에 대한 강건성을 높이는 데 기여함을 시사한다.
• 노이즈를 사용할 경우 실제 이미지에서 큐브의 위치 예측 평균 절대 오차가 5% 미만으로 유지되어 로봇 응용 분야에서 강력한 실용적 유용성을 보여준다.
• 재구성 손실과 ELBO는 약한 지도 학습 환경에서 모델 선택에 효과적인 대체 지표로 기능하며, 지표 레이블 없이도 양호한 분포 외 성능을 보이는 모델를 선택할 수 있다.
• 제안된 VAE 기반 아키텍처는 고해상도이고 현실적인 데이터에 대한 분리 학습 학습을 성공적으로 확장하여, 복잡한 상관 요소를 포함한 대규모 실험적 평가를 가능하게 한다.