[논문 리뷰] Fork or Fail: Cycle-Consistent Training with Many-to-One Mappings

Qipeng Guo, Zhijing Jin외 6명|arXiv (Cornell University)|2020. 12. 14.

Machine Learning and Algorithms참고 문헌 38인용 수 10

한 줄 요약

이 논문은 지식 그래프에서 텍스트 생성과 같이 실세계 응용에서 흔한 다对일(surjective) 사상에서 재구성 오차로 인해 표준 결정론적 모델이 실패하는 비일대일(non-bijective) 사상 상황에서 사이클 일致성 학습을 가능하게 하는 조건부 변동 자동인코더 프레임워크인 CycleCVAE를 제안한다. 이는 확률적이고 다양한 출력을 모델링함으로써 실현 가능한 텍스트 다양성을 제공한다. 지도 학습 방법과 경쟁 가능한 성능를 달성하면서도, 합성 데이터 및 WebNLG 데이터셋에서 평균적으로 그래프당 4.67개의 다양한 다의어를 생성함으로써 검증되었다.

ABSTRACT

Cycle-consistent training is widely used for jointly learning a forward and inverse mapping between two domains of interest without the cumbersome requirement of collecting matched pairs within each domain. In this regard, the implicit assumption is that there exists (at least approximately) a ground-truth bijection such that a given input from either domain can be accurately reconstructed from successive application of the respective mappings. But in many applications no such bijection can be expected to exist and large reconstruction errors can compromise the success of cycle-consistent training. As one important instance of this limitation, we consider practically-relevant situations where there exists a many-to-one or surjective mapping between domains. To address this regime, we develop a conditional variational autoencoder (CVAE) approach that can be viewed as converting surjective mappings to implicit bijections whereby reconstruction errors in both directions can be minimized, and as a natural byproduct, realistic output diversity can be obtained in the one-to-many direction. As theoretical motivation, we analyze a simplified scenario whereby minima of the proposed CVAE-based energy function align with the recovery of ground-truth surjective mappings. On the empirical side, we consider a synthetic image dataset with known ground-truth, as well as a real-world application involving natural language generation from knowledge graphs and vice versa, a prototypical surjective case. For the latter, our CVAE pipeline can capture such many-to-one mappings during cycle training while promoting textural diversity for graph-to-text tasks. Our code is available at github.com/QipengGuo/CycleGT *A condensed version of this paper has been accepted to AISTATS 2021. This version contains additional content and updates.

연구 동기 및 목표

• 비일대일, 다대일 사상에서 표준 결정론적 모델이 재구성 오차로 인해 실패하는 상황에서 사이클 일치 학습의 한계를 해결하기 위해.
• 다대일 설정에서 진정한 조건부 분포 $ p_{gt}(\mathbf{x}|\mathbf{y}) $ 를 모델링하여 지식 그래프에서부터 실제적이며 다양한 텍스트 생성을 가능하게 하기 위해.
• 제안된 CVAE 기반 에너지 함수의 최소값이 진정한 다대일 사상 복구와 일치함을 이론적으로 정당화하기 위해.
• 합성 데이터와 실제 지식 그래프에서의 텍스트 생성 작업에 대해 경험적으로 방법을 검증하여, 지도 학습 모델과의 성능 유사성과 함께 상당한 출력 다양성 확보를 위해.

제안 방법

• 사이클 학습에서 결정론적 함수를 대체하기 위해 확률적 사상 $ p_{gt}(\mathbf{x}|\mathbf{y}) $ 와 $ p_{gt}(\mathbf{y}|\mathbf{x}) $ 를 모델링하는 조건부 변동 자동인코더(CVAE)를 수립한다.
• 스토캐스틱 잠재 변수 $ \mathbf{z} $ 를 사용한 약화 추론(amortized inference)을 통해 다대일 조건부 분포를 모델링하고, 일대다 방향에서 다양한 출력을 가능하게 한다.
• 양방향에서 사이클 일치 손실을 포함한 변동 하한 경계(ELBO)를 최적화하여 재구성 오차를 최소화하면서도 다양성을 유지한다.
• 대규모 사전 훈련된 T5 모델과 CVAE를 통합하여 텍스트 생성 품질을 향상시키고, 대규모 사전 훈련의 이점을 살리면서도 사이클 일치성을 유지한다.
• 양방향 도메인의 비병렬 데이터를 사용하여 모델을 훈련하고, 재구성 손실 $ \|\mathbf{x} - f(g(\mathbf{x}))\| $ 과 $ \|\mathbf{y} - g(f(\mathbf{y}))\| $ 을 통해 사이클 일치성을 강제 적용한다. 이제 이는 스토캐스틱 사상 하에서 이루어진다.
• 여러 의미적으로 동일한 텍스트가 동일한 그래프로 매핑되는 지식 그래프에서의 텍스트로의 변환 및 텍스트에서 지식 그래프로의 변환에 이 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 일대일가정이 실패할 경우 비일대일 사상에서 사이클 일치 학습을 수행할 때 CVAE 기반 프레임워크가 진정한 다대일 사상의 학습과 재구성을 효과적으로 수행할 수 있는가?
• RQ2 스토캐스틱 조건부 분포 $ p_{gt}(\mathbf{x}|\mathbf{y}) $ 를 모델링하면 다대일 사상에서 재구성 정확도와 다양성이 향상되는가?
• RQ3 쌍화된 훈련 데이터 없이도 제안된 방법이 지식 그래프에서 텍스트 생성 작업에서 지도 학습 모델과 경쟁 가능한 성능를 달성할 수 있는가?
• RQ4 동일한 지식 그래프에 대해 다양한 다의어를 생성할 때 모델이 의미 일치성을 어느 정도 유지하는가?
• RQ5 CVAE를 사전 훈련된 T5 모델과 통합할 경우, 제로샷 또는 약한 지도 학습 설정에서 생성 품질과 다양성에 어떤 영향을 미치는가?

주요 결과

• 전체 WebNLG 데이터셋에서 CycleCVAE는 텍스트에서 그래프로의 변환에서 BLEU 점수 46.5를 기록했고, 그래프에서 텍스트로의 변환에서는 F1 점수 62.6을 기록하여 모든 비지도 기반 기준 모델을 초월했으며, 지도 학습 SOTA에 근접했다.
• CycleCVAE는 그래프당 평균 4.67개의 다양한 다의어를 생성했으며, 테스트 인스턴스의 99%가 두 개 이상의 서로 다른 다의어를 생성했다.
• 동일한 그래프에서 생성된 두 다의어 간 평균 편집 거리는 12.24단어였으며, 의미적 내용을 유지하면서도 상당한 언어적 다양성이 있음을 시사했다.
• 데이터의 50%만 사용했을 때(첫 번째 반은 텍스트, 두 번째 반은 그래프)에도 CycleCVAE는 강력한 성능를 유지하여 BLEU 43.3과 F1 60.0을 기록했으며, 데이터 부족 상황에서도 강인함을 입증했다.
• 사전 훈련된 T5 모델과 통합된 CycleCVAE+T5는 BLEU 점수 55.7을 기록했으며, 완전히 지도 학습된 T5 기준 모델(56.4–57.4)과 경쟁 가능했고, 그래프당 평균 3.84개의 변형을 유지했다.
• 모델은 다양성이 어색함이나 의미적 관련성의 손실을 초래하지 않음을 입증했으며, BLEU 점수의 경쟁성과 인간 평가를 통한 다양성 측정을 통해 이를 뒷받침했다.