[논문 리뷰] Deep Extrapolation for Attribute-Enhanced Generation

Alvin Chan, Ali Madani외 2명|arXiv (Cornell University)|2021. 07. 07.

Protein Structure and Dynamics참고 문헌 49인용 수 12

한 줄 요약

이 논문은 생성자와 판별자를 공동으로 훈련하는 정규화된 잠재공간을 사용하여 훈련 분포를 초월하는 시퀀스 속성을 향상시키는 딥 생성 모델인 GENhance를 제안한다. 이는 자연어 처리와 단백질 설계 분야에서 상태의 기준을 충족시키며, 훈련 중에 이러한 예시를 접하지 못한 경우에도 매우 긍정적인 텍스트 리뷰나 더 안정적인 단백질 시퀀스를 생성하는 데 성공한다. 특히 속성 외삽에서 기존의 기준 모델들을 크게 능가한다.

ABSTRACT

Attribute extrapolation in sample generation is challenging for deep neural networks operating beyond the training distribution. We formulate a new task for extrapolation in sequence generation, focusing on natural language and proteins, and propose GENhance, a generative framework that enhances attributes through a learned latent space. Trained on movie reviews and a computed protein stability dataset, GENhance can generate strongly-positive text reviews and highly stable protein sequences without being exposed to similar data during training. We release our benchmark tasks and models to contribute to the study of generative modeling extrapolation and data-driven design in biology and chemistry.

연구 동기 및 목표

• 시퀀스 모델링에서 훈련 분포를 초월하는 외삽으로서 속성 강화 생성 작업을 공식화하는 것.
• 훈련 데이터에 존재하지 않는 개선된 속성(예: 감성, 안정성)을 가진 시퀀스를 생성하는 과제를 해결하는 것.
• 학습된 잠재공간을 활용하여 고속성 영역으로 향하는 생성을 이끄는 생성 프레임워크를 개발하는 것.
• 재현 가능한 연구를 위해 생물학 및 자연어 처리 분야의 외삽적 생성 모델링을 위한 벤치마크 데이터셋과 오라클를 공개하는 것.

제안 방법

• GENhance는 공유 인코더와 디코더를 가진 조건부 VAE 유사 아키텍처를 사용하며, 생성 손실과 판별 손실을 최소화하기 위해 생성자와 판별자를 공동으로 훈련한다.
• 잠재공간의 일반화를 향상시키기 위해 잠재 벡터 스무딩을 도입하여 잠재공간을 정규화한다.
• 재구성된 시퀀스를 원본 입력과 정렬하기 위해 사이클 일치 손실을 적용하여 훈련을 안정화하고 잠재공간 품질을 향상시킨다.
• 생성자-판별자 설정과 적대적 훈련을 사용하며, 판별자는 속성 점수의 순위를 매기는 역할을 한다.
• 재구성, 적대적, 사이클 일치성 목적함수의 조합을 통해 엔드 투 엔드로 훈련하여 속성 외삽을 향상시킨다.
• 특정 속성 값에 조건부로 잠재공간에서 샘플링함으로써, 훈련 데이터에 존재하지 않는 값일지라도 속성 강화 생성을 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥 생성 모델은 자연어 및 단백질 시퀀스에서 훈련 분포를 크게 초월하는 속성을 가진 시퀀스를 생성할 수 있는가?
• RQ2 표준 GAN 기반 또는 MCMC 샘플링 방법과 비교해 볼 때, 정규화된 학습된 잠재공간은 속성 외삽에 어떻게 기여하는가?
• RQ3 사이클 일치성 손실은 속성 강화 생성에서 훈련 안정성과 생성된 시퀀스 품질 향상에 어떤 역할을 하는가?
• RQ4 외부 분포 예시가 몇 개만 존재할 경우, GENhance는 얼마나 높은 품질의 고속성 샘플을 생성할 수 있는가?
• RQ5 훈련된 인코더를 판별자와 통합함으로써, 표준 판별자 전용 접근 방식에 비해 얼마나 더 우수한 순위 매기기와 생성 성능를 달성하는가?

주요 결과

• GENhance는 단백질 안정성 생성에서 Gen-Disc의 거절 샘플링 및 MCMC 기반 방법을 포함한 모든 기준 모델보다 모든 지표에서 승리한다.
• GENhance가 생성한 시퀀스는 훈련 세트의 어떤 시퀀스보다도 평균 ddG 값을 낮게 기록했으며, 가장 안정적인 훈련 예제보다 더 안정적인 시퀀스 비율이 유의미하게 높았다.
• PCI_yτ 값이 높아, 생성된 시퀀스 중 가장 유리한 훈련 샘플의 속성 값을 초월한 비율이 더 높다는 것을 의미한다.
• Figure 4에서 시각화한 바와 같이, GENhance는 훈련 분포에 비해 더 높은 안정성 영역으로의 생성 시퀀스 분포 이동 폭이 가장 컸다.
• 제거 실험 결과 사이클 일치성 손실이 성능 향상에 기여한 반면, 잠재 스무딩은 약간의 성능 저하를 초래하여 목적함수 최적화에서의 상충 관계를 시사했다.
• GENhance의 인코더를 사용해 기존 생성자에서 생성한 시퀀스를 재순위 매김함으로써 성능 향상을 확인했으며, 이는 더 나은 인코딩과 디코딩이 모두 모델 성공에 기여함을 확인한다.