[논문 리뷰] Efficient Generation of Structured Objects with Constrained Adversarial Networks

Luca Di Liello, Pierfrancesco Ardino외 4명|arXiv (Cornell University)|2020. 07. 26.

Image Processing and 3D Reconstruction참고 문헌 48인용 수 13

한 줄 요약

이 논문은 논리적 제약 조건을 생성기 학습 중에 의미 손실(SL)을 사용하여 통합하는 제약 조건 부여 적대적 네트워크(CANs)를 제안한다. CANs는 지식 컴파일레이션을 활용해 정확한 제약 조건 평가를 하며, 학습 후 복잡한 회로를 폐기함으로써 유효한 구조적 객체(예: 분자, 게임 지도)의 효율적이고 높은 확률의 생성을 가능하게 한다. 또한 추론 시 제약 조건의 케이스 온/오프를 런타임 비용 없이 동적으로 전환할 수 있다.

ABSTRACT

Generative Adversarial Networks (GANs) struggle to generate structured objects like molecules and game maps. The issue is that structured objects must satisfy hard requirements (e.g., molecules must be chemically valid) that are difficult to acquire from examples alone. As a remedy, we propose Constrained Adversarial Networks (CANs), an extension of GANs in which the constraints are embedded into the model during training. This is achieved by penalizing the generator proportionally to the mass it allocates to invalid structures. In contrast to other generative models, CANs support efficient inference of valid structures (with high probability) and allows to turn on and off the learned constraints at inference time. CANs handle arbitrary logical constraints and leverage knowledge compilation techniques to efficiently evaluate the disagreement between the model and the constraints. Our setup is further extended to hybrid logical-neural constraints for capturing very complex constraints, like graph reachability. An extensive empirical analysis shows that CANs efficiently generate valid structures that are both high-quality and novel.

연구 동기 및 목표

• 화학적 타당성 또는 플레이어블성과 같은 딱딱한 복잡한 제약 조건을 만족하는 구조적 객체(예: 분자, 게임 지도) 생성의 과제를 해결한다.
• 노이즈가 있거나 완전하지 않은 예시로부터의 신호가 부족하여 표준 GAN이 학습 데이터에서조차 이러한 제약 조건을 강제하지 못하는 한계를 극복한다.
• 추론 시 비용이 많이 들거나 최적화 단계가 필요 없는 효율적이고 높은 확률의 유효한 구조 생성을 가능하게 한다.
• 런타임 오버헤드 없이 추론 시 제약 조건의 케이스 온/오프 전환을 지원하여 조건부 생성의 유연성을 높인다.
• 그래프 간선 간 접근성과 같은 복잡한 제약 조건을 의미 손실을 통해 공간에 압축적으로 표현하고 평가할 수 있도록 구성하는 것을 통합한다.

제안 방법

• 의미 손실(SL)을 기반으로 생성기의 유효하지 않은 구조에 할당된 질량을 측정함으로써 학습 중에 제약 조건이 부여된 생성기를 도입한다.
• 산술 회로(다항식)를 사용해 의미 손실을 표현함으로써 논리적 제약 조건의 정확하고, 미분 가능하며, 확률론적으로 타당한 평가를 가능하게 한다.
• 후보 구성(예: 분자 그래프)을 복잡한 제약 조건(예: 접근성)을 압축적으로 표현하고 의미 손실을 통해 평가할 수 있는 공간에 매핑한다.
• 학습 후 산술 회로를 폐기함으로써 추론이 제약 조건 복잡성과 무관하게 효율적으로 유지된다.
• 학습 가능한 제어 변수를 통해 추론 중 제약 조건의 활성화 또는 비활성화를 동적으로 제어할 수 있는 조건부 CANs를 도입한다.
• CANs를 강화 학습(예: MolGAN)과 결합하여 생성된 분자의 다양성과 품질을 더욱 향상시킨다.

실험 결과

연구 질문

• RQ1 GAN이 화학적 타당성 또는 그래프 접근성과 같은 딱딱한 임의의 논리적 제약 조건을 만족하는 구조적 객체를 효과적으로 생성할 수 있는가?
• RQ2 의미 손실을 통한 제약 조건 임베딩이 샘플 품질을 희생시키지 않고 효율적이고 높은 확률의 유효한 구조 생성을 가능하게 하는가?
• RQ3 학습 후 제약 조건 표현을 폐기함으로써 복잡한 제약 조건의 계산 비용을 추론 시간에서 분리할 수 있는가?
• RQ4 런타임 성능에 영향을 주지 않고 추론 중 제약 조건을 동적으로 케이스 온/오프로 전환할 수 있는가?
• RQ5 CANs를 강화 학습과 융합하면 실제 응용에서 생성된 분자의 다양성과 품질이 어떻게 향상되는가?

주요 결과

• CANs는 화학적으로 타당하고 고품질의 구조적 객체를 성공적으로 생성하였으며, 분자 생성 작업에서 유효성 비율이 96.6%에 이르렀다.
• 지식 컴파일레이션을 활용한 의미 손실의 사용은 정확하고, 미분 가능하며, 확률론적으로 타당한 제약 조건 평가를 가능하게 하여 엔드 투 엔드 학습과 효율적인 추론을 지원한다.
• CANs를 사용한 추론은 실시간이며 제약 조건의 복잡성과 무관하게 이루어지며, 고비용의 산술 회로는 학습 후 폐기되기 때문이다.
• 조건부 CANs를 통해 추론 중 제약 조건의 케이스 온/오프 전환이 런타임 비용 없이 가능해져, 더 높은 제어력과 민첩성을 확보할 수 있었다.
• 의미 손실 기반의 QED, SA, logP 강화 학습 목표와 결합했을 때, CANs의 분자 다양성(47.0에서 51.8로 향상)과 품질(SA 점수 84.0에서 90.7로 향상)이 향상되었으며, 높은 유효성도 유지되었다.
• 단일 RTX 2080 Ti에서 CANs의 학습 시간은 약 1시간이었으며, 기본 MolGAN 모델 대비 유의미한 오버헤드 없이 실용적 구현 가능성을 확인했다.