[論文レビュー] Efficient Generation of Structured Objects with Constrained Adversarial Networks

Luca Di Liello, Pierfrancesco Ardino+4 more|arXiv (Cornell University)|Jul 26, 2020

Image Processing and 3D Reconstruction参考文献 48被引用数 13

ひとこと要約

本稿では、論理的制約を生成器に埋め込むことで、生成された構造的オブジェクト（例：分子、ゲームマップ）の妥当性を保証する、GANの拡張版である制約付き敵対的ネットワーク（CANs）を提案する。本手法は、論理的制約の正確な評価を可能にする知識コンパイルを活用し、訓練後には複雑な回路を破棄することで推論を高速化するとともに、推論時に制約のオン/オフを動的に切り替え可能にし、実行時コストを一切負わない。この結果、分子やゲームマップなど、複雑な制約を満たす高確率で妥当な構造的オブジェクトの生成が可能になる。

ABSTRACT

Generative Adversarial Networks (GANs) struggle to generate structured objects like molecules and game maps. The issue is that structured objects must satisfy hard requirements (e.g., molecules must be chemically valid) that are difficult to acquire from examples alone. As a remedy, we propose Constrained Adversarial Networks (CANs), an extension of GANs in which the constraints are embedded into the model during training. This is achieved by penalizing the generator proportionally to the mass it allocates to invalid structures. In contrast to other generative models, CANs support efficient inference of valid structures (with high probability) and allows to turn on and off the learned constraints at inference time. CANs handle arbitrary logical constraints and leverage knowledge compilation techniques to efficiently evaluate the disagreement between the model and the constraints. Our setup is further extended to hybrid logical-neural constraints for capturing very complex constraints, like graph reachability. An extensive empirical analysis shows that CANs efficiently generate valid structures that are both high-quality and novel.

研究の動機と目的

• 化学的妥当性や遊べる性質といった、硬い複雑な制約を満たす構造的オブジェクト（例：分子、ゲームマップ）を生成する課題に対処すること。
• 標準的なGANは、ノイズの多いまたは不完全な例から信号を得られず、訓練データに含まれてもこのような制約を強制できないという限界を克服すること。
• 推論時に高価なサンプリングや最適化ステップを必要とせず、効率的かつ高確率で妥当な構造を生成できること。
• 推論時に制約のオン/オフを動的に切り替え可能にし、実行時コストを一切負わないことで、条件付き生成における柔軟性を高めること。
• グラフの到達可能性といった複雑な制約を、制約をコンactに表現できる空間に配置し、意味的損失（SL）を用いて簡潔に符号化・評価可能にする。

提案手法

• 意味的損失（SL）に基づき、生成器が不正な構造に割り当てた確率質量を評価することで、訓練中に制約付き生成器を罰する。
• 算術回路（多項式）を用いて意味的損失を表現し、論理的制約の正確で微分可能かつ確率論的に整合性のある評価を可能にする。
• 候補となる構成（例：分子グラフ）を、複雑な制約（例：到達可能性）をコンパクトに符号化・評価できる空間に埋め込む。
• 訓練後には算術回路を破棄するため、推論は制約の複雑さに依存せず、高速かつ独立に保たれる。
• 推論時に学習可能な制御変数を用いて、制約の有効・無効を動的に切り替え可能な条件付きCANsを導入する。
• CANsを強化学習（例：MolGAN）と組み合わせることで、生成された分子の多様性と品質をさらに向上させる。

実験結果

リサーチクエスチョン

• RQ1 GANは、化学的妥当性やグラフ到達可能性といった、任意の硬い論理的制約を満たす構造的オブジェクトを、効果的に生成できるか？
• RQ2 意味的損失による制約の埋め込みにより、サンプル品質を損なわず、効率的かつ高確率で妥当な構造を生成できるか？
• RQ3 訓練後に制約表現を破棄することで、複雑な制約の計算コストを推論時間から分離できるか？
• RQ4 推論時に制約のオン/オフを実行時コストを一切負わずに動的に切り替えられるか？
• RQ5 CANsを強化学習と組み合わせることで、実世界の応用において生成された分子の多様性と品質がどのように向上するか？

主な発見

• CANsは、化学的に妥当で高品質な構造的オブジェクトを効果的に生成でき、分子生成タスクにおいて96.6％の妥当性率を達成した。
• 知識コンパイルを用いた意味的損失の使用により、正確で微分可能かつ確率論的に整合性のある制約評価が可能となり、エンドツーエンドの学習と効率的な推論を支援する。
• CANsを用いた推論はリアルタイムであり、制約の複雑さに依存せず、高価な算術回路は訓練後に破棄されるため、効率的かつ独立に保たれる。
• 条件付きCANsにより、推論時に制約のオン/オフを実行時コストを一切負わずに動的に切り替え可能となり、柔軟性と制御性が向上する。
• QED、SA、logPといった強化学習の目的関数と組み合わせた場合、分子の多様性（47.0から51.8に向上）と品質（SA：84.0から90.7に向上）が向上したが、同時に高い妥当性を維持した。
• RTX 2080 Ti 1台でCANsを訓練した時間は約1時間であり、ベースとなるMolGANモデルに比べてほとんどコストが増加しなかった。これにより、実用的実装の可能性が裏付けられた。