[论文解读] Efficient Generation of Structured Objects with Constrained Adversarial Networks

Luca Di Liello, Pierfrancesco Ardino+4 more|arXiv (Cornell University)|Jul 26, 2020

Image Processing and 3D Reconstruction参考文献 48被引用 13

一句话总结

本文提出约束对抗网络（CANs），作为GAN的扩展，通过语义损失（SL）在训练过程中将逻辑约束嵌入生成器，以惩罚无效结构。CANs通过知识编译实现精确的约束评估，训练后丢弃复杂电路，支持推理时无运行时成本的动态开启/关闭约束，从而实现高效、高概率生成有效结构对象（如分子和游戏地图）。

ABSTRACT

Generative Adversarial Networks (GANs) struggle to generate structured objects like molecules and game maps. The issue is that structured objects must satisfy hard requirements (e.g., molecules must be chemically valid) that are difficult to acquire from examples alone. As a remedy, we propose Constrained Adversarial Networks (CANs), an extension of GANs in which the constraints are embedded into the model during training. This is achieved by penalizing the generator proportionally to the mass it allocates to invalid structures. In contrast to other generative models, CANs support efficient inference of valid structures (with high probability) and allows to turn on and off the learned constraints at inference time. CANs handle arbitrary logical constraints and leverage knowledge compilation techniques to efficiently evaluate the disagreement between the model and the constraints. Our setup is further extended to hybrid logical-neural constraints for capturing very complex constraints, like graph reachability. An extensive empirical analysis shows that CANs efficiently generate valid structures that are both high-quality and novel.

研究动机与目标

• 解决生成满足硬性、复杂约束（如化学有效性或可玩性）的结构化对象（如分子、游戏地图）的挑战。
• 克服标准GAN在训练数据中仍无法强制执行此类约束的局限性，原因在于噪声或不完整样本提供的信号不足。
• 在推理阶段无需昂贵的采样或优化步骤，实现高效、高概率生成有效结构。
• 在推理时支持无运行时开销的动态开启/关闭约束，提升条件生成的灵活性。
• 通过将配置嵌入可紧凑编码并利用语义损失评估的潜在空间，集成复杂约束（如图可达性）。

提出的方法

• 通过引入受约束的生成器扩展GAN，该生成器在训练期间根据语义损失（SL）受到惩罚，SL用于量化生成器分配给无效结构的质量。
• 使用算术电路（多项式）表示语义损失，实现对逻辑约束的精确、可微分且概率上可靠的评估。
• 将候选配置（如分子图）嵌入一个空间，使复杂约束（如可达性）可被紧凑编码并利用SL评估。
• 训练后丢弃算术电路，使推理保持高效且与约束复杂度无关。
• 引入条件CANs，通过可学习的控制变量在推理时动态激活或去激活约束。
• 将CANs与强化学习（如MolGAN中的QED、SA、logP）结合，进一步提升生成分子的多样性和质量。

实验结果

研究问题

• RQ1 GAN能否被有效扩展以生成满足硬性、任意逻辑约束（如化学有效性或图可达性）的结构化对象？
• RQ2 通过语义损失将约束嵌入生成器是否能实现高效、高概率生成有效结构，且不牺牲样本质量？
• RQ3 能否通过训练后丢弃约束表示，将复杂约束的计算成本与推理时间解耦？
• RQ4 能否在推理时无运行时性能损失地动态启用或禁用约束？
• RQ5 将CANs与强化学习结合，在实际应用中能否提升生成分子的多样性和质量？

主要发现

• CANs成功生成既化学有效又高质量的结构化对象，在分子生成任务中有效性率达到96.6%。
• 结合知识编译的语义损失可实现精确且可微分的约束评估，支持端到端训练与高效推理。
• CANs的推理为实时，且与约束复杂度无关，因为昂贵的算术电路已在训练后丢弃。
• 条件CANs在推理时可无运行时成本地动态开启/关闭约束，显著提升灵活性与控制力。
• 当与强化学习目标（QED、SA、logP）结合时，CANs在保持高有效性的同时，将分子多样性（从47.0提升至51.8）和质量（SA从84.0提升至90.7）显著改善。
• 在单张RTX 2080 Ti上，CANs的训练时间约为1小时，与基础MolGAN模型相比开销可忽略，证实了其实际可行性。