[论文解读] Weakly Supervised Disentanglement with Guarantees

Rui Shu, Yining Chen+3 more|arXiv (Cornell University)|Oct 22, 2019

Adversarial Robustness in Machine Learning参考文献 30被引用 33

一句话总结

该论文为使用分布匹配的弱监督进行解缠绕提供了理论框架，定义了一致性与约束性，并证明了若干监督类型的保证，以及经验验证。

ABSTRACT

Learning disentangled representations that correspond to factors of variation in real-world data is critical to interpretable and human-controllable machine learning. Recently, concerns about the viability of learning disentangled representations in a purely unsupervised manner has spurred a shift toward the incorporation of weak supervision. However, there is currently no formalism that identifies when and how weak supervision will guarantee disentanglement. To address this issue, we provide a theoretical framework to assist in analyzing the disentanglement guarantees (or lack thereof) conferred by weak supervision when coupled with learning algorithms based on distribution matching. We empirically verify the guarantees and limitations of several weak supervision methods (restricted labeling, match-pairing, and rank-pairing), demonstrating the predictive power and usefulness of our theoretical framework.

研究动机与目标

• 将弱监督学习形式化为在扩展空间中的分布匹配。
• 通过一致性和约束性定义解缠绕，以处理相关因子。
• 构建解缠绕的演算，以关联不同的弱监督信号。
• 分析并保证三类弱监督：受限标注、匹配配对、排序配对。
• 在标准解缠基准上经验验证理论保证。

提出的方法

• 使用生成器 g 和编码器 e，将带有因子 S 的数据生成过程建模为观测 X。
• 通过将 S 分成 I 及其补集并观察/子采样 I，将监督扩展到扩展分布。
• 定义生成器一致性：在给定 Z_I 的前提下，S_I 对 S_{I} 的变化保持不变。
• 定义生成器约束性：Z_I 的变化仅影响 S_I 而不影响 S_{I}。
• 将解缠绕定义为 Z_I 相对于 S_I 的（一致性 AND 约束性）。
• 证明在受限标注、匹配配对，或排序配对下的分布匹配能保证 C(I; p, g, e^*) 和 C(I; p^*, g^*, e)。
• 提出一个充分性框架，在其中学习算法结合监督信号即可实现所有因子的解缠绕。

实验结果

研究问题

• RQ1 当与分布匹配结合时，弱监督能为解缠绕提供哪些正式保证？
• RQ2 受限标注、匹配配对、排序配对如何对单个因子贡献一致性和/或约束性？
• RQ3 将多种弱监督信号结合是否能实现完全解缠绕？在什么条件下？
• RQ4 基于编码器的和基于生成器的视角在提供解缠绕保证方面如何关联？

主要发现

• 通过受限标注、匹配配对或排序配对的弱监督保证目标因子的一致性。
• 可以通过演算将一致性与约束性结合，以从多个弱信号推导出完整的解缠绕。
• 在 Shapes3D、dSprites、Scream-dSprites、SmallNORB 和 Cars3D 上的经验结果证明，结合单因子信号可获得高的解缠绕分数。
• 论文澄清，一致性和约束性虽然相关，但不意味着彼此成立，然而在实践中由于模型的归纳偏差而高度相关。
• 即使某些因子相关，只要扩展监督产生正确的一致性/约束性属性，解缠绕也是可实现的。