[论文解读] Benchmarks, Algorithms, and Metrics for Hierarchical Disentanglement

Andrew Slavin Ross, Finale Doshi‐Velez|arXiv (Cornell University)|Feb 9, 2021

Generative Adversarial Networks and Image Synthesis参考文献 52被引用 6

一句话总结

本文提出了一套用于学习具有复杂嵌套结构的数据中分层解耦表征的框架——其中某些连续因子根据离散类别变量有条件地激活。该工作提出了新颖的算法（COFHAE 和 MIMOSA）、基准测试集和度量方法，其性能优于平坦的、因子化的方法，在建模具有不同固有维度的多个流形时，实现了对分层数据的更优解耦。

ABSTRACT

In representation learning, there has been recent interest in developing algorithms to disentangle the ground-truth generative factors behind a dataset, and metrics to quantify how fully this occurs. However, these algorithms and metrics often assume that both representations and ground-truth factors are flat, continuous, and factorized, whereas many real-world generative processes involve rich hierarchical structure, mixtures of discrete and continuous variables with dependence between them, and even varying intrinsic dimensionality. In this work, we develop benchmarks, algorithms, and metrics for learning such hierarchical representations.

研究动机与目标

• 解决现有解耦方法的局限性，即假设表征是平坦的、连续的且因子化的，这些方法无法有效建模具有分层、嵌套和条件结构的真实世界数据。
• 开发一个框架，用于建模位于多个具有不同固有维度的流形上的数据，其中连续因子根据离散类别变量有条件地激活。
• 设计新型算法，能够从数据中联合学习分层结构和结构化自编码器，而无需事先知晓子类型或维度信息。
• 设计新的评估度量方法，以准确评估分层解耦，区分正确的条件激活与虚假相关性。
• 证明即使在问题不具备完全可识别性的情况下，分层结构的归纳偏置仍能提升解耦性能。

提出的方法

• 提出一种分层表征框架，其中连续因子由离散类别变量有条件地激活，形成树状层次结构。
• 引入 COFHAE（用于分层自编码器的条件正交分解），一种通过在连续变量上施加条件总相关性惩罚来学习解耦表征的结构化自编码器。
• 开发 MIMOSA（基于自编码器的流形与子空间识别），一种识别数据底层低维、曲率受限流形并将其分配给对应实例的方法。
• 采用最小描述长度（MDL）原则作为理论动机，表明在多流形数据上，分层表征的码长比平坦表征更短。
• 设计分层解耦度量方法，包括 $R^4_c$，该度量在评估解耦时考虑了因子的条件激活。
• 通过结合重建损失、条件总相关性最小化和流形感知正则化来训练模型，以鼓励对潜在生成过程的忠实建模。

实验结果

研究问题

• RQ1 当底层结构（如子类型及其关联维度）未知时，能否从数据中有效学习分层解耦？
• RQ2 与平坦度量（如 $R^4$）相比，新型度量 $R^4_c$ 在评估分层解耦时表现如何？
• RQ3 即使在问题非可识别的情况下，分层结构的归纳偏置在多大程度上能提升解耦性能？
• RQ4 MIMOSA 与 COFHAE 的结合能否在无实例级监督的情况下，同时识别流形并学习解耦表征？
• RQ5 将数据建模为具有不同固有维度的多个流形，是否如最小描述长度原理所预测的那样，能产生更紧凑且可解释的表征？

主要发现

• $R^4_c$ 度量能正确识别分层数据中解耦因子的对应关系，对正确对应关系的评分达到 0.69，而平坦的 $R^4$ 度量则失败，得分为 0.47。
• COFHAE 仅在提供完整层次结构、正确分配以及对总相关性施加条件惩罚时才能实现最优解耦；若仅提供部分信息或使用边缘惩罚，则性能不足。
• 图 A.5 中的消融研究显示，MIMOSA 的所有子组件对性能均至关重要，证实了流形识别与条件因子分解的重要性。
• 尽管 COFHAE 架构较为复杂，但当所有组件均启用时，其在多个基准测试中均表现出一致的性能提升，如图 5 和图 A.6 所示。
• 理论分析表明，在最小描述长度（MDL）原则下，分层表征可能成为最优解，其描述长度为 61N 位，而平坦表征在混合 1D 与 8D 流形数据集上的描述长度为 256N。
• 实证结果证实，分层解耦能提升可解释性与泛化能力，尤其在具有嵌套和条件因子的复杂数据（如医学表型或遗传亚型）中表现更优。