[論文レビュー] Weakly-Supervised Disentanglement Without Compromises

Francesco Locatello, Ben Poole+4 more|arXiv (Cornell University)|Feb 7, 2020

Blind Source Separation Techniques参考文献 78被引用数 96

ひとこと要約

本論文は同定性を証明し、グループ注釈を欠く画像ペアから解き放たれた表現を学ぶ適応的な弱教師ありVAEを提供し、タスク全体で強力な下流の有用性を示す。

ABSTRACT

Intelligent agents should be able to learn useful representations by observing changes in their environment. We model such observations as pairs of non-i.i.d. images sharing at least one of the underlying factors of variation. First, we theoretically show that only knowing how many factors have changed, but not which ones, is sufficient to learn disentangled representations. Second, we provide practical algorithms that learn disentangled representations from pairs of images without requiring annotation of groups, individual factors, or the number of factors that have changed. Third, we perform a large-scale empirical study and show that such pairs of observations are sufficient to reliably learn disentangled representations on several benchmark data sets. Finally, we evaluate our learned representations and find that they are simultaneously useful on a diverse suite of tasks, including generalization under covariate shifts, fairness, and abstract reasoning. Overall, our results demonstrate that weak supervision enables learning of useful disentangled representations in realistic scenarios.

研究の動機と目的

• 要因の一部のみが変化する非独立同分布の画像ペアから、解き放たれた表現の学習を動機づける。
• 対になった観測を前提とした弱い仮定の下で同定性が達成可能であることを示す。
• グループ注釈なしで因子の共有を推定する実用的な適応アルゴリズムを開発する。
• 大規模な実験を通じて、弱教師付きが信頼性のある分離性と有用な表現を生み出すことを実証する。

提案手法

• 2つの観測が潜在因子のランダムな部分集合を共有し、他の要素では異なることを前提とした弱教師あり生成モデルを提案する。
• 潜在軸の置換までの解かれた事後を導く、制約付き分布整合が分離された事後を生むことを示す同定性の結果を導出する。
• ペアから共有因子(S)を適応的に推定するAda-GVAEおよびAda-ML-VAEの派生形を導入し、共有座標の事後を平均化して推定する。
• 既知のグループ構造を用いず、共有座標と非共有座標の一貫性を課す新規の平均化制約を備えたbeta-VAE目的を使用する。
• ペアごとに共有因子の数kを、ペア事後間のKL発散に基づく肘法様のヒューリスティックで推定する。

実験結果

リサーチクエスチョン

• RQ1 明示的なグループ注釈なしに、非i.i.d.画像ペアから解釈可能な表現を同定できるか？
• RQ2 kが未知で変動する場合に、どのように自適応的にペア間で共有される潜在因子を推定できるか？
• RQ3 共変量シフトや公正性制約下で、弱教師付き分離表現が一般化し、下流のタスクに有用であることを証明できるか？
• RQ4 適応的な弱教師付き手法は、完全に監視されたグループベースの手法と性能と頑健性の点でどう比較されるか？

主な発見

• 弱教師付きモデルは、5つのデータセットにおいて一貫して教師なしのベースラインを上回る。
• Ada-GVAE（および Ada-ML-VAE）は、変化する因子の数kの変動に信頼性高く適応し、しばしばグループ監督法と同等またはそれを上回る。
• 弱教師付きで学習された分離表現は、共変量シフト下での強い一般化と相関する。
• 弱教師付き再構成損失は、下流タスクの性能と公正性の結果の有用な代理指標として機能する。
• 弱教師付きで学習された表現は、下流タスクでの頑健性と抽象的推論能力を向上させる。