[論文レビュー] Are Disentangled Representations Helpful for Abstract Visual Reasoning?

Sjoerd van Steenkiste, Francesco Locatello+2 more|arXiv (Cornell University)|May 29, 2019

Explainable Artificial Intelligence (XAI)参考文献 79被引用数 61

ひとこと要約

研究は、より分離された表現が無監督で学習されると、抽象的な視覚推論タスクでよりサンプル効率の高い性能をもたらすことを示している。360 の disentanglement モデルと 3600 の reasoning モデルを用いて。

ABSTRACT

A disentangled representation encodes information about the salient factors of variation in the data independently. Although it is often argued that this representational format is useful in learning to solve many real-world down-stream tasks, there is little empirical evidence that supports this claim. In this paper, we conduct a large-scale study that investigates whether disentangled representations are more suitable for abstract reasoning tasks. Using two new tasks similar to Raven's Progressive Matrices, we evaluate the usefulness of the representations learned by 360 state-of-the-art unsupervised disentanglement models. Based on these representations, we train 3600 abstract reasoning models and observe that disentangled representations do in fact lead to better down-stream performance. In particular, they enable quicker learning using fewer samples.

研究の動機と目的

• 監視学習以外の下流タスクに対して、分離表現を有用な事前知識として位置づける。
• 抽象的推論タスクに対して、幅広い無監督分離モデルを体系的に評価する。
• 複数の指標にわたって、分離と下流性能の相関を評価する。
• 分離品質の関数としてサンプル効率の改善を定量化する。

提案手法

• dSprites および 3dshapes の真値因子に基づく、RPM風の2つの抽象推論タスクを構築する。
• 4 手法（β-VAE, FactorVAE, β-TCVAE, DIP-VAE）にまたがる 360 個の無監督分離モデルを訓練する。
• これらのモデルから表現を抽出し、3600 の Wild Relation Networks (WReN) を訓練して推論タスクを解く。
• 訓練段階を通じた下流の正確さを測定し、5つの分離指標（BetaVAE, FactorVAE, MIG, DCI, SAP）と再構築誤差と関連付ける。
• few-shot 対 many-shot の regime を比較してサンプル効率を評価する。）

実験結果

リサーチクエスチョン

• RQ1 分離表現は、絡み合った表現と比較して、抽象的な視覚推論の性能を改善するか。
• RQ2 サンプル regime 全体で、下流の性能は異なる分離指標とどのように関連するか。
• RQ3 分離がより強い便益をもたらす regime（few vs many のサンプル） は存在するか。

主な発見

• より分離された表現は、検討対象の抽象的視覚推論タスクでより良いサンプル効率をもたらす。
• few-sample regime では BetaVAE および FactorVAE のスコアが下流の正確さと最も強い相関を示し、MIG と SAP は相関がより弱い。
• 再構築誤差は多くのサンプルがある regime で主に下流性能と相関し、few-sample regime ではそうでない。
• few-sample regime では、分離（例：FactorVAE スコア）は dSprites および 3dshapes の両データセットで依然として性能と強く相関している。
• many-sample regime では、最終精度は分離指標への依存が小さくなり、再構築誤差が性能のより強い予測子となる。