[論文レビュー] The Scattering Compositional Learner: Discovering Objects, Attributes, Relationships in Analogical Reasoning

Yuhuai Wu, Honghua Dong+2 more|arXiv (Cornell University)|Jul 8, 2020

Topic Modeling参考文献 34被引用数 26

ひとこと要約

Scattering Compositional Learner (SCL) は、Raven's Progressive Matrices (RPM) タスクにおける構成的構造を発見するために、物体、属性、関係性のネットワークを明示的に組み合わせるニューラルアーキテクチャである。エンドツーエンドのバックプロパゲーションで訓練することで、SCL は最先端の性能を達成し、Balanced-RAVEN で 48.7% の相対的改善、PGM で 26.4% の改善を示した。同時に、解釈可能で因子化された表現を学習し、未学習の類似関係やドメインシフトに対して優れたゼロショット一般化性能を示した。

ABSTRACT

In this work, we focus on an analogical reasoning task that contains rich compositional structures, Raven's Progressive Matrices (RPM). To discover compositional structures of the data, we propose the Scattering Compositional Learner (SCL), an architecture that composes neural networks in a sequence. Our SCL achieves state-of-the-art performance on two RPM datasets, with a 48.7% relative improvement on Balanced-RAVEN and 26.4% on PGM over the previous state-of-the-art. We additionally show that our model discovers compositional representations of objects' attributes (e.g., shape color, size), and their relationships (e.g., progression, union). We also find that the compositional representation makes the SCL significantly more robust to test-time domain shifts and greatly improves zero-shot generalization to previously unseen analogies.

研究の動機と目的

• 深層学習における体系的一般化の課題に取り組むために、視覚的推論タスクにおける構成的構造を明示的にモデル化すること。
• Raven's Progressive Matrices のような類似関係推論タスクにおけるゼロショット一般化とテスト時ドメインシフトに対するロバスト性を向上させること。
• 物体、属性（例：形状、色、サイズ）、関係性（例：進行、結合）の解釈可能で因子化された表現を発見すること。
• 構成的構造学習が、ファインチューニングなしに新しい属性-関係ペアへの一般化を可能にすることを検証すること。

提案手法

• SCL は、物体ネットワーク（𝑁𝑜𝑖）、属性ネットワーク（𝑁𝑎𝑗）、関係性ネットワーク（𝑁𝑟𝑘）の3種類のニューラルネットワークを組み合わせ、𝒩𝑟𝑘∘𝒩𝑎𝑗∘𝒩𝑜𝑖 の形で構成し、特定の関係性が物体の属性間に成り立つかを予測する。
• すべての可能な物体・属性・関係性ネットワーク間の組み合わせを計算することで、適合性を強制し、各ネットワークが一般で分離可能な関数（例：属性の種類に依存しない「進行」）を学習することを促進する。
• 標準的なエンドツーエンドのバックプロパゲーションによりアーキテクチャを訓練し、学習された表現と記号的属性・関係性ラベルとの整合性を促進する構成的損失 ℒcomp を用いる。
• 線形プローブによる検証で、例えば、ニューロンが物体サイズを表す線形変換 y ≈ -2.5x + 5 を学習していることが確認された。
• 関係性ネットワーク出力の t-SNE 視覚化により、各関係性タイプごとに明確に分離されたクラスタが得られ、抽象的関係概念の成功した学習が示された。
• 一般化は、訓練中に未観測の属性-関係ペアに対してテストし、テスト精度と検証精度との差（一般化ギャップ）で性能を測定することで評価された。

実験結果

リサーチクエスチョン

• RQ1 物体、属性、関係性モジュールから明示的に構成されたニューラルネットワークアーキテクチャは、類似関係推論タスクにおいて分離可能で解釈可能な表現を発見できるか？
• RQ2 構成的構造の学習は、属性と関係性の新しい組み合わせへのゼロショット一般化を向上させるか？
• RQ3 先行の SoTA モデルと比較して、構成的構造学習はテスト時ドメインシフトに対するロバスト性にどのように影響するか？
• RQ4 モデルの内部表現が、記号的属性および関係性概念とどの程度整合できるか？

主な発見

• SCL は、前回の最先端手法に対して Balanced-RAVEN で 48.7% の相対的改善、PGM で 26.4% の改善を達成し、RPM ベンチマークで最先端の性能を示した。
• モデルは解釈可能で因子化された表現を学習した。例えば、1つのニューロンが y ≈ -2.5x + 5 の線形変換を学習し、物体サイズを正確に表現しており、記号的サイズラベルと密接に一致した。
• t-SNE 視覚化により、各関係性タイプ（例：定数、進行、結合）に対して明確に分離されたクラスタが得られ、抽象的関係概念の成功した学習が示された。
• 訓練中に未観測の属性-関係ペアに対して、SCL は平均 90.0% のテスト精度を達成し、検証精度との平均低下がたった 2% にとどまった。一方、CoPINet は 34.7% に低下し、平均で 14.6% の低下を示した。
• 構成的損失 ℒcomp とテスト精度の変化トレンドが逆方向に推移したため、構成的構造学習が一般化性能を高めているという仮説が裏付けられた。
• SCL は強いドメインシフトへのロバスト性を示し、従来のモデルが失敗するような未学習の類似関係や分布外のテスト状況に対しても、効果的に一般化した。