[論文レビュー] Hierarchical Rule Induction Network for Abstract Visual Reasoning.

Sheng Hu, Yuqing Ma+3 more|arXiv (Cornell University)|Feb 17, 2020

Data Visualization and Analytics参考文献 26被引用数 14

ひとこと要約

本論文では、ゲート付き融合メカニズムを通じて複数レベルのルール埋め込みを学習することで、人間の抽象的推論を模倣する新しい深層学習モデル、階層的ルール誘導ネットワーク（HriNet）を提案する。PGM や Balanced-RAVEN といった抽象的視覚的推論ベンチマークにおいて、改善されたルール誘導と類似性に基づく推論により、最先端のモデルを著しく上回る性能を達成している。

ABSTRACT

Abstract reasoning refers to the ability to analyze information, discover rules at an intangible level, and solve problems in innovative ways. Raven's Progressive Matrices (RPM) test is typically used to examine the capability of abstract reasoning. In the test, the subject is asked to identify the correct choice from the answer set to fill the missing panel at the bottom right of RPM (e.g., a 3$ imes$3 matrix), following the underlying rules inside the matrix. Recent studies, taking advantage of Convolutional Neural Networks (CNNs), have achieved encouraging progress to accomplish the RPM test problems. Unfortunately, simply relying on the relation extraction at the matrix level, they fail to recognize the complex attribute patterns inside or across rows/columns of RPM. To address this problem, in this paper we propose a Hierarchical Rule Induction Network (HriNet), by intimating human induction strategies. HriNet extracts multiple granularity rule embeddings at different levels and integrates them through a gated embedding fusion module. We further introduce a rule similarity metric based on the embeddings, so that HriNet can not only be trained using a tuplet loss but also infer the best answer according to the similarity score. To comprehensively evaluate HriNet, we first fix the defects contained in the very recent RAVEN dataset and generate a new one named Balanced-RAVEN. Then extensive experiments are conducted on the large-scale dataset PGM and our Balanced-RAVEN, the results of which show that HriNet outperforms the state-of-the-art models by a large margin.

研究の動機と目的

• Raven の進行的配列（RPM）問題において、従来の CNN ベースのモデルが行方向および列方向の複雑な属性パターンを捉えることの限界を是正すること。
• 複数の粒度でルールを学習することで、人間の類似したルール誘導を模倣するモデルの開発。
• 学習済み埋め込みに基づくルール類似性メトリクスを導入し、学習および推論に活用すること。
• RAVEN データセットの欠陥を是正し、よりバランスの取れたベンチマーク、Balanced-RAVEN を作成することで、信頼性の高い評価を可能にすること。
• 改善されたルール表現と統合により、大規模な抽象的推論データセットで最先端の性能を達成すること。

提案手法

• HriNet は、局所的、行／列、マトリクス全体の複数の粒度でルール埋め込みを抽出する階層的アーキテクチャを採用している。
• ゲート付き埋め込み統合モジュールにより、多段階のルール表現を統合し、文脈に適した統一された表現を生成する。
• トレーニング中に、正解が埋め込み空間内でクエリに近くなるように最適化するための三重損失関数が使用されている。
• 学習済み埋め込みに基づいてルール類似性メトリクスを定義し、最も類似した候補回答を選択することで推論を可能にしている。
• 本モデルは、大規模な PGM データセットおよび新たに構築された修正済みデータセットである Balanced-RAVEN でトレーニングおよび評価されている。
• 3×3 RPM マトリクス内のパネル間の関係的・構造的パターンを捉えるようにアーキテクチャが設計されており、人間の誘導戦略を模倣している。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、抽象的視覚的推論タスクにおいて、複数の抽象レベルでのルール表現を効果的に学習および統合できるか？
• RQ2 多粒度のルール埋め込みの統合は、RPM 形式の推論問題における性能をどのように向上させるか？
• RQ3 学習済み埋め込みに基づくルール類似性メトリクスは、抽象的推論における学習および推論をどの程度向上させるか？
• RQ4 修正およびバランスの取れたデータセット（例：Balanced-RAVEN）は、抽象的推論モデルの評価に信頼性の高いベンチマークを提供できるか？
• RQ5 HriNet は、PGM および Balanced-RAVEN の両方で、既存のモデルと比較して最先端の性能を達成できるか？

主な発見

• HriNet は大規模な PGM データセットで最先端の性能を達成し、以前のモデルを著しく上回っている。
• 新たに構築された Balanced-RAVEN データセットでは、既存の手法と比較して、HriNet は優れた一般化性能と頑健性を示している。
• モデルの性能向上は、多段階のルール表現を効果的に学習および統合できる能力に起因している。
• 学習済み埋め込みに基づくルール類似性メトリクスの導入により、追加の分類ヘッドを必要とせずに正確な推論が可能になった。
• トレーニング中に三重損失を使用することで、より識別性の高い埋め込み空間が得られ、ゼロショット一般化性能が向上した。
• 修正済みの Balanced-RAVEN データセットは、元の RAVEN データセットに隠れていたバイアスを明らかにし、バランスの取れたベンチマークの必要性を裏付けた。