[論文レビュー] Effective Abstract Reasoning with Dual-Contrast Network

Tao Zhuo, Mohan Kankanhalli|arXiv (Cornell University)|May 27, 2022

Machine Learning in Bioinformatics参考文献 31被引用数 9

ひとこと要約

本稿では、補助的アノテーションや隠れたルールに関する強い仮定なしに、唯一正解の答えのみを用いてRavenの進行的配列（RPM）を解くための新しいニューラルネットワーク、Dual-Contrast Network（DCNet）を提案する。行・列間のルール対比と選択肢間の選択対比を活用することで、DCNetはRAVENおよびPGMデータセット全体で平均5.77%の向上を達成し、最先端の性能を実現した。

ABSTRACT

As a step towards improving the abstract reasoning capability of machines, we aim to solve Raven's Progressive Matrices (RPM) with neural networks, since solving RPM puzzles is highly correlated with human intelligence. Unlike previous methods that use auxiliary annotations or assume hidden rules to produce appropriate feature representation, we only use the ground truth answer of each question for model learning, aiming for an intelligent agent to have a strong learning capability with a small amount of supervision. Based on the RPM problem formulation, the correct answer filled into the missing entry of the third row/column has to best satisfy the same rules shared between the first two rows/columns. Thus we design a simple yet effective Dual-Contrast Network (DCNet) to exploit the inherent structure of RPM puzzles. Specifically, a rule contrast module is designed to compare the latent rules between the filled row/column and the first two rows/columns; a choice contrast module is designed to increase the relative differences between candidate choices. Experimental results on the RAVEN and PGM datasets show that DCNet outperforms the state-of-the-art methods by a large margin of 5.77%. Further experiments on few training samples and model generalization also show the effectiveness of DCNet. Code is available at https://github.com/visiontao/dcnet.

研究の動機と目的

• 最小限の監視情報で機械の抽象的推論の課題に取り組むこと。
• 従来の手法が補助的アノテーションや隠れた論理的ルールに関する強い仮定に依存するという制限を克服すること。
• 未観測のRPM構成や少サンプル設定に対しても一般化できるモデルを開発すること。
• 正解の答えのみを監視信号として用いるエンド・ツー・エンドの学習を可能にし、限られた監視情報で人間のような推論を模倣すること。

提案手法

• 埋め込みされたルールの対比を、埋め込まれた行・列と最初の2行・2列の間で行うルール対比モジュールを設計し、潜在的な論理的構造と整合性を保つ。
• 候補となる正解の間の相対的差を強調することで、類似した誤り選択肢が存在する状況でも識別性能を向上させる選択肢対比モジュールを実装する。
• ルールレベルのアノテーションが不要なように、唯一正解の答えを監視信号として用いてネットワークをエンド・ツー・エンドで学習する。
• 対比学習の原則を用いて、正しいルールパターンの表現を一致させ、誤った選択肢の表現を特徴空間で分離する。
• RPMパズルに内在する構造的対称性（正解は最初の2行・2列と同じルールに従う必要がある）を活用し、二重対比学習によってモデル化する。
• バックボーンCNNによる特徴抽出と、ルール比較および選択肢比較に特化した対比損失関数の組み合わせを採用する。

実験結果

リサーチクエスチョン

• RQ1 補助的ルールアノテーションやルール数に関する仮定に依存せずに、深層学習モデルがRPMで強力な抽象的推論を達成できるか？
• RQ2 行間のルール比較と選択肢間の選択比較を組み合わせた二重対比学習戦略は、一般化性能と精度の向上にどの程度効果的か？
• RQ3 正解の答えのみを監視信号として用いる場合、未観測の図形構成や少サンプル設定への一般化はどの程度達成できるか？
• RQ4 類似した誤り選択肢が存在する状況において、ルール対比モジュールと選択肢対比モジュールがそれぞれ性能にどの程度寄与しているか？

主な発見

• DCNetは、RAVENおよびPGMベンチマークデータセットにおいて、従来の最先端手法より5.77%の絶対的向上を達成した。
• RAVENデータセットでは、98.75%の正確性を達成し、同じ監視設定下でCoPINetや他の最先端手法を大きく上回った。
• アブレーションスタディの結果、選択肢対比モジュールを削除すると、RAVENでの正確性が57.07%低下し、類似した誤り選択肢の処理においてその重要性が顕著に示された。
• ルール対比モジュールは顕著な貢献を示しており、PGMで削除した場合に5.12%の正確性低下が生じ、潜在的な論理的パターンの把握における重要性が裏付けられた。
• RAVENの未観測の図形構成において、DCNetはCoPINetよりも優れた一般化性能を示し、7つの構成のうち5つで上回った。
• PGMデータセットでは、ニュートラルな状態で68.6%、補間状態で59.7%、外挿状態で17.8%の正確性を達成し、分布外一般化の難易度を考慮しても競争力のある性能を示した。