[論文レビュー] Abstract Reasoning with Distracting Features

Kecheng Zheng, Zheng-Jun Zha+1 more|arXiv (Cornell University)|Dec 2, 2019

Topic Modeling被引用数 30

ひとこと要約

本論文では、強化学習を用いて訓練の軌道を最適化し、抽象的推論タスクにおける誤った特徴の干渉を軽減する、学生・教師フレームワークである特徴に強い抽象的推論（FRAR）を提案する。誤った特徴にかかわらず推論パターンを学習できるようにモデルを誘導することで、FRARは最先端の性能を達成し、RAVENデータセットでは18.7%、PGMデータセットでは13.3%の精度向上を達成した。

ABSTRACT

Abstraction reasoning is a long-standing challenge in artificial intelligence. Recent studies suggest that many of the deep architectures that have triumphed over other domains failed to work well in abstract reasoning. In this paper, we first illustrate that one of the main challenges in such a reasoning task is the presence of distracting features, which requires the learning algorithm to leverage counterevidence and to reject any of the false hypotheses in order to learn the true patterns. We later show that carefully designed learning trajectory over different categories of training data can effectively boost learning performance by mitigating the impacts of distracting features. Inspired by this fact, we propose feature robust abstract reasoning (FRAR) model, which consists of a reinforcement learning based teacher network to determine the sequence of training and a student network for predictions. Experimental results demonstrated strong improvements over baseline algorithms and we are able to beat the state-of-the-art models by 18.7% in the RAVEN dataset and 13.3% in the PGM dataset.

研究の動機と目的

• 抽象的推論タスク中にモデルを誤導する誤った特徴の課題に対処すること。
• 誤った仮説を排除し、真の推論パターンに注目するように学習することで、モデルの汎化性能を向上させること。
• 誤った特徴からの干渉を低減するように、データを段階的に順序付けする訓練戦略を開発すること。
• カリキュラムに似た訓練の軌道が、誤った特徴が存在する状況で性能を顕著に向上させることを示すこと。
• 強化学習を用いた教師・学生フレームワークが、抽象的推論におけるカリキュラム学習に有効であることを検証すること。

提案手法

• 学生ネットワーク（論理埋め込みネットワーク、LEN）は、抽象的推論を支援するため、多数の論理的推論パターンの空間を明示的に列挙する。
• 教師ネットワークは、強化学習を用いて、訓練データサブセットの順序と割合を選択することで最適な訓練の軌道を学習する。
• 教師モデルは、学生のパフォーマンスに関するフィードバックを受け取り、誤った特徴からの干渉を最小限に抑える戦略を調整する。
• 訓練プロセスではカリキュラム学習が用いられ、複雑さと干渉度が段階的に増加するデータサブセットが順次導入される。
• このフレームワークは、埋め込み空間における推論特徴と誤った特徴の分離が向上していることを分析・確認するためにt-SNE可視化を活用する。
• モデルは、誤った特徴の設定を制御したRAVENおよびPGMベンチマークデータセット上で訓練および評価される。

実験結果

リサーチクエスチョン

• RQ1 誤った特徴は抽象的推論モデルの性能をどのように劣化させるのか？ その劣化を引き起こすメカニズムは何か？
• RQ2 データサブセットの順序を制御するカリキュラムベースの訓練戦略は、誤った特徴に対するモデルの頑健性を向上させることができるか？
• RQ3 強化学習に基づく教師モデルは、固定またはランダムな訓練順序よりも、抽象的推論タスクで優れた性能を発揮するか？
• RQ4 学習された表現空間において、モデルは推論特徴と誤った特徴をどの程度分離できるか？
• RQ5 提案されたFRARフレームワークは、RAVENやPGMといった標準的な抽象的推論ベンチマークで最先端の性能を達成できるか？

主な発見

• FRARはRAVENデータセットでテスト精度82.1%を達成し、前回の最先端技術を18.7%上回った。
• PGMデータセットでは67.6%の精度を達成し、前回の最先端技術を13.3%上回った。
• 教師モデルが最適化した訓練の軌道を用いることで、モデルの性能が顕著に向上した。特に誤った特徴が存在する状況で顕著であった。
• 誤った特徴が存在しない状況では、訓練順序の影響は最小限であったが、誤った特徴が存在する状況では、最適な軌道選択が顕著な性能向上をもたらした。
• t-SNE可視化により、教師モデルが誘導する訓練パスを経たモデルが、埋め込み空間において推論特徴と誤った特徴をよりよく分離していることが確認された。
• 教師モデルの強化学習戦略は、誤った属性からの干渉を最小限に抑えるデータサブセットを適切に優先するのを学習した。