[論文レビュー] A Neuro-vector-symbolic Architecture for Solving Raven's Progressive Matrices

Michael Hersche, Mustafa Zeqiri+3 more|arXiv (Cornell University)|Mar 9, 2022

Neural Networks and Applications被引用数 5

ひとこと要約

本論文は、高次元分散表現を活用してバインディング問題を克服するとともに、効率的な確率的推論を可能にする神経的・ベクトル的・記号的アーキテクチャ（NVSA）を提案する。このアーキテクチャにより、Ravenの進行的配列（RPM）を解く際、深層学習と記号的推論を統合し、87.7%の新記録を達成した。I-RAVENでは88.1%の精度を記録し、記号的アプローチと比較して推論が2桁速くなった。

ABSTRACT

Neither deep neural networks nor symbolic AI alone has approached the kind of intelligence expressed in humans. This is mainly because neural networks are not able to decompose joint representations to obtain distinct objects (the so-called binding problem), while symbolic AI suffers from exhaustive rule searches, among other problems. These two problems are still pronounced in neuro-symbolic AI which aims to combine the best of the two paradigms. Here, we show that the two problems can be addressed with our proposed neuro-vector-symbolic architecture (NVSA) by exploiting its powerful operators on high-dimensional distributed representations that serve as a common language between neural networks and symbolic AI. The efficacy of NVSA is demonstrated by solving the Raven's progressive matrices datasets. Compared to state-of-the-art deep neural network and neuro-symbolic approaches, end-to-end training of NVSA achieves a new record of 87.7% average accuracy in RAVEN, and 88.1% in I-RAVEN datasets. Moreover, compared to the symbolic reasoning within the neuro-symbolic approaches, the probabilistic reasoning of NVSA with less expensive operations on the distributed representations is two orders of magnitude faster. Our code is available at https://github.com/IBM/neuro-vector-symbolic-architectures.

研究の動機と目的

• 神経ネットワークにおけるバインディング問題と、記号的AIにおける全探索問題を、神経的・ベクトル的・記号的フレームワークの下で統合することで解決すること。
• 高次元分散表現を共通言語として用いることで、RPMタスクにおける視覚的認識と抽象的推論のエンドツーエンド学習を可能にすること。
• 既存の深層学習および神経的・記号的モデルと比較して、効率性と正確性を向上させ、人間水準の一般化を実現すること。
• 分散表現上の確率的推論が、複雑な視覚的類似性タスクにおいて、記号的ルールベース推論よりも高速かつ正確に動作することを示すこと。

提案手法

• NVSAは、神経的および記号的コンponents間の共有意味的空間として高次元分散表現（HDDRs）を用い、明示的なオブジェクトセグメンテーションを必要とせずに構成的推論を可能にする。
• アーキテクチャは、入力マトリクスからの属性（例：形状、色、位置）を抽出するマルチヘッドのペルセプトロンフロントエンドを採用し、各属性はアクティブルールを組み込んだメタラベルを用いたREINFORCE損失によりエンドツーエンドで訓練される。
• 確率的推論エンジンは、予測された属性分布と真値分布の間のJensen-Shannon発散（JSD）を用いてルールの尤度を計算し、小さなMLPによる学習可能な重みを用いて属性の重要度を調整する。
• ルール推論は、各属性ごとに尤度が最も高いルールを選択することで実行され、最終的な回答選択は、学習された重みを用いて属性間のJSDスコアを統合することで行われる。
• 2段階の訓練プロトコルを採用：まず、単一のアクティブルールを持つフィルタリング済みデータ上で、ペルセプトロンフロントエンドを訓練する。次に、全データ上で属性選択MLPを訓練し、アクティブ属性を予測する。
• すべてのコンponentsはエンドツーエンドで訓練され、認識と推論の共同最適化が可能になり、別々のネットワークパイプラインを必要としない。

実験結果

リサーチクエスチョン

• RQ1 神経的・ベクトル的・記号的アーキテクチャは、神経ネットワークにおけるバインディング問題を克服しつつ、記号的AIの全探索を回避できるか？
• RQ2 高次元分散表現は、神経的および記号的システム間の効果的な共通言語として、抽象的視覚的推論に適しているか？
• RQ3 分散表現上の確率的推論は、RPMタスクにおいて、記号的ルールベース推論よりも高速かつ正確に動作するか？
• RQ4 神経的・記号的モデルのエンドツーエンド訓練は、RAVENおよびI-RAVENベンチマークで最先端の精度を達成できるか？

主な発見

• NVSAは、RAVENデータセットで87.7%、I-RAVENデータセットで88.1%の新記録精度を達成し、従来の深層学習および神経的・記号的手法を上回った。
• NVSAの分散表現上での確率的推論は、同等の神経的・記号的フレームワークにおける記号的推論と比較して約100倍速い。
• NVSAのエンドツーエンド訓練は、PGMデータセットで平均68.3%の精度を達成し、訓練中にルールベースのフィルタリングに依存していないにもかかわらず、現在のSOTA手法MRNetと同等の性能を示した。
• 小さなMLPによる学習可能な属性重みの導入により、ルールの信頼度と誤差に基づき、関連する属性に動的に焦点を当てるため、PGMでの性能が向上した。
• モデルはデータセット間で良好な一般化を示し、ルールの複雑さや属性構成の変化に対しても頑健であることが確認された。
• アブレーションスタディにより、分散表現と確率的推論の組み合わせが高性能を達成するために不可欠であることが確認され、いずれのコンponentも削除すると精度が著しく低下した。