[論文レビュー] Neuro-symbolic Architectures for Context Understanding

Alessandro Oltramari, Jonathan Francis+3 more|arXiv (Cornell University)|Mar 9, 2020

Topic Modeling参考文献 41被引用数 12

ひとこと要約

本論文は、知識グラフとディープニューラルネットワークを統合する神経記号的アーキテクチャを提案し、AIにおける文脈理解を向上させ、自動運転や質問応答の分野で解釈可能で高精度なシステムを実現する。データ駆動型学習と記号的知識を融合させることで、モデルの解釈性を維持しつつ、視覚的シーン理解および一般常識的推論タスクにおいて、最先端の性能を達成または上回る。

ABSTRACT

Computational context understanding refers to an agent's ability to fuse disparate sources of information for decision-making and is, therefore, generally regarded as a prerequisite for sophisticated machine reasoning capabilities, such as in artificial intelligence (AI). Data-driven and knowledge-driven methods are two classical techniques in the pursuit of such machine sense-making capability. However, while data-driven methods seek to model the statistical regularities of events by making observations in the real-world, they remain difficult to interpret and they lack mechanisms for naturally incorporating external knowledge. Conversely, knowledge-driven methods, combine structured knowledge bases, perform symbolic reasoning based on axiomatic principles, and are more interpretable in their inferential processing; however, they often lack the ability to estimate the statistical salience of an inference. To combat these issues, we propose the use of hybrid AI methodology as a general framework for combining the strengths of both approaches. Specifically, we inherit the concept of neuro-symbolism as a way of using knowledge-bases to guide the learning progress of deep neural networks. We further ground our discussion in two applications of neuro-symbolism and, in both cases, show that our systems maintain interpretability while achieving comparable performance, relative to the state-of-the-art.

研究の動機と目的

• 完全にデータ駆動型または知識駆動型のAIの限界を克服するため、両方のアプローチを統合して文脈理解を向上させること。
• 知覚と記号的知識を統合する計算的手法を通じて、説明可能なAIを実現すること。
• 神経記号的フレームワークの実世界の応用、たとえば自動運転車や質問応答における有効性を実証すること。
• 異なる知識インジェクション手法（アテンション vs. プレトレーニング）が、多様な推論タスクにおけるモデル性能に与える影響を調査すること。
• 最適な推論結果を得るための質問タイプと知識ベースのコンテンツとの整合性を検討すること。

提案手法

• 都市部の運転シナリオやConceptNet、ATOMICからの一般常識知識など、実世界のデータセットから知識グラフを構築すること。
• 視覚的および言語的コンセプト間の意味的関係を捉えるために、連続的ベクトル空間表現（知識グラフ埋め込み）を学習すること。
• 視覚的およびテキスト的文脈における意味的類似度の推定と意思決定のための非線形関数近似として、ディープニューラルネットワークを用いること。
• アテンション機構を介して外部知識を事前学習済み言語モデルにインジェクションし、候補となる回答の推論を支援すること。
• ATOMICなどのドメイン固有の知識ベースで言語モデルをプレトレーニングすることで、モデルの誘導バイアスを関連する推論パターンにシフトさせること。
• 神経的知覚を記号的知識でガイドするハイブリッドフレームワークを設計し、解釈可能な推論と意思決定を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 知識グラフは、自動運転のための視覚的シーン理解において、ディープニューラルネットワークをどのように効果的にガイドできるか。
• RQ2 異なる知識インジェクション戦略（アテンション vs. プレトレーニング）は、質問応答性能にどのような影響を与えるか。
• RQ3 質問タイプと知識ベースのコンテンツとの整合性は、モデルの正確性と推論能力にどのように影響するか。
• RQ4 神経記号的統合は、文脈理解タスクにおいて、最先端の性能を達成しつつ解釈可能性を維持できるか。
• RQ5 現在のモデルは、否定や対義語に基づく質問に対して、どのような限界を示しているか。

主な発見

• 神経記号的統合により、視覚的シーンにおける意味的関係が保持され、環境条件が変化しても危険状態の正確な評価が可能になる。
• 知識グラフ埋め込みは、視覚的シーンの概念的構造を効果的に捉えており、ニューラルネットワークが視覚的に異なるが意味的に類似したシーンを検出できる。
• 知識ベースの整合性が不十分な状況では、アテンションベースの知識インジェクションがプレトレーニングを上回る性能を示し、性能の低下を引き起こさない。
• ATOMICのような知識ベースでプレトレーニングすることで、その関係構造と整合する質問において性能が向上し、全体の性能が低い場合でも有効である。
• 対義語や否定を含む質問は依然として困難であり、ニューラルモデルにおける論理的否定の推論を改善する必要がある。
• 知識ベースとタスクドメインが良好に一致する場合には、アテンションインジェクションとプレトレーニングの組み合わせにより、さらなる性能向上が達成できる。