[論文レビュー] Neuro-Symbolic Artificial Intelligence: Current Trends

Md Kamruzzaman Sarker, Lu Zhou+2 more|arXiv (Cornell University)|May 11, 2021

Neural Networks and Applications参考文献 53被引用数 8

ひとこと要約

この論文は、主要なAI会議で発表された最新の研究を統合し、神経記号的人工知能（NeSy AI）分野における現在のトレンドを体系的に概説している。2つのフレームワーク—ヘンリー・コーズの2020年分類法と2005年の提言—を用いてアプローチを分類し、深層学習と記号的推論の統合によって、説明可能性、データ効率性、耐障害性の制限を克服することを目的としている。同時に、NeSyシステムにおける複雑な形式論理の統合をより深く行う必要性が顕在化している。

ABSTRACT

Neuro-Symbolic Artificial Intelligence -- the combination of symbolic methods with methods that are based on artificial neural networks -- has a long-standing history. In this article, we provide a structured overview of current trends, by means of categorizing recent publications from key conferences. The article is meant to serve as a convenient starting point for research on the general topic.

研究の動機と目的

• 主要なAI会議から得られた最新のNeSy AI研究トレンドを体系的かつ最新の視点から概説すること。
• NeSy AI研究を整理するための2つの分類フレームワーク—コーズの2020年分類法と2005年の提言—を特定し、比較すること。
• NeSy AIの理論的期待と現実の実装との間の継続的なギャップ、特に複雑な形式論理を活用する点での課題を浮き彫りにすること。
• 階層的および意味的知識表現を含む、論理的機能の強化に重点を置くべきであるという主張を展開すること。
• NeSy AIを、より頑健で説明可能であり、最終的には人間水準の人工知能に至るための重要な道筋として位置づけること。

提案手法

• 論文は、NeSy AIにおけるヘンリー・コーズの2020年分類フレームワークを用いて、主要なAI会議から発表された最新の出版物を分析している。
• 同じ出版物を2005年の分類スキームを用いて再評価し、NeSy研究における歴史的トレンドと現在のトレンドを対比している。
• 記号的推論が深層学習システムにおける役割、特に用語の書き換え、論理的演繹、文法実行などのタスクにおける役割を検討している。
• 深層学習モデルがRDF や一階論理などの形式論理に対して演繹的推論を実行できるかどうかの可能性を調査している。
• 段階的な論理的洗練度の向上をテストする実験的道筋を提案している。具体的には、フラットなメタデータタグから、schema.orgのような階層的知識ベースへと段階的に進化させる。
• 論理的結果を分類または回帰するように訓練された神経ネットワーク（深層演繹推論器）が、将来のNeSyシステムのコアコンponentとしての可能性を評価している。

実験結果

リサーチクエスチョン

• RQ1 主要な会議で発表された現在のNeSy AI研究は、単純な記号的演算とは対照的に、どれほど複雑な形式論理を統合しているのか？
• RQ2 深層学習システムは、論理的演繹や用語の書き換えといった、よく理解された記号操作タスクを体系的に学習できるのか？
• RQ3 事実から階層的分類へと進化する論理的洗練度の向上が、NeSy AIシステムのパフォーマンスと頑健性をどのように向上させるのか？
• RQ4 形式論理の上での演繹的推論を実行するように訓練された深層ニューラルネットワークのスケーラビリティとパフォーマンス制限は何か？
• RQ5 説明可能性と正しさの観点から、深層学習と記号的推論を真の「両者の長所を組み合わせた」統合を達成する道筋は存在するのか？

主な発見

• 20年前と比較して、最近のNeSy AI研究では複雑な論理の使用が増加しているが、依然として多くの研究が非論理的記号的レベルで動作している。
• 深層学習システムは、論理の複雑さが増すと演繹的推論タスクに苦戦しており、スケーラビリティと学習の課題が顕著に現れている。
• キーワードなどのフラットなメタデータタグを用いたシステムは、階層的アノテーションを組み込むことで改善可能であり、より洗練された論理的背景知識が段階的な向上をもたらす可能性を示している。
• RDF や schema.org といったセマンティックウェブ論理の統合は、基本的なNeSy AI能力を開発するための有望でスケーラブルな実験フィールドを提供している。
• 深層演繹推論器—論理的結果を推論するように訓練されたニューラルモデル—は初期段階で一定の可能性を示しているが、複雑な形式系では性能と一般化能力に限界がある。
• 頑健で説明可能かつスケーラブルなAIシステムを実現するためには、NeSy AIにおける論理的洗練度の体系的で段階的な探求が不可欠である。