[論文レビュー] Dimensions of Neural-symbolic Integration - A Structured Survey

Sebastian Bader, Pascal Hitzler|ArXiv.org|Nov 10, 2005

Neural Networks and Applications参考文献 84被引用数 61

ひとこと要約

本論文は、ニューラルシンボリック統合に関する構造的サーベイを提示し、多様なシンボリックAIと接続主義的学習を統合するアプローチを整理するための多次元分類フレームワークを提案する。知識表現、学習、推論における主な課題を特定し、一階論理の統合を命題論理を超えて進めるために実用的応用事例の必要性を強調する。

ABSTRACT

Research on integrated neural-symbolic systems has made significant progress in the recent past. In particular the understanding of ways to deal with symbolic knowledge within connectionist systems (also called artificial neural networks) has reached a critical mass which enables the community to strive for applicable implementations and use cases. Recent work has covered a great variety of logics used in artificial intelligence and provides a multitude of techniques for dealing with them within the context of artificial neural networks. We present a comprehensive survey of the field of neural-symbolic integration, including a new classification of system according to their architectures and abilities.

研究の動機と目的

• 純粋なシンボリックAIシステムと純粋な接続主義的AIシステムの限界を克服し、両者の長所を統合すること。
• ここ数十年にわたり登場したニューラルシンボリック統合の多様なアプローチを特定・分類すること。
• 一階論理統合、知識抽出、システム安定性における未解決の課題を浮き彫りにすること。
• 理論的基盤を越えて分野を前進させるために、応用指向の研究を推進すること。
• ニューラルシンボリックAI分野の研究者を対象に、包括的な文献概要と分類スキームを提供すること。

提案手法

• 知識表現、学習、推論といった統合の主要側面に基づき、ニューラルシンボリックシステムの多次元分類スキームを提案する。
• マッカラフ・ピッツネットワーク、RAAM、SHRUTI、モデル生成のためのコアメソッドといった基礎的システムをレビューする。
• ニューラルシンボリック学習サイクル（シンボリック入力 → ニューラル訓練 → シンボリック知識抽出）を分析する。
• 背景知識が学習をガイドし、ノイズの多いデータ環境での一般化性能を向上させる役割を強調する。
• 特に再帰的および一階論理統合における現在の手法のギャップを特定する。
• 統合の頑健性を向上させるために、形式的翻訳手法と生物学的インスピレーションに基づく設計を求める。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてシンボリック知識を人工ニューラルネットワーク内に効果的に表現・処理できるか？
• RQ2 既存のニューラルシンボリック統合アプローチを区別する主な次元は何であるか？
• RQ3 なぜニューラルシンボリックシステムにおける一階論理統合は依然として主要な未解決課題のままであるのか？
• RQ4 訓練済みニューラルネットワークから抽出された知識を、シンボリック形式で理解可能で、妥当かつ再利用可能なものとするにはどうすればよいか？
• RQ5 命題論理を超えて強固なニューラルシンボリックシステムの開発を促進するための実用的応用シナリオは何か？

主な発見

• ニューラルシンボリック統合により、ニューラルネットワークの頑健性とシンボリック推論の表現力・解釈可能性を併せ持つシステムが実現可能になる。
• 命題論理統合においては顕著な進展が見られたが、一階論理統合は依然としてほとんど未開拓であり、方法論的に未発達の状態である。
• 訓練済みネットワークからの知識抽出は、正確性、規則の理解可能性、妥当性の観点からまだ満足のいくものではない。
• シンボリック入力 → ニューラル訓練 → シンボリック出力というニューラルシンボリック学習サイクルは中心的なフレームワークのままだが、すべての段階を効果的に実装しているシステムは少ない。
• 現在のシステムは主に理論的原則に基づいて設計されており、現実世界の複雑なデータ応用にはまだ適していない。
• 分野は理論的成熟に達したが、基礎的研究を越えて前進させるには、応用指向の研究が不可欠である。