[論文レビュー] Unifying Computing and Cognition: The SP Theory and its Applications

J. Gerard Wolff|ArXiv.org|Jan 13, 2004

Computability, Logic, AI Algorithms参考文献 224被引用数 19

ひとこと要約

本稿では、情報圧縮、複数一致、確率的推論を統合することで、計算と認知を統一する枠組みとしてSP（球面的認知、Spherical Perception）理論を提案する。SPフレームワークは、情報の冗長性を最小限に抑えることで、自然言語処理、診断、計画、学習といった多様な認知的タスクをサポートでき、直列処理における計算複雑度はO(n·m)、並列環境におけるものもO(n)であることが示されている。

ABSTRACT

This book develops the conjecture that all kinds of information processing in computers and in brains may usefully be understood as "information compression by multiple alignment, unification and search". This "SP theory", which has been under development since 1987, provides a unified view of such things as the workings of a universal Turing machine, the nature of 'knowledge', the interpretation and production of natural language, pattern recognition and best-match information retrieval, several kinds of probabilistic reasoning, planning and problem solving, unsupervised learning, and a range of concepts in mathematics and logic. The theory also provides a basis for the design of an 'SP' computer with several potential advantages compared with traditional digital computers.

研究の動機と目的

• 情報圧縮、パターン認識、推論を統合する計算と認知の統一的理論の構築を目的とする。
• 既存のモデルが認知的タスクにおける曖昧さ、冗長性、不確実性を扱う際の限界を解決することを目的とする。
• 自然言語処理、医療診断、教師なし学習を含む多様な分野へのSP理論の適用可能性を示すこと。
• 情報理論と確率論に基づく形式的かつ計算的に効率的な枠組みを確立すること。
• SP理論の視点から神経的妥当性を検討し、物理的概念の再解釈の可能性を探ること。

提案手法

• 知識の表現と推論に、記号的構造の複数一致を用い、情報の冗長性を最小限に抑える。
• 情報圧縮を統一的原則として適用：より短く、より圧縮された表現が好まれる。これはオッカムの剃刀に一致する。
• 圧縮効率に基づく複数一致の確率的評価を採用し、確率は圧縮度に依存する。
• 直列処理ではO(n·m)、並列処理ではO(n)の時間複雑度を示す計算モデル（SP61）を用いる。
• 自然言語処理において、構造的および意味的コンポーネントを複数一致によって統合する。
• 神経的メカニズムに応用するため、脳における一致、学習、表現の生物学的に妥当なプロセスを提案する。

実験結果

リサーチクエスチョン

• RQ1 情報圧縮は、計算と認知を統一する原則としてどのように機能するか？
• RQ2 複数一致と圧縮に基づく推論は、言語理解や診断といった認知的プロセスのコアを再現可能か？
• RQ3 SPフレームワークの直列処理と並列処理環境における計算複雑度は何か？
• RQ4 ベイズネットワークに依存せずに、SP理論は非単調推論、帰納的推論、因果的診断をどのようにサポートするか？
• RQ5 SPフレームワークの一致、学習、表現のプロセスを支える神経的メカニズムは何か？

主な発見

• SPフレームワークは、直列処理でO(n·m)、並列処理でO(n)の時間複雑度を達成しており、実験的結果から実際には線形スケーリングが確認されている。
• 複数一致を用いることで、フランス語の構文的依存関係や英語の助動詞構造といった曖昧な言語的構造を効果的に処理できる。
• 圧縮に基づく一致を用いることで、医療診断と最良一致情報検索が効果的にモデル化され、部分-全体関係や継承関係が自然に表現されている。
• 圧縮に基づく評価により、帰納的推論と非単調推論がサポートされ、ベイズネットワークとは異なる代替手段を提供する。
• SPシステムは教師なし学習（SP70）においても強靭性を示し、自然言語データにおけるパターン発見が効果的に実現されている。
• 一致と学習のための神経的メカニズムが生物学的に妥当であると提案されており、記号的処理と脳機能を結びつける。