[論文レビュー] Information Compression, Intelligence, Computing, and Mathematics

J. Gerard Wolff|arXiv (Cornell University)|Oct 31, 2013

Computability, Logic, AI Algorithms参考文献 32被引用数 7

ひとこと要約

本論文は、パターンマッチングおよび統合による情報圧縮が、人工知能、人間の認知、計算、数学の多くを規定すると提案する。SP知能理論を提示し、パターン統合による圧縮が、多様な分野における知識表現、学習、知覚、計算の効率化を可能にすることを示す。

ABSTRACT

This paper presents evidence for the idea that much of artificial intelligence, human perception and cognition, mainstream computing, and mathematics, may be understood as compression of information via the matching and unification of patterns. This is the basis for the "SP theory of intelligence", outlined in the paper and fully described elsewhere. Relevant evidence may be seen: in empirical support for the SP theory; in some advantages of information compression (IC) in terms of biology and engineering; in our use of shorthands and ordinary words in language; in how we merge successive views of any one thing; in visual recognition; in binocular vision; in visual adaptation; in how we learn lexical and grammatical structures in language; and in perceptual constancies. IC via the matching and unification of patterns may be seen in both computing and mathematics: in IC via equations; in the matching and unification of names; in the reduction or removal of redundancy from unary numbers; in the workings of Post's Canonical System and the transition function in the Universal Turing Machine; in the way computers retrieve information from memory; in systems like Prolog; and in the query-by-example technique for information retrieval. The chunking-with-codes technique for IC may be seen in the use of named functions to avoid repetition of computer code. The schema-plus-correction technique may be seen in functions with parameters and in the use of classes in object-oriented programming. And the run-length coding technique may be seen in multiplication, in division, and in several other devices in mathematics and computing. The SP theory resolves the apparent paradox of "decompression by compression". And computing and cognition as IC is compatible with the uses of redundancy in such things as backup copies to safeguard data and understanding speech in a noisy environment.

研究の動機と目的

• パターンマッチングおよび統合による情報圧縮を、人工知能、人間の認知、計算、数学の分野において統一的原則として確立すること。
• 圧縮によって「展開する」現象という見かけのパラドックスを解消し、圧縮表現が効率的な検索および推論を可能にすることを示すこと。
• 冗長性—しばしば圧縮とは相反すると見なされるが—が、エラー耐性やデータバックアップの応用において、SP理論と調和し、むしろそれを可能にしていることを示すこと。
• 情報圧縮の根本的メカニズム（ICMUP）が、伝統的な公理的体系に依存せず、数学そのものの基盤として機能しうることを主張すること。
• 知覚、言語、プログラミング、形式的体系からの多様な例を通じて、SP理論の理論的および実証的根拠を提供すること。

提案手法

• 情報圧縮によるパターンの一致と統合（ICMUP）を、情報内の冗長性を低減するための中心的メカニズムとして提案する。
• 類似した感覚入力を統合することで、二眼視覚、視覚的適応、知覚的安定性といった知覚のモデルを構築し、ICMUPを適用する。
• 言語における語彙的・文法的構造が繰り返しのパターン統合によって生じ、複雑な概念の短縮表現として機能することを示す。
• パターンマッチングおよび統合を用いて、データベース検索、Prolog推論、例による照会といった計算プロセスをモデル化する。
• コードによるチャンク化（関数）、スキーマ＋補正（パラメータ化関数およびクラス）、ランレングス符号化（乗算、除算）といった圧縮技術を、ICMUPの具体例として示す。
• SPコンピュータモデルを用いて知能的行動をシミュレートし、圧縮が予測、学習、誤り訂正を可能にすることを示す。

実験結果

リサーチクエスチョン

• RQ1 パターン統合による情報圧縮は、人間の知覚および認知の核となる側面をどのように説明できるか？
• RQ2 パターンベースの圧縮は、データベース検索や記号的推論といった計算分野の基本的メカニズムをどのように規定するか？
• RQ3 エラー耐性（例：騒音の中での会話）における冗長性の役割と、情報圧縮における冗長性の最小化という目標を、SP理論はどのように調和させられるか？
• RQ4 ICMUPの原則が、伝統的な公理的体系に依存せず、数学そのものの基盤として機能しうるか？
• RQ5 SP理論は、知能システムにおける『圧縮による展開』というパラドックスをどの程度解消できるか？

主な発見

• SP理論は、パターンマッチングおよび統合による情報圧縮というメカニズムを通じて、人工知能、認知、計算、数学における多様な現象を統一的に説明する。
• パターン統合は、連続する視界の統合、二眼視覚、視覚的適応といった知覚現象を説明でき、入力の変化にもかかわらず安定した知覚を可能にする。
• 言語における短縮表現やプログラミングにおける関数がICMUPの具体例であることが示され、冗長性の低減と効率の向上が達成される。
• Prolog、例による照会、ユニバーサルチューリングマシンの遷移関数といった計算メカニズムは、情報検索および計算におけるICMUPの応用として解釈される。
• 乗算や除算といった数学的演算は、ランレングス符号化技術として解釈され、圧縮原理が形式的体系の根幹をなしていることを示している。
• SP理論は、圧縮表現が依然として強固で誤り耐性のある検索および推論を可能にすることを示すことによって、『圧縮による展開』というパラドックスを解消する。