[論文レビュー] Artificial general intelligence through recursive data compression and grounded reasoning: a position paper

Arthur Franz|arXiv (Cornell University)|Jun 14, 2015

AI-based Problem Solving and Planning参考文献 5被引用数 3

ひとこと要約

本論文は、再帰的データ圧縮と根拠のある推論に基づく人工汎用知能（AGI）のフレームワークを提案する。一般の圧縮アルゴリズム—柔軟で適応可能な仮説によって導かれるもの—が、データの単純で直交する表現を抽出できることを主張する。これにより、形式論理を用いずに、直接的に圧縮されたシーンモデルを照会することで、資源的で日常的な推論が可能になる。

ABSTRACT

This paper presents a tentative outline for the construction of an artificial, generally intelligent system (AGI). It is argued that building a general data compression algorithm solving all problems up to a complexity threshold should be the main thrust of research. A measure for partial progress in AGI is suggested. Although the details are far from being clear, some general properties for a general compression algorithm are fleshed out. Its inductive bias should be flexible and adapt to the input data while constantly searching for a simple, orthogonal and complete set of hypotheses explaining the data. It should recursively reduce the size of its representations thereby compressing the data increasingly at every iteration. Abstract Based on that fundamental ability, a grounded reasoning system is proposed. It is argued how grounding and flexible feature bases made of hypotheses allow for resourceful thinking. While the simulation of representation contents on the mental stage accounts for much of the power of propositional logic, compression leads to simple sets of hypotheses that allow the detection and verification of universally quantified statements. Abstract Together, it is highlighted how general compression and grounded reasoning could account for the birth and growth of first concepts about the world and the commonsense reasoning about them.

研究の動機と目的

• 人工汎用知能（AGI）を達成するための中心的研究テーマとして、一般のデータ圧縮を確立すること。
• 複雑な系列の圧縮可能性を通じて、AGIにおける部分的進歩を測定可能な基準として定義すること。
• 再帰的圧縮と根拠のある特徴抽出を通じて、世界について学習・推論できるシステムを開発すること。
• 形式論理の日常的推論における制限を乗り越えるために、圧縮可能で知覚的に意味のある表現に推論を根拠づけること。
• 明示的な規則ベースの演繹を用いずに、圧縮されたシーンモデルを活用して普遍的量化と関係的推論を可能にすること。

提案手法

• 最適な圧縮の理論的基盤としてソロモンoffの普遍的事前分布を使用し、観察されたデータを説明する短く単純なプログラムを優先する。
• 繰り返しデータ表現のサイズを縮小することで、直交的でデータ依存の仮説を特定・精錬する再帰的圧縮プロセスを実装する。
• 仮説から柔軟な特徴基底を構築し、入力データに適応することで、説明のための探索空間を動的に拡張可能にする。
• 形式的演繹を経由せずに、圧縮表現に直接照会することで、空間的・関係的・構造的性質に関する推論を根拠づける。
• 圧縮率の指標を進捗の測定に用い、圧縮率の向上がより良い一般化と仮説の質を示すものとする。
• 複雑なクエリ（例：対角線や空間的関係に関するもの）を圧縮モデルから直接回答できることを、推論能力のテストとする。

実験結果

リサーチクエスチョン

• RQ1 一般用途のデータ圧縮アルゴリズムは、人工汎用知能（AGI）を達成するためのコアメカニズムとして機能できるか？
• RQ2 圧縮に基づくシステムは、形式論理や事前に定義された規則に依存せずに、日常的推論をどのように支援できるか？
• RQ3 AGIへの部分的進歩を定義する基準は何か？ そして、それらはどのように定量的に測定できるか？
• RQ4 一般化の脆さ（例：規則が失敗する境界ケース）をシステムはどのように検出し、処理できるか？
• RQ5 根拠のある、圧縮可能な表現は、複雑なシーンにおける普遍的量化と関係的推論をどの程度サポートできるか？

主な発見

• データ表現のサイズを再帰的に縮小しながら説明力の維持を図る一般圧縮アルゴリズムは、AGIの基盤として機能しうる。
• 圧縮率は、AGIへの進捗を示す妥当で測定可能な指標であり、圧縮率の向上はより優れた仮説の質を示す。
• 根拠のある推論—例：「正方形の対角線は真ん中で交わるか？」のようなクエリへの回答—は、形式的演繹を経由せずに、直接的に圧縮モデルから得られる。
• システムは、圧縮表現における構造的一致性を通じて、普遍的量化された文（例：「above(a,b) ならば below(b,a)」）を検出し、検証できる。
• 従来の形式的論理システムは空間的関係を記述するため、知識ベースのサイズが指数関数的に増大するが、圧縮モデルはシーンの複雑さに伴いより効率的にスケーリングする。
• 一般化の脆さ（例：系列の開始部で失敗する場合）は、仮説の誤りとして扱うことで対処でき、再帰的圧縮を通じて自己修正学習が可能になる。