[論文レビュー] Cognitive Bias for Universal Algorithmic Intelligence

Alexey Potapov, S. A. Rodionov+2 more|arXiv (Cornell University)|Sep 19, 2012

Computability, Logic, AI Algorithms参考文献 19被引用数 3

ひとこと要約

本稿では、理論的に普遍的だが実用的でないモデルと、実用的ではあるが普遍的でない認知アーキテクチャの間のギャップを埋めるために、認知バイアス（事前分布と探索ヒューリスティクス）を汎用的アルゴリズム的知能モデルに統合することを提案する。普遍性を損なわずにこれらのバイアスを埋め込むことで、知覚、計画、心の理論といったメカニズムを通じて実用的で汎用的な人工一般知能（AGI）を実現可能にする。複数の認知機能においてその実現可能性が示された。

ABSTRACT

Existing theoretical universal algorithmic intelligence models are not practically realizable. More pragmatic approach to artificial general intelligence is based on cognitive architectures, which are, however, non-universal in sense that they can construct and use models of the environment only from Turing-incomplete model spaces. We believe that the way to the real AGI consists in bridging the gap between these two approaches. This is possible if one considers cognitive functions as a "cognitive bias" (priors and search heuristics) that should be incorporated into the models of universal algorithmic intelligence without violating their universality. Earlier reported results suiting this approach and its overall feasibility are discussed on the example of perception, planning, knowledge representation, attention, theory of mind, language, and some others.

研究の動機と目的

• 理論的に普遍的だが実用的でないアルゴリズム的知能モデルと、実用的で非普遍的な認知アーキテクチャの間のギャップを埋めること。
• 認知機能が「認知バイアス」（事前分布とヒューリスティクス）として形式化可能であり、アルゴリズム的知能の普遍性を損なわないことを示すこと。
• これらのバイアスを埋め込むことで、知覚、計画、知識表現といったAGIのコアなコンponentsにおける実世界への適用可能性が可能になることを示すこと。
• 普遍的知能モデルが人間のような認知メカニズムを形式的に整合的に統合できる統一されたフレームワークを確立すること。

提案手法

• 知覚、注意、言語といった認知機能を、構造化された事前分布と探索ヒューリスティクスとして形式化すること。
• 普遍的アルゴリズム的知能モデルにこれらの認知バイアスを埋め込むが、その普遍性を損なわないようにすること。
• アルゴリズム的確率とソロモンoff帰納法を基盤フレームワークとして用い、普遍性を維持しながらバイアスを統合すること。
• 従来の認知アーキテクチャではチューリング非完全なモデル空間を、バイアス統合によって普遍化すること。
• 計画、知識表現、心の理論の分野における事例研究を通じて、その実現可能性を示すこと。
• ドメイン固有のヒューリスティクスの導入にもかかわらず、モデルが普遍的学習と推論を継続可能であることを保証すること。

実験結果

リサーチクエスチョン

• RQ1 認知機能は、アルゴリズム的知能モデルの普遍性を保つ形で認知バイアスとして形式化可能か？
• RQ2 事前分布とヒューリスティクスは、普遍的モデルにどのように統合可能か？ その一般性は制限されないか？
• RQ3 認知バイアスは、理論的に普遍なフレームワーク内での実用的AGIの実現にどのような役割を果たすか？
• RQ4 知覚、計画、心の理論は、普遍的アルゴリズム的知能にどのようにバイアスとして実装可能か？
• RQ5 認知機能を構造的バイアスとして埋め込むことで、AGIにおいて普遍性と実用性の両立が可能か？

主な発見

• 知覚、計画、注意といった認知機能は、普遍的アルゴリズム的知能フレームワーク内において、認知バイアスとして成功裏にモデル化可能である。
• これらのバイアスの統合は、基礎となるアルゴリズム的モデルの普遍性を損なわず、任意の計算可能環境を学習可能な能力を維持する。
• 知識表現や心の理論を含む複数の認知分野において、本手法の実現可能性が示された。
• 抽象的な普遍性を具体的で学習可能なヒューリスティクスと事前分布に根ざさせることで、実用的AGIの実現が可能になる。
• 従来の認知アーキテクチャで使われるチューリング非完全なモデル空間であっても、バイアス統合によって普遍性を維持できる。
• 理論的普遍性と実用的認知機能の統合を通じて、実現可能な人工一般知能への道筋を提供する。