[論文レビュー] Cognitive systems evolve complex representations for adaptive behavior

Lars Marstaller, Arend Hintze+1 more|arXiv (Cornell University)|Jun 25, 2012

Neural dynamics and brain function参考文献 48被引用数 5

ひとこと要約

本論文は、適応的システムにおける認知的表象を定量化するための形式的・情報理論的測度 R を提案する。遺伝的アルゴリズムを用いて再帰的ニューラルネットワークおよび隠れマルコフゲートネットワークを進化させることで、表象能力 R が進化の過程や個体の生涯にわたり増加することを示し、成功した認知的システムは環境を効果的にモデル化するためには正の R を維持している必要があることを明らかにした。

ABSTRACT

Representations are internal models of the world that provide context to a sensory stream and are formed over evolutionary time as well as learned. We argue here that representations are the expected consequence of an adaptive process, give a formal definition of representation based on information theory, and quantify it using our new measure R. To measure how R changes over time, we evolve two types of networks—a recurrent artificial neural network and a network of hidden Markov gates—to solve a categorization task using a Genetic Algorithm. We find that the capacity to represent increases during evolutionary adaptation and that representations build up during the lifetime of these agents. We examine the concepts that are being represented, how they are logically encoded in the networks, and how they form as an agent behaves to solve a task. We conclude that any successful cognitive system that represents its environment within internal states should have a positive R.

研究の動機と目的

• 情報理論を用いて認知的システムにおける表象の概念を形式化すること。
• システムが内部表象を形成する能力を捉えることができる定量的測度 R を開発すること。
• 適応的エージェントの進化的および発達的プロセスにおいて、表象が時間経過とともにどのように変化するかを調査すること。
• タスク解決行動の過程で、論理的符号化および概念の出現がニューラルネットワーク内でする方法を検討すること。

提案手法

• 情報理論を用いて表象を形式的に定義し、R を表象能力の測度として確立する。
• 分類タスクを解くために、遺伝的アルゴリズムを用いて再帰的人工ニューラルネットワークおよび隠れマルコフゲートネットワークの2つのネットワークアーキテクチャを進化させる。
• R の時間的変化を測定することで、進化および個体エージェントの生涯にわたる表象複雑性の発展を追跡する。
• 進化したエージェントの内部状態を分析し、特定の概念がどのように符号化され、行動的相互作用を通じて表象が出現するかを同定する。
• 情報理論的手法を用いて、感覚入力と内部状態の間の相互情報量を定量化し、R の基礎を形成する。
• 異なるネットワークタイプにおける R の増加を比較することで、アーキテクチャが表象形成に果たす役割を評価する。

実験結果

リサーチクエスチョン

• RQ1 認知的システムの進化的適応過程において、表象能力 R はどのように変化するか？
• RQ2 表象は、事前に設定されたものではなく、エージェントの生涯にわたり蓄積される程度はどの程度か？
• RQ3 進化したネットワークの内部状態に表象される概念の論理的構造は何か？
• RQ4 再帰的ネットワークと隠れマルコフゲートネットワークという異なるネットワークアーキテクチャは、R の発展にどのように影響を与えるか？
• RQ5 タスクパフォーマンスと認知的システムにおける正の R の出現の関係は何か？

主な発見

• R は進化的適応の過程で顕著に増加しており、認知的システムにおける表象能力の向上を示している。
• 個体エージェントの生涯にわたり表象能力 R が増加しており、表象が静的ではなく相互作用を通じて発展することを示している。
• 進化したネットワークの内部状態は、環境との行動的相互作用から生じる論理的に整合性のある概念を符号化している。
• 再帰的ニューラルネットワークおよび隠れマルコフゲートネットワークの両方とも、時間の経過とともに R が増加しており、表象形成が適応的システムの一般的性質であることを示唆している。
• 本研究は、成功した認知的システムが、環境を効果的にモデル化・適応するためには正の R を維持している必要があることを確認した。
• 複雑な表象の出現は、分類タスクを解く能力と直接関連しており、R は表象の洗練度を信頼性高く示す指標であることがわかった。