[論文レビュー] How a minimal learning agent can infer the existence of unobserved variables in a complex environment

Katja Ried, Benjamin Eva+2 more|arXiv (Cornell University)|Oct 15, 2019

Cognitive Science and Mapping被引用数 4

ひとこと要約

本論文では、複雑な環境において未観測の変数を、動的相互作用を通じて抽象的概念的表現を形成することで、自律的かつ自動的に推論する最小限の強化学習エージェントを提示する。エージェントの内部的意思決定構造により、これらの変数が操作的に特定可能となり、新規経験への一般化が著しく向上する。これにより、人工知能における抽象的概念形成の透明性、解釈可能性、かつ効果的なメカニズムを実証する。

ABSTRACT

According to a mainstream position in contemporary cognitive science and philosophy, the use of abstract compositional concepts is both a necessary and a sufficient condition for the presence of genuine thought. In this article, we show how the ability to develop and utilise abstract conceptual structures can be achieved by a particular kind of learning agents. More specifically, we provide and motivate a concrete operational definition of what it means for these agents to be in possession of abstract concepts, before presenting an explicit example of a minimal architecture that supports this capability. We then proceed to demonstrate how the existence of abstract conceptual structures can be operationally useful in the process of employing previously acquired knowledge in the face of new experiences, thereby vindicating the natural conjecture that the cognitive functions of abstraction and generalisation are closely related. Keywords: concept formation, projective simulation, reinforcement learning, transparent artificial intelligence, theory formation, explainable artificial intelligence (XAI)

研究の動機と目的

• 複雑な環境において、相互作用のみを通じて最小限の学習エージェントが未観測変数の存在を自律的に推論できるかを示すこと。
• エージェントの内部的意思決定プロセス内における抽象的概念的構造を操作的に定義・特定するための意味論を提供すること。
• このような抽象的変数の形成が、エージェントが過去の知識を新規の経験に一般化する能力を向上させることを示すこと。
• 外部の観察者が識別可能な概念的表現を通じてエージェントの推論を分析・理解できるようにすることで、透明性・解釈可能性の高い人工知能を推進すること。
• 説明可能なAI（XAI）および非記号的システムにおける記号的推論へ向かうため、自律的で概念的形成と相関検出を可能にする人工エージェントの基盤を築くこと。

提案手法

• エージェントは、設定（s ∈ S）、実験（e ∈ E）、実験結果の予測（p ∈ P）によって定義される構造的環境内で動作する。
• ラベル空間と、重み付き記憶リンクを通じて進化する内部的意思決定プロセスを持つ、修正されたプロジェクト型シミュレーション（PS）アーキテクチャを用いる。
• エージェントの記憶に潜在的な抽象的変数を表す中間的「クリップ」を導入する新規プロトコルを提案し、異なる設定と実験間で一貫したパターンの検出を可能にする。
• エージェントは、異なる設定において行動選択確率に安定的かつ再発的なパターンを検出することで変数を特定し、確率分布の類似性に基づく統計的基準を用いる。
• 変数の特定は、類似した行動選択確率分布を持つラベルをクラスタリングすることで操作化され、外部の観察者がエージェントの概念的表現を再構築可能となる。
• 学習ダイナミクスを拡張し、動的ラベルの統合と分割を可能にすることで、環境の複雑さに応じた適応的抽象化の粒度を実現する。

実験結果

リサーチクエスチョン

• RQ1 最小限の強化学習エージェントは、相互作用のみを通じて複雑な環境における未観測変数の存在を推論できるか？
• RQ2 エージェントが形成する抽象的概念的構造は、外部の観察者によってどのように操作的に定義・特定できるか？
• RQ3 識別可能な抽象的変数の存在が、以前に経験したことのない新規の設定に対するエージェントの一般化能力にどの程度向上効果をもたらすか？
• RQ4 エージェントの内部的概念的表現は、透明性・解釈可能性を備え、非記号的学習システムにおける説明可能なAI（XAI）を実現できるか？
• RQ5 エージェントのアーキテクチャは、環境からのフィードバックに応じて、進化する抽象化レベルをサポートするためにどのように動的に適応可能か？

主な発見

• エージェントは、異なる設定において行動選択確率分布に一貫したパターンを検出することで、隠れた未観測特徴を有する環境で抽象的変数を効果的に特定した。
• 類似した行動選択行動を示すラベルをクラスタリングすることで定義される抽象的変数の操作的定義により、外部の観察者がエージェントの概念的表現を高い忠実度で再構築可能である。
• 識別可能な抽象的変数を形成・利用するエージェントは、以前に経験したことのない新規の設定に直面した際、顕著に向上した一般化性能を示した。
• 識別可能な抽象的変数の存在と一般化性能の向上の間には、シミュレーションで実証された相関関係が確認され、学習における抽象化の実用的・認識論的価値が裏付けられた。
• 提案手法は、透明性・解釈可能性・コミュニケーション性を備えた人工知能の形態を実現し、従来のブラックボックス型強化学習エージェントとは明確に区別される。
• このフレームワークは、将来的に変数間の相関関係の検出や、抽象化粒度を最適化するためのエージェント内部アーキテクチャの動的適応を可能にする拡張が可能である。