[論文レビュー] IBSEAD: - A Self-Evolving Self-Obsessed Learning Algorithm for Machine Learning

Jitesh Dundas, David Chik|arXiv (Cornell University)|Jun 30, 2011

Machine Learning and Data Classification参考文献 14被引用数 6

ひとこと要約

IBSEADは、動的環境において相互作用する自律的エージェントをモデル化し、既知の、未知の、見えないエージェントを明示的に扱う自己進化型・自己中心的学習アルゴリズムを提案する。これにより、想像や新奇性といった人間らしい認知プロセスのシミュレーションが向上する。第三者的および見えない相互作用を組み込むことで、意思決定木や隠れマルコフモデルといった従来のアルゴリズムを上回り、複雑で変化し続ける状況における精度が向上する。

ABSTRACT

We present IBSEAD or distributed autonomous entity systems based Interaction - a learning algorithm for the computer to self-evolve in a self-obsessed manner. This learning algorithm will present the computer to look at the internal and external environment in series of independent entities, which will interact with each other, with and/or without knowledge of the computer's brain. When a learning algorithm interacts, it does so by detecting and understanding the entities in the human algorithm. However, the problem with this approach is that the algorithm does not consider the interaction of the third party or unknown entities, which may be interacting with each other. These unknown entities in their interaction with the non-computer entities make an effect in the environment that influences the information and the behaviour of the computer brain. Such details and the ability to process the dynamic and unsettling nature of these interactions are absent in the current learning algorithm such as the decision tree learning algorithm. IBSEAD is able to evaluate and consider such algorithms and thus give us a better accuracy in simulation of the highly evolved nature of the human brain. Processes such as dreams, imagination and novelty, that exist in humans are not fully simulated by the existing learning algorithms. Also, Hidden Markov models (HMM) are useful in finding "hidden" entities, which may be known or unknown. However, this model fails to consider the case of unknown entities which maybe unclear or unknown. IBSEAD is better because it considers three types of entities- known, unknown and invisible. We present our case with a comparison of existing algorithms in known environments and cases and present the results of the experiments using dry run of the simulated runs of the existing machine learning algorithms versus IBSEAD.

研究の動機と目的

• 既存の機械学習アルゴリズムが環境に影響を与える第三者または未知の要因をモデル化できないという限界を解決すること。
• 意思決定木や隠れマルコフモデルが、システム行動に影響を与える動的で検出不能な相互作用を扱えないという問題を克服すること。
• 複数エージェント間の相互作用フレームワークを通じて、夢や想像、新奇性といった高次的人間認知機能をシミュレートすること。
• 自律的エージェント間の内部的および外部的環境相互作用を観察することで、自己進化する学習アルゴリズムを開発すること。
• 見えない要因や未知の要因を学習プロセスに統合することで、複雑で変化し続けるシステムのシミュレーション精度を向上させること。

提案手法

• エージェントが独立的かつ動的に相互作用する分散型自律的エージェントネットワークとして環境をモデル化すること。
• 3種類のエージェントタイプを導入：既知（明示的に特定可能）、未知（存在はするが特定不能）、見えない（直接検出されないがシステムに影響を及ぼす）。
• エージェントが他のエージェントとの相互作用、特にコンピュータの内部モデルに含まれないものも含めて検出・解釈できるようにすることで、自己観察と自己進化を可能にすること。
• 外部システムや脳構造の完全な知識がなくても、相互作用に基づく学習によって内部表現を更新する仕組みを採用すること。
• 特に未知または見えないエージェントからの第三者相互作用のフィードバックを学習プロセスに統合し、適応性を向上させること。
• 観察可能なデータを超えた潜在的相互作用の内部モデル生成を許可することで、想像や新奇性といった認知現象をシミュレートすること。

実験結果

リサーチクエスチョン

• RQ1 機械学習アルゴリズムは、環境ダイナミクスに影響を与える未知および見えない要因をどのようによりよく扱えるか？
• RQ2 自己中心的・自己進化型の学習システムは、従来のモデルと比較して、複雑で変化し続けるシステムのシミュレーション精度をどの程度向上できるか？
• RQ3 自律的エージェント間の相互作用に基づく学習は、想像や新奇性といった人間らしい認知機能をシミュレートできるか？
• RQ4 第三者相互作用、特に未知の要因を含む相互作用は、機械学習システムの行動と学習にどのように影響を与えるか？
• RQ5 従来のモデル（意思決定木や隠れマルコフモデル）と比較して、複数エージェントフレームワーク（既知・未知・見えない）が示す利点は何か？

主な発見

• IBSEADは、意思決定木やHMMといった従来のアルゴリズムが対応できない未知および見えない要因を含む相互作用を効果的にモデル化した。
• 見えない相互作用や第三者の相互作用を組み込むことで、動的環境におけるシミュレーション精度が向上した。
• システム自体を自己観察可能なエージェントとして扱うことで、内部および外部のフィードバックループを通じた自己進化が可能になった。
• 本フレームワークは、夢や想像といった高次認知機能のシミュレーションを可能にし、標準的な機械学習モデルには欠落している。
• ドライランシミュレーションでは、未知の相互作用が結果に大きな影響を与える複雑で変化し続ける状況において、IBSEADが既存のアルゴリズムを上回った。
• 見えない要因の統合により、予測不能または不安定な環境においても、より強固で適応性の高い学習行動が得られた。