[論文レビュー] Neural Networks, Game Theory and Time Series Generation

Richard Metzler|arXiv (Cornell University)|Dec 19, 2002

Neural Networks and Applications参考文献 73被引用数 3

ひとこと要約

本学位論文は、ニューラルネットワーク、ゲーム理論、時系列生成の相互作用を調査し、標準的な予測アルゴリズムを欺く「反予測可能（antipredictable）」時系列を導入する。単純なパーセプトロンと連続的パーセプトロン、意思決定表、少数派ゲームの変種を分析し、ゼロサムゲームにおいてニューラルエージェントが最適戦略を学習する仕組みや、学習系における複雑でカオス的なダイナミクスの発生を示す。

ABSTRACT

This dissertation highlights connections between the fields of neural networks, game theory and time series generation. The concept of antipredictability is explained, and the properties of time series that are antipredictable for several prototypical prediction algorithms (neural networks, Boolean funtions etc.) are studied. The Minority Game provides a framework in which antipredictability arises naturally. Several variations of the MG are introduced and compared, including extensions to more than two choices, and the properties of the generated time series are analysed. A learning algorithm is presented by which a neural network can find a good mixed strategy in zero-sum matrix games. In a certain limit, this algorithm is a stochastic variation of the "fictitious play" learning algorithm.

研究の動機と目的

• 特定のアルゴリズムを欺く反予測可能時系列を構築することで、時系列予測の限界を理解すること。
• 特にヒブス学習を用いたパーセプトロンによる生成時系列の動的および統計的性質を分析すること。
• 連続的パーセプトロンと意思決定表において、カオスや間欠的ダイナミクスを含む複雑な行動の出現を調査すること。
• ニューラルネットワークと学習ルールが2人ゼロサムゲームにおいてナッシュ均衡に収束する仕組みを調査すること。
• 少数派ゲームを多選択設定に一般化し、確率的およびニューラル戦略が集団的意思決定に果たす役割を研究すること。

提案手法

• ヘビアン学習ルールを用いた単純および連続的パーセプトロンを用い、自己相関関数を制御可能なバイナリおよび連続的時系列を生成する。
• 平均場理論とリャプノフ指数の計算を用いて、連続的パーセプトロンにおけるカオス的ダイナミクスを分析する。
• デ・ブルイーングラフとグラフ理論的手法を用いて、意思決定表と反パーサービエンス時系列のサイクル構造を分析する。
• 少数派ゲームに確率的戦略を導入し、小規模および大規模な集団に対して解析的に解を求める。
• 行列ゲームに適応したヘビアン学習ルールを用い、ゼロサムゲームにおけるナッシュ均衡戦略への収束を示す。
• モンテカルロシミュレーションと解析的近似を用いて、高次元および複雑な系における結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 特定の予測アルゴリズムによって本質的に予測不能な時系列の構造的および動的性質は何か？
• RQ2 生成時系列の自己相関構造と、パーセプトロンの重みダイナミクスおよび出力統計の関係は何か？
• RQ3 サイクル長とアトラクタ次元は、ニューラル時系列の予測可能性およびカオス的挙動にどのように寄与するか？
• RQ4 少数派ゲームにおける確率的およびニューラル戦略は最適性能に到達可能か？また、ランダムまたは進化的戦略と比較してどう異なるか？
• RQ5 2人ゼロサムゲームにおけるヘビアン学習は、どの程度ナッシュ均衡を近似可能か？

主な発見

• 任意の予測アルゴリズムに対して反予測可能時系列が存在し、相関の抑制や複雑なサイクル構造といった特性により、標準的予測器を欺く。
• ヘビアン学習を用いた単純パーセプトロンに基づく「混乱ビットジェネレータ（CBG）」は、自己相関関数を調整可能なバイナリ系列を生成可能である。
• 連続的パーセプトロンは、正のリャプノフ指数と間欠的挙動を示す高次元カオス的ダイナミクスを示し、特に大規模システムと高利得の場合顕著である。
• 動的反パーサービエンスを持つ意思決定表は、予測可能なサイクル長と分布を持つ時系列を生成でき、デ・ブルイーングラフを用いて解析可能である。
• 少数派ゲームにおける確率的戦略は解析的解を有し、ノイズに対して頑健であり、決定論的戦略と同等の性能を示す。
• 2人ゲームにおけるヘビアンベースの学習ルールは、特に小規模なペイオフ行列においてナッシュ均衡に近似可能であり、修正されたルールを用いることでバイアス付きパターン学習に一般化可能である。