[論文レビュー] D-optimal Bayesian Interrogation for Parameter and Noise Identification of Recurrent Neural Networks

Barnabás Póczos, András Lörincz|ArXiv.org|Jan 12, 2008

Fault Detection and Control Systems参考文献 14被引用数 3

ひとこと要約

本稿は、再帰的ニューラルネットワーク（RNN）におけるパラメータおよび加法的ノイズのオンライン同定のためのD最適ベイズ的インターオゲーションフレームワークを提案する。D最適性（情報最大化）の原則を適用することで、パラメータ推定およびノイズ分散推定の両方について、近似を伴わない二次的更新ルールを効率的に導出する。この結果、二つのタスクにおける最適なスティムラの根本的な不適合性が明らかになった。

ABSTRACT

We introduce a novel online Bayesian method for the identification of a family of noisy recurrent neural networks (RNNs). We develop Bayesian active learning technique in order to optimize the interrogating stimuli given past experiences. In particular, we consider the unknown parameters as stochastic variables and use the D-optimality principle, also known as `\emph{infomax method}', to choose optimal stimuli. We apply a greedy technique to maximize the information gain concerning network parameters at each time step. We also derive the D-optimal estimation of the additive noise that perturbs the dynamical system of the RNN. Our analytical results are approximation-free. The analytic derivation gives rise to attractive quadratic update rules.

研究の動機と目的

• 確率的再帰的ニューラルネットワークにおけるパラメータおよびノイズの同定のためのオンラインベイズ的アクティブラーニング手法の開発。
• 未知のRNNパラメータに関する情報量を最大化するように、リアルタイムでインターオゲーションスティムラを最適化。
• D最適性を用いて、RNNダイナミクスにおける加法的駆動ノイズの共分散を推定。
• パラメータ推定のための最適スティムラが、ノイズ推定のための最適スティムラであるかどうかの調査。
• 両推定タスクのための解析的に取り扱いやすく、近似を伴わない学習ルールの導出。

提案手法

• RNNダイナミクスを、加法的i.i.d.ガウスノイズを伴う非線形確率的システムとしてモデル化。
• 共役事前分布を用いたオンラインベイズ推論：RNN重みには行列ノームラ分布、ノイズ共分散には逆ウィシャート分布を適用。
• D最適性（情報最大化）の原則を適用し、事後フィッシャー情報行列の行列式を最大化する制御入力を選択。
• パラメータおよびノイズ共分散推定の両方について、グリーディで閉形式の二次的更新ルールを導出。
• D最適探索とノイズ固有の制御を組み合わせた、非グリーディなヒューリスティックな「τ-情報最大化ノイズインターオゲーション」スキームを提案。
• τ-情報最大化手法の実用的近似として、「τゼロインターオゲーション」スキームを導入。

実験結果

リサーチクエスチョン

• RQ1 D最適ベイズ的インターオゲーションを用いて、RNNパラメータとその駆動ノイズを同時に同定できるか？
• RQ2 パラメータ推定のための最適制御信号は、ノイズ分散推定のための最適信号であるか？
• RQ3 このRNNモデルにおけるオンラインベイズラーニングのための解析的・近似を伴わない更新ルールは何か？
• RQ4 非グリーディでマルチステップ先読み戦略は、ノイズ推定性能を向上させられるか？
• RQ5 パラメータとノイズのためのD最適制御ルールは、構造的・挙動的にどのように異なるか？

主な発見

• パラメータ推定のためのD最適制御は、事後フィッシャー情報行列の行列式を最大化することで、グリーディで二次的更新ルールを導く。
• ノイズ推定のためのD最適制御は、同じ行列式表現を最小化することで、別個で補完的な二次的更新ルールを導く。
• パラメータ推定とノイズ推定のための最適スティムラは根本的に不適合である：ある制御信号がパラメータに関する情報を最大にする一方で、ノイズに関する情報を最小化し、逆もまた然りである。
• 提案されたτ-情報最大化ノイズインターオゲーションヒューリスティックは、D最適探索とターゲットドノイズ推定を組み合わせることで、RNN係数およびノイズ分散の推定誤差を低減する。
• τゼロインターオゲーションスキームは、大きなτ値においてτ-情報最大化スキームの良好な近似となり、実装を簡素化する。
• すべての導出は近似を伴わず、解析的に取り扱いやすく、二次的更新ルールをもたらし、効率的なオンライン学習を可能にする。