[論文レビュー] Learning to segment temporal sequences by mixture of RNN experts with adaptive variance model

Jun Namikawa, Jun Tani|arXiv (Cornell University)|Jun 9, 2007

Neural Networks and Applications被引用数 1

ひとこと要約

本論文では、勾配降下法を用い、専門家ごとの分散を調整する修正された尤度関数を採用することで、時系列生成の性能を向上させる、可変分散を備えたRNN専門家混合モデルを提案する。この手法は、従来の手法が失敗する9つのリサージュ曲線間の複雑なマルコフ的スイッチングを成功裏に学習でき、実世界のセンサモータ制御時系列予測における一般化性能と応用性に優れている。

ABSTRACT

This paper proposes a novel learning method for a mixture of recurrent neural network (RNN) experts model, which can acquire the ability to generate desired sequences by dynamically switching between experts. Our method is based on maximum likelihood estimation, using a gradient descent algorithm. This approach is similar to that used in conventional methods; however, we modify the likelihood function by adding a mechanism to alter the variance for each expert. The proposed method is demonstrated to successfully learn Markov chain switching among a set of 9 Lissajous curves, for which the conventional method fails. The learning performance, analyzed in terms of the generalization capability, of the proposed method is also shown to be superior to that of the conventional method. With the addition of a gating network, the proposed method is successfully applied to the learning of sensory-motor flows for a small humanoid robot as a realistic problem of time series prediction and generation.

研究の動機と目的

• 非一様な分散を伴う複雑な時系列ダイナミクスを学習する際の従来のRNN専門家混合モデルの限界を克服すること。
• トレーニング中に専門家の分散を動的に調整することで、時系列生成における一般化性能を向上させること。
• リサージュ曲線のような合成時系列におけるマルコフ的スイッチング行動の有効なモデリングを可能にすること。
• ヒューマノイドロボットのセンサモータフロー学習のような実世界の時系列予測タスクへの応用を拡張すること。
• 合成的および実世界の設定において、固定分散専門家モデルに比べ、可変分散機構が果たす優位性を実証すること。

提案手法

• 各専門家ごとに可変分散機構を導入することで、標準尤度関数を修正し、トレーニング中に各専門家が出力の不確実性を調整できるようにする。
• 修正された尤度関数を最適化するための勾配降下法を用い、専門家混合モデルのエンドツーエンド学習を可能にする。
• モデル内の各専門家は、隠れ状態のダイナミクスに基づいて時系列を生成する再帰的ニューラルネットワークである。
• 各時刻における最も適切な専門家を選択するゲーティングネットワークを統合し、文脈依存のスイッチングを可能にする。
• 可変分散機構により、専門家は異なる時系列空間領域において、異なる信頼度で特化できるようになる。
• 専門家およびゲーティングネットワークと併せて分散パラメータを同時に学習するため、最尤推定を用いてモデルをトレーニングする。

実験結果

リサーチクエスチョン

• RQ1 可変分散機構を備えたRNN専門家混合モデルは、固定分散モデルに比べ、複雑な時系列の学習において優れた性能を示すか？
• RQ2 本手法は、従来の手法が失敗する9つのリサージュ曲線間のマルコフ的スイッチングをどの程度効果的にモデル化できるか？
• RQ3 可変分散モデルは、従来の専門家混合モデルに比べ、未学習の時系列に対する一般化性能がどの程度向上するか？
• RQ4 本モデルは、ヒューマノイドロボットの現実的なセンサモータ時系列を効果的に学習し、生成できるか？
• RQ5 ゲーティングネットワークと分散適応が、時系列生成品質およびトレーニング安定性に及ぼす影響は何か？

主な発見

• 提案手法は、従来のRNN専門家混合モデルが固定分散制約のため失敗する9つのリサージュ曲線間のマルコフ的スイッチングを成功裏に学習した。
• 未学習の時系列における性能向上が裏付けられており、従来手法に比べ、本モデルは優れた一般化能力を示した。
• 可変分散の導入により、多様な時系列ダイナミクスを異なる信頼度で捉える能力が顕著に向上した。
• ゲーティングネットワークの統合により、専門家の有効な動的スイッチングが実現され、時系列生成の正確性が向上した。
• 小型ヒューマノイドロボットにおけるセンサモータフローの学習に本手法を効果的に適用し、実世界の時系列予測タスクへの実用性を裏付けた。
• 結果から、分散適応が、特に複雑で非定常な環境において、より強固で柔軟な時系列モデリングを実現することが確認された。