[論文レビュー] Learning with rare data: Using active importance sampling to optimize objectives dominated by rare events

Grant M. Rotskoff, Eric Vanden‐Eijnden|arXiv (Cornell University)|Aug 11, 2020

Markov Chains and Monte Carlo Methods被引用数 5

ひとこと要約

本稿では、高次元系におけるレアイベントに支配される目的関数を最適化するため、深層ニューラルネットワークと組み合わせた新しいアクティブ重要度サンプリング手法を提案する。重要度サンプリングによる漸近的分散の低減を通じて、限られたレアデータでも動的遷移経路の正確な学習が可能となり、高次元設定において優れた汎化性能とスケーラビリティを示す。

ABSTRACT

Deep neural networks, when optimized with sufficient data, provide accurate representations of high-dimensional functions; in contrast, function approximation techniques that have predominated in scientific computing do not scale well with dimensionality. As a result, many high-dimensional sampling and approximation problems once thought intractable are being revisited through the lens of machine learning. While the promise of unparalleled accuracy may suggest a renaissance for applications that require parameterizing representations of complex systems, in many applications gathering sufficient data to develop such a representation remains a significant challenge. Here we introduce an approach that combines rare events sampling techniques with neural network optimization to optimize objective functions that are dominated by rare events. We show that importance sampling reduces the asymptotic variance of the solution to a learning problem, suggesting benefits for generalization. We study our algorithm in the context of learning dynamical transition pathways between two states of a system, a problem with applications in statistical physics and implications in machine learning theory. Our numerical experiments demonstrate that we can successfully learn even with the compounding difficulties of high-dimension and rare data.

研究の動機と目的

• データが乏しく、かつレアイベントに支配される高次元系において、正確な表現を学習する課題に対処すること。
• 次元数の増加に伴いスケーリングが著しく悪化する従来の科学的計算手法の限界を克服すること。
• 重要度サンプリングによる漸近的分散の低減を通じて、稀なデータで訓練された機械学習モデルの汎化性能を向上させること。
• 統計物理学および機械学習理論の中心的問題である、系の状態間の動的遷移経路の効果的学習を可能にすること。
• アクティブサンプリングと深層ニューラルネットワーク最適化を統合した、スケーラブルでデータ効率の高いフレームワークを構築すること。

提案手法

• アクティブ重要度サンプリングと深層ニューラルネットワーク最適化を統合し、訓練を稀だが重要なデータ領域に集中させる。
• 重要度サンプリングを用いて学習目的関数の漸近的分散を低減し、モデルの汎化性能を向上させる。
• サンプルの重みを重要度分布から導出し、重み付き期待値として学習目的関数を定式化し、稀なイベントを強調する。
• 不確実性や目的関数への寄与度に基づいて適応的にサンプルを選択し、データ効率を向上させる。
• 重要度重み付き損失関数に基づく確率的勾配降下法を用いてニューラルネットワークを最適化する。
• 統計物理学に見られるような高次元動的系における遷移経路の学習にこのフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 アクティブ重要度サンプリングとディープラーニングを組み合わせることで、高次元でレアイベントに支配される問題において、分散を著しく低減し、汎化性能を向上させることができるか？
• RQ2 重要度サンプリングは、ニューラルネットワーク最適化における学習目的関数の漸近的分散にどのように影響を与えるか？
• RQ3 この手法は、データが限られた状況下でも、系の状態間の正確な動的遷移経路をどれほど正確に学習できるか？
• RQ4 データ不足と高次元性は、標準的なディープラーニングと比較して、本手法の性能にどのような影響を与えるか？
• RQ5 アクティブサンプリング戦略は、レアイベントシナリオにおいて、一様またはランダムサンプリングに比べて、どの程度データ効率を向上させるか？

主な発見

• 重要度サンプリングは、学習目的関数の漸近的分散を顕著に低減し、ニューラルネットワーク学習における汎化性能の向上に寄与する。
• 提案手法は、データ不足と次元の高さという複合的課題が重なる中でも、高次元系における動的遷移経路の学習に成功している。
• アクティブサンプリングにより、特に目的関数にとって重要なレアイベントが集中する領域に注目することで、データ効率が向上する。
• 従来の手法が収束せず、あるいは現実的でないデータ量を必要とする高次元問題において、本フレームワークはスケーラビリティとロバストネスを示している。
• 数値実験により、本手法は標準的なディープラーニング手法を上回り、最小限のデータで正確な表現を達成していることが確認された。
• 重要度サンプリングとニューラルネットワークの統合により、レアイベントに支配される複雑な高次元関数の信頼性の高い近似が可能になった。