[論文レビュー] Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques

Sergei Kucherenko, Daniel Albrecht+1 more|arXiv (Cornell University)|May 10, 2015

Probabilistic and Robust Engineering Design参考文献 27被引用数 117

ひとこと要約

本稿では、高次元空間における数値積分のための標準的なモンテカルロ（MC）サンプリングと比較して、ラテンハイパースペースサンプリング（LHS）およびソボル系列を用いた準モンテカルロ（QMC）手法を比較している。解析解が既知のテスト問題を用いて、QMCとソボル系列を用いる手法が、収束速度および精度の面でMCおよびLHSを常に上回ることを示しており、特に関数の型が未知または複雑な場合に顕著である。したがって、一般用途の積分タスクにおいてQMCは最も頑健な選択肢である。

ABSTRACT

Three sampling methods are compared for efficiency on a number of test problems of various complexity for which analytic quadratures are available. The methods compared are Monte Carlo with pseudo-random numbers, Latin Hypercube Sampling, and Quasi Monte Carlo with sampling based on Sobol sequences. Generally results show superior performance of the Quasi Monte Carlo approach based on Sobol sequences in line with theoretical predictions. Latin Hypercube Sampling can be more efficient than both Monte Carlo method and Quasi Monte Carlo method but the latter inequality holds for a reduced set of function typology and at small number of sampled points. In conclusion Quasi Monte Carlo method would appear the safest bet when integrating functions of unknown typology.

研究の動機と目的

• 多変数空間におけるモンテカルロ（MC）、ラテンハイパースペースサンプリング（LHS）、および準モンテカルロ（QMC）手法の効率を評価・比較すること。
• さまざまな複雑さのレベルを想定した、解析解が既知のテスト問題に対して、これらのサンプリング手法の性能を評価すること。
• LHSがQMCを上回る条件がどのようなものかを特定し、QMCが関数の種類にかかわらず一貫した利点を示すかどうかを検証すること。
• 一般用途の積分タスクにおいて、低ディスクリパンシー列の理論的優位性を裏付ける実証的証拠を提供すること。

提案手法

• 本研究では、疑似乱数を用いた標準的なモンテカルロ、ラテンハイパースペースサンプリング（LHS）、およびソボル系列を用いた準モンテカルロ（QMC）の3つのサンプリング手法を採用した。
• 次第に次元数と複雑さが増すテスト問題を選定し、誤差のベンチマークとして既知の解析的台形積分値を用いた。
• 各手法およびテスト問題について、サンプル点数の関数として積分誤差を計算した。
• 収束速度の分析は、誤差とサンプルサイズの対数スケール（log-log）プロットを用いて実施し、収束速度の程度を評価した。
• 複数回の実行および複数のテスト関数に基づいて、各手法の平均二乗誤差（RMSE）を評価した。
• 誤差低減の有意性および収束速度の差を検証するため、各手法間の統計的比較を実施した。

実験結果

リサーチクエスチョン

• RQ1 高次元積分において、ソボル系列を用いた準モンテカルロ（QMC）手法は、モンテカルロ（MC）およびラテンハイパースペースサンプリング（LHS）と比較して、収束速度にどのような差を示すか？
• RQ2 ラテンハイパースペースサンプリング（LHS）がモンテカルロ（MC）および準モンテカルロ（QMC）を上回る条件は何か？
• RQ3 関数の型が未知または複雑な構造を有する場合、QMCとソボル系列を用いた手法は、広範な関数タイプにわたり優れた性能を維持するか？
• RQ4 問題の次元数が、各サンプリング手法の相対的効率にどの程度の影響を与えるか？

主な発見

• ソボル系列を用いた準モンテカルロ（QMC）手法は、すべてのテスト問題において、モンテカルロ（MC）およびラテンハイパースペースサンプリング（LHS）よりも一貫して高速な収束速度を達成した。
• QMC手法は、標準的なモンテカルロ（MC）手法のO(1/√N)よりも著しく優れたO(1/N)に近い収束速度を示した。
• ラテンハイパースペースサンプリング（LHS）は、モンテカルロ（MC）および一部のケースではQMCよりも優れた性能を示したが、これは限定的な関数タイプおよび低サンプルサイズの範囲に限られる。
• 関数の型が未知の場合は、ソボル系列を用いたQMC手法が、その頑健な収束特性のおかげで、最も信頼性が高く効率的な選択肢である。
• 本研究では、QMCにおける低ディスクリパンシー列が、モンテカルロにおける疑似乱数列よりも、統合誤差をより効果的に低減することを確認した。