[論文レビュー] Differential Equations for Monte Carlo Recycling and a GPU-Optimized Normal Quantile

William T. Shaw, Nick Brickman|arXiv (Cornell University)|Jan 6, 2009

Statistical Methods and Inference被引用数 5

ひとこと要約

本稿では、A(z) = F⁻¹(G(z)) の形をとる逆累積分布関数の解析的計算のための微分方程式フレームワークを提案する。これにより、分布間でモンテカルロサンプルを正確に再利用できる。特に正規分布からスチューデントt分布、指数分布から分散ギャンマ分布への変換について閉形式解を導出し、分岐のない、GPUに最適化された方法で高精度かつ高速に正規分位数を計算することが可能になる。

ABSTRACT

This article 1 presents differential equations and solution methods for the functions of the form A(z) = F −1 (G(z)), where F and G are cumulative distribution functions. Such functions allow the direct recycling of samples from one distribution into samples from another. The method may be developed analytically for certain special cases, and illuminate the idea that it is a more precise form of the traditional Cornish-Fisher expansion. In this manner the model risk of distributional risk may be assessed free of the Monte Carlo noise associated with resampling. The method may also be regarded as providing both analytical and numerical bases for doing more precise Cornish-Fisher transformations. Examples are given of equations for converting normal samples to Student t, and converting exponential to hyperbolic, variance gamma and normal. In the case of the normal distribution, the change of variables employed allows the sampling to take place to good accuracy based on a single rational approximation over a very wide range of the sample space. The avoidance of any branching statement is of use in optimal GPU computations, and we give example of branch-free normal quantiles that offer performance improvements in a GPU environment, while retaining the precision characteristics of well-known methods.

研究の動機と目的

• 微分方程式を用いた、ある確率分布からのランダムサンプルを別の分布に変換する解析的フレームワークの構築。
• 再サンプリングに基づくリスク評価におけるモンテカルロノイズを排除することで、分布モデルリスクの低減。
• 高次分布調整のための従来のコルニッシュ・フィッシャー展開の代替として、より高精度な手法の提供。
• 高性能GPU環境に適した、分岐のない効率的な正規分位数の計算の実現。
• 正規分布、スチューデントt分布、指数分布、分散ギャンマ分布を含む主な分布における手法の適用。

提案手法

• FとGが累積分布関数であるとき、A(z) = F⁻¹(G(z)) の関数に対して微分方程式系を導出する。
• 正規分布からスチューデントt分布、指数分布から分散ギャンマ分布への特殊な場合について、微分方程式を解析的に解く。
• 標準正規分布への変数変換を適用し、広い定義域にわたり一様な有理近似を可能にする。
• 分岐のない形で分位数計算を実装し、GPU実行効率を向上。
• 分岐のない評価に適した、既知の正規分位数関数の有理近似を用いる。
• GPUアクセラレーション環境下で、既存手法と比較して精度と性能を検証。

実験結果

リサーチクエスチョン

• RQ1 微分方程式を用いて、異なる分布の逆累積分布関数間の正確な変換を導出できるか？
• RQ2 本手法は、精度とノイズ低減の観点でコルニッシュ・フィッシャー展開に比べてどのように向上するか？
• RQ3 分岐のない有理近似は、GPUアクセラレーション環境下での正規分位数計算における条件分岐をどの程度代替可能か？
• RQ4 本手法を用いることで、GPU環境でどの程度の性能向上と精度向上が達成できるか？
• RQ5 指数分布から分散ギャンマ分布や双曲線型分布への変換は、どの程度の精度で達成できるか？

主な発見

• 本手法により、微分方程式の解析的解を用いて、分布間で正確でノイズのないモンテカルロサンプルの再利用が可能になる。
• コルニッシュ・フィッシャー展開を上回る高精度を実現する。高次近似誤差を回避できる。
• 実数直線全域にわたり一括した有理近似を用いることで、分岐を伴わず高精度な正規分位数計算が可能になる。
• 分岐のない定式化により、GPU環境で測定可能な性能向上が達成され、精度を維持したまま。
• 指数分布から分散ギャンマ分布、双曲線型分布への変換が正しく導出され、検証済み。
• 標準正規変量からスチューデントt分布に変換する手法が、実装可能性と正確性を示した。