[論文レビュー] Experimental Analysis of a Generalized Stratified Sampling Algorithm for Hypercubes

Simon Wessing|arXiv (Cornell University)|May 10, 2017

Interconnection Networks and Systems被引用数 3

ひとこと要約

本稿では、ハイパーキューブ内に任意の点数を一様にサンプリングできる一般化された層別抽出（GSS）アルゴリズムを提案する。従来の軸平行層別抽出における指数的増大の制約を克服し、等積のハイパーボックスを保証するとともに、線形時間計算で被覆半径を最小化し、ラテンハイパースペース抽出と組み合わせることで不規則性を改善する。数値積分および最適化タスクにおいて、多様な次元およびサンプルサイズで最先端の手法を上回る性能を発揮する。

ABSTRACT

Stratified sampling is a fast and simple method to generate point sets with uniform distribution in hypercubes. However, for the most common paraxial stratfication it has the prominent drawback that the number of sampled points in n dimensions has to be an n-th power of an integer number. This exponential growth makes its application unattractive or even infeasible in high dimensions. We present a stratification procedure that eliminates this problem by a recursive binary partitioning of the hypercube. The algorithm runs in linear time and tries to minimize the hyperboxes' deviation from the cubic shape. We analyze the properties of the algorithm using discrepancy and covering radius, and directly in practical applications, comparing it to quasirandom and other sampling methods. We also discuss a potential combination with Latin hypercube sampling, which positively affects discrepancy.

研究の動機と目的

• 従来の層別抽出では点数が整数のn乗でなければならないという制限があるため、高次元では実用的でない問題を解消すること。
• 点数に依存しない一様なハイパーキューブ内分布を保証する線形時間のサンプリングアルゴリズムを開発すること。
• ハイパーボックスの立方体からの形状逸脱を最小化し、被覆半径を低減することで、サンプリング品質を向上させること。
• 数値積分および最悪ケース最適化タスクにおいて、準乱数列およびラテンハイパースペース抽出と比較して本手法の性能を評価すること。
• 分布パrameterization（例：バーツ分布）を用いて、不規則性と被覆半径のトレードオフを調査すること。

提案手法

• ハイパーキューブを等積のハイパーボックスに再帰的二分分割することで、n乗制約を回避する。
• 分割過程において、ハイパーボックスの形状が立方体からどれほど逸脱するかを最小化するためのグリーディ戦略を適用する。
• 分割済みハイパーボックスを用いて、被覆半径の上界を線形時間で計算し、効率的な最小化を可能にする。
• ハイパーボックス内でのサンプリングにバーツ分布を導入するバージョンを提案し、低不規則性と低被覆半径の間のトレードオフを可能にする。
• 本アルゴリズムをラテンハイパースペース抽出と組み合わせることで、不規則性を改善しながら一様性を維持する。
• ブートストラップ信頼区間と2000回の再試行を用いて、次元およびサンプルサイズにわたる統計的性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 高次元ハイパーキューブ内に任意の点数を扱える層別抽出法を設計可能か？ ただし指数的増大制約なしに。
• RQ2 再帰的二分分割による被覆半径の最小化は、最適化および積分性能にどのように影響するか？
• RQ3 GSSをラテンハイパースペース抽出と組み合わせることで、標準的手法に比べて不規則性はどの程度改善されるか？
• RQ4 ハイパーボックス内での異なるサンプリング分布を用いる際、不規則性と被覆半径の間に測定可能なトレードオフが存在するか？
• RQ5 次元およびサンプル数が変化する状況下で、本手法はコロボフ格子および準乱数列と比較して収束速度および精度の点で優れているか？

主な発見

• 次元n ≤ 4の場合、被覆半径を最小化するGSS（b = ∞）は、不規則性の観点で最適とされるコロボフ格子を定期的に上回る。
• 高次元では、GSSは球関数やローゼンブロック関数では優れた性能を示すが、ダブルサム関数やFP関数では劣悪な性能を示す。これは、特定の問題クラスにおいて被覆半径がより重要であることを示唆する。
• ライン6〜7（被覆半径を低減するための分割の微調整）を含むGSSのバリエーションは、2次元では1024回中822回の実験で勝利し、10次元まで優位性を維持。7次元では712勝、8次元では517勝を記録。
• b > 1のGSSの結果分布は他の手法と比較してより非対称であるため、特定の部分空間における問題構造の感度や悪条件性への感受性が示唆される。
• 被覆半径の上界は計算的に効率的であり、高次元における正確なボロノイタイル化の prohibitively 高コストを回避するのに十分である。
• コロボフ格子および（A）LGSS（適応的一般化層別抽出）は、実装選択によって性能を調整可能な強力な汎用手法である。