[論文レビュー] Multi-dimensional Boltzmann Sampling of Languages

Olivier Bodini, Yann Ponty|Jan 30, 2010

Algorithms and Data Compression参考文献 12被引用数 7

ひとこと要約

本稿は、各端末記号に正確または近似的な頻度制約を課した文脈自由言語からの語の均一な生成を可能にする多次元ボルツマンサンプリングフレームワークを提案する。強い連結性と非周期性の仮定の下で、この手法は期待時間 $ olimitsackslash mathcal extasciitilde O(n^{1+k/2})$ で正確なサイズおよび正確な構成の生成を達成し、サイズと構成の近似的な制約を許容する場合には $ olimitsackslash mathcal extasciitilde O(n)$ 時間で動作し、文字頻度の $ olimitsackslash Omega(\sqrt{n})$ の許容誤差を有する。従来の再帰的手法に比べて優れている。

ABSTRACT

This paper addresses the uniform random generation of words from a context-free language (over an alphabet of size $k$), while constraining every letter to a targeted frequency of occurrence. Our approach consists in a multidimensional extension of Boltzmann samplers \cite{Duchon2004}. We show that, under mostly \emph{strong-connectivity} hypotheses, our samplers return a word of size in $[(1-\varepsilon)n, (1+\varepsilon)n]$ and exact frequency in $\mathcal{O}(n^{1+k/2})$ expected time. Moreover, if we accept tolerance intervals of width in $Ω(\sqrt{n})$ for the number of occurrences of each letters, our samplers perform an approximate-size generation of words in expected $\mathcal{O}(n)$ time. We illustrate these techniques on the generation of Tetris tessellations with uniform statistics in the different types of tetraminoes.

研究の動機と目的

• 文脈自由言語からの語の均一なランダム生成を、各端末記号の所定の頻度で可能にする。
• 正確な構成を達成するための再帰的手法が、有理関数言語では $ olimitsackslash mathcal extasciitilde O(n^k)$、文脈自由言語では $ olimitsackslash mathcal extasciitilde O(n^{2k})$ の演算を要することによる制限を克服する。
• 再帰的前処理による高メモリ消費を回避するスケーラブルで低メモリな代替手法として、重み付きボルツマンサンプリングと棄却サンプリングを活用する。
• サイズおよび構成の許容誤差の下での多次元棄却サンプリングの性能を分析する。
• 均一なテトラミノ頻度を持つテトリスタイルのタイリングを用いて、手法の有効性を実証する。

提案手法

• 目標とする文字頻度に一致するように重みを調整することで、一変数ボルツマンサンプリングを多次元生成に拡張する。
• 三段階のアプローチを採用する：(I) 期待される構成が目標と一致するようにパラメータを調整、(II) 構造の重み付きボルツマンサンプリング、(III) サイズまたは構成が不適切なサンプルを棄却する。
• 生成関数とホロノミック級数に基づく重み付きボルツマンサンプラーを用い、構成の偏差が許容範囲を超えた場合にのみ棄却を適用する。
• 生成関数が良好に振る舞うよう保証するため、強連結性および非周期性の仮定を文脈自由文法に適用する。
• ハングの準パワー定理および多次元中心極限定理を用いて、文字数の集中と分散を分析する。
• テトリスタイルのタイリングを例に、四種類のテトラミノを均等に使用する長方形の完全なタイリングをモデル化することで、フレームワークの妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 文脈自由言語における各端末記号の正確な頻度制約を満たす語の生成に、多次元ボルツマンサンプリングを適用可能か？
• RQ2 正確なサイズおよび構成制約の下で、このような語の生成における期待時間計算量は何か？
• RQ3 サイズおよび構成の許容誤差を許容することで、サンプラーの性能にどのような影響が生じるか？
• RQ4 文法のどのような条件下（例：強連結性、非周期性）で、この手法は効率的な収束を保証するか？
• RQ5 この手法は、文脈自由言語やテトリスタイルのタイリングを越えた他の組合せ的クラスへ一般化可能か？

主な発見

• 強連結で非周期的な文脈自由言語では、正確なサイズおよび正確な構成の生成が $ olimitsackslash mathcal extasciitilde O(n^{1+k/2})$ の期待時間で達成される。
• 構成に $ olimitsackslash Omega(\sqrt{n})$、サイズに線形の許容誤差を許容する場合、サンプラーは $ olimitsackslash mathcal extasciitilde O(n)$ の期待時間で動作する。
• 本手法は、有理関数言語では $ olimitsackslash mathcal extasciitilde O(n^k)$、文脈自由言語では $ olimitsackslash mathcal extasciitilde O(n^{2k})$ の演算を要する従来の再帰的手法を上回る。
• フレームワークは、四種類のテトラミノが均等に分布する完全なテトリスタイルのタイリングを成功裏に生成した。
• 棄却フェーズの計算量は、多次元生成関数の集中度に支配され、ハングの準パワー定理により分散が制御される。
• 本手法は僅か $ olimitsackslash mathcal extasciitilde O(n)$ のメモリしか必要とせず、再帰的手法に比べて大きな利点を示す（再帰的手法は $ olimitsackslash mathcal extasciitilde O(n)$ のメモリを要するが、時間計算量は高くなる）。