[論文レビュー] Weighted random generation of context-free languages: Analysis of collisions in random urn occupancy models

Danièle Gardy, Yann Ponty|arXiv (Cornell University)|Dec 6, 2010

Algorithms and Data Compression参考文献 22被引用数 3

ひとこと要約

この論文は、重み付き確率的生成における再帰的重複とカバレッジを、アン・オカピティ・モデルの類似に照らして分析する。重み付き分布下での衝突時間、カバレッジ、および異なる語の数について、正確かつ漸近的な公式を導出する。RNA二級構造モデルにおける自由エネルギーのパラメータが、サンプリング効率とカバレッジに顕著に影響することを示し、バイオインフォマティクスにおける統計的サンプリングに影響を与える。

ABSTRACT

The present work analyzes the redundancy of sets of combinatorial objects produced by a weighted random generation algorithm proposed by Denise et al. This scheme associates weights to the terminals symbols of a weighted context-free grammar, extends this weight definition multiplicatively on words, and draws words of length $n$ with probability proportional their weight. We investigate the level of redundancy within a sample of $k$ word, the proportion of the total probability covered by $k$ words (coverage), the time (number of generations) of the first collision, and the time of the full collection. For these four questions, we use an analytic urn analogy to derive asymptotic estimates and/or polynomially computable exact forms. We illustrate these tools by an analysis of an RNA secondary structure statistical sampling algorithm introduced by Ding et al.

研究の動機と目的

• 重み付き確率的生成における再帰的重複とカバレッジを分析すること。
• 繰り返し語の生成を、重み付きアンにボールを割り当てる確率的配置としてモデル化すること。
• 言語内のすべての語が初めて収集されるまでの期待時間と、最初の衝突が発生するまでの期待時間を定量化すること。
• サイズkのサンプルにおける、累積確率（カバレッジ）および異なる語の割合を評価すること。
• 結果を、自由エネルギーに基づく重みを有するRNA二級構造サンプリングアルゴリズムに適用すること。

提案手法

• 各語が重みに比例する確率を持つアンに対応するボールの割り当てとして、重み付き確率的生成をモデル化する。
• 古典的占有モデル（誕生日問題、切符収集問題、占有統計）を適用し、衝突とカバレッジの挙動を分析する。
• 期待衝突時間、完全収集時間、異なる語の数、カバレッジの正確な多項式時間計算可能な表現および漸近的近似を導出する。
• 母関数と特異点解析を用いて、重み付き文脈自由言語の漸近的挙動を特徴付ける。
• RNA二級構造をベースペアエネルギーのパラメータを有するモッツキンに類似した言語としてモデル化し、定理をRNA二級構造に適用する。
• 正確な二次構造の特徴を持つ数の計算に、ナラナーヤナ数と二項係数を用いる。

実験結果

リサーチクエスチョン

• RQ1 重み付き確率的サンプリングにおいて、最初の衝突（繰り返し語）が発生するまでの期待生成回数は何か？
• RQ2 サイズnの言語において、すべての異なる語を収集するために必要なサンプル数は何か？
• RQ3 重み付き言語からk個の語のサンプルを得たとき、期待される異なる語の割合は何か？
• RQ4 サイズkのサンプルにおける、異なる語の累積確率（カバレッジ）は何か？
• RQ5 自由エネルギーのパラメータ（例：θとE）は、RNA二級構造サンプリングにおける衝突時間とカバレッジにどのように影響するか？

主な発見

• RNA二級構造のサンプリングにおける最初の衝突までの期待時間は、RNA長に指数的に増大するが、指数係数は自由エネルギー寄与に強く依存する。θ=3、E=-3の場合、約93.55回のサンプリングであるが、θ=1、E=-1の場合、約4.7×10¹³回のサンプリングである。
• 自由エネルギー寄与の絶対値が大きいほどカバレッジの減少が遅くなる。n<30の場合、θ=3、E=-3では1000構造のサンプルで50%のカバレッジが達成されるが、θ=1、E=-1では無視できるほどのカバレッジにとどまる。
• 異なる語の割合とカバレッジは対称的な振動を示すが、特にθ=3の場合、振幅の影響がカバレッジに異なる語の数よりも顕著に現れる。
• 確率分布の2番目のモーメントが、最初の衝突時間と期待カバレッジの漸近的挙動を支配し、これらの量を解析的に結びつける。
• 正確なカバレッジと異なる語の数は、ナラナーヤナ数と二項係数を含む組合せの公式を用いて多項式時間で計算可能である。
• 完全収集までの待ち時間は、言語全体の指数的重みに支配され、境界がΘ(n)の要因で異なるため、重み分布の追加仮定のもとでより鋭い解析が可能であると考えられる。