[论文解读] Weighted random generation of context-free languages: Analysis of collisions in random urn occupancy models

Danièle Gardy, Yann Ponty|arXiv (Cornell University)|Dec 6, 2010

Algorithms and Data Compression参考文献 22被引用 3

一句话总结

本文通过瓮分配模型类比，分析加权随机生成上下文无关语言时的冗余性和覆盖率。推导了在加权分布下碰撞时间、覆盖率和不同词数的精确公式与渐近公式，表明RNA二级结构模型中的自由能参数对采样效率和覆盖率有显著影响，对生物信息学中的统计采样具有启示意义。

ABSTRACT

The present work analyzes the redundancy of sets of combinatorial objects produced by a weighted random generation algorithm proposed by Denise et al. This scheme associates weights to the terminals symbols of a weighted context-free grammar, extends this weight definition multiplicatively on words, and draws words of length $n$ with probability proportional their weight. We investigate the level of redundancy within a sample of $k$ word, the proportion of the total probability covered by $k$ words (coverage), the time (number of generations) of the first collision, and the time of the full collection. For these four questions, we use an analytic urn analogy to derive asymptotic estimates and/or polynomially computable exact forms. We illustrate these tools by an analysis of an RNA secondary structure statistical sampling algorithm introduced by Ding et al.

研究动机与目标

• 分析上下文无关语言加权随机生成中的冗余性和覆盖率。
• 将重复词的生成建模为将球随机分配到加权瓮中的过程。
• 量化在语言中首次发生碰撞以及收集所有词所需的时间期望。
• 评估大小为k的样本中，不同词的累积概率（覆盖率）和比例。
• 将结果应用于基于自由能权重的RNA二级结构采样算法。

提出的方法

• 将加权随机生成建模为球入瓮过程，其中每个词对应一个概率与其权重成比例的瓮。
• 应用经典占据模型——生日问题、优惠券收集者问题和占据统计——分析碰撞与覆盖率行为。
• 推导出可多项式时间计算的精确表达式和渐近近似公式，涵盖期望碰撞时间、完全收集时间、不同词数和覆盖率。
• 使用生成函数和奇点分析，刻画加权上下文无关语言的渐近行为。
• 通过将RNA二级结构建模为类似Motzkin的语言并引入碱基配对能量参数，将定理应用于RNA二级结构。
• 使用Naraṇāyaṇa数和二项式系数，计算具有特定特征的二级结构的精确数量。

实验结果

研究问题

• RQ1 在加权随机采样中，首次发生碰撞（即重复词）前的期望生成次数是多少？
• RQ2 需要多少样本才能收集到大小为n的语言中的所有不同词？
• RQ3 从加权语言中抽取k个词的样本时，可期望的不相同词的比例是多少？
• RQ4 大小为k的样本中，不同词的累积概率（覆盖率）是多少？
• RQ5 自由能参数（例如θ和E）如何影响RNA二级结构采样中的碰撞时间和覆盖率？

主要发现

• 在RNA二级结构采样中，首次碰撞的期望时间随RNA长度呈指数增长，但指数因子强烈依赖于自由能贡献：当θ=3，E=-3时，约为93.55次采样；当θ=1，E=-1时，约为4.7×10¹³次采样。
• 随着自由能贡献绝对值的增大，覆盖率衰减更缓慢；当n<30时，样本量为1000个结构，在θ=3，E=-3条件下可实现50%覆盖率，而在θ=1，E=-1条件下覆盖率可忽略不计。
• 不同词比例和覆盖率表现出对称振荡，但振幅对覆盖率的影响大于对不同性的影响，尤其在θ=3时更为显著。
• 概率分布的二阶矩决定了首次碰撞时间和期望覆盖率的渐近行为，从而在分析上将这两个量联系起来。
• 通过涉及Naraṇāyaṇa数和二项式系数的组合公式，可多项式时间精确计算覆盖率和不同词数。
• 完全收集等待时间主要由语言的整体指数权重主导，其上下界相差Θ(n)因子，表明在对权重分布施加额外假设时，存在进一步紧致分析的空间。