[論文レビュー] On the Total Variation Distance of Labelled Markov Chains

Taolue Chen, Stefan Kiefer|arXiv (Cornell University)|May 12, 2014

DNA and Biological Computing参考文献 10被引用数 7

ひとこと要約

本稿では、2つのラベル付きマルコフ連鎖（LMCs）間の全変動距離を計算するための理論的・アルゴリズム的枠組みを構築し、距離-1問題（すなわち、ほぼ確実な区別可能性）が多項式時間で決定可能であることを示し、任意の精度で距離を近似するアルゴリズムを提供する。また、閾値問題がNP困難であり、平方根和問題についても困難であることを証明し、ベルヌーイ畳み込みとの関係を確立する。

ABSTRACT

Labelled Markov chains (LMCs) are widely used in probabilistic verification, speech recognition, computational biology, and many other fields. Checking two LMCs for equivalence is a classical problem subject to extensive studies, while the total variation distance provides a natural measure for the "inequivalence" of two LMCs: it is the maximum difference between probabilities that the LMCs assign to the same event. In this paper we develop a theory of the total variation distance between two LMCs, with emphasis on the algorithmic aspects: (1) we provide a polynomial-time algorithm for determining whether two LMCs have distance 1, i.e., whether they can almost always be distinguished; (2) we provide an algorithm for approximating the distance with arbitrary precision; and (3) we show that the threshold problem, i.e., whether the distance exceeds a given threshold, is NP-hard and hard for the square-root-sum problem. We also make a connection between the total variation distance and Bernoulli convolutions.

研究の動機と目的

• 2つのラベル付きマルコフ連鎖（LMCs）間の意味的差異を測る指標としての全変動距離を形式化・分析し、言語同値性を越えるものとする。
• 特に検証や匿名性の文脈において、2つの確率的システムがどの程度区別可能であるかを定量化する実用的・理論的ニーズに対応する。
• LMCsにおける全変動距離の計算および性質の決定のアルゴリズム的複雑性、特に閾値問題を調査する。
• 最大化可能な事象の存在や無理数距離の可能性を含む、距離の数学的構造を調査する。
• 全変動距離とベルヌーイ畳み込みのような古典的数学的対象との関係を確立し、より深い理論的洞察を得る。

提案手法

• 無限語空間 Σ^ω 内のすべての可測事象についての上界として、2つのLMCs間の全変動距離を定義し、割り当てられる確率の最大差を捉える。
• マルティンゲール収束定理を用いて、常に最大化可能な事象が存在することを証明し、距離が適切に定義されかつ達成可能であることを保証する。
• 導出された状態空間における到達可能性解析と線形計画法の可解性チェックに基づき、2つのLMCsの全変動距離が正確に1であるかどうかを多項式時間で決定するアルゴリズムを開発する。
• 無限語の有限プレフィックスに基づく下界と上界の2つの列を構築し、真の距離に下からおよび上から収束させる。これにより、任意の精度での近似が可能になる。
• 構築された二部状態空間上でグラフの到達可能性と部分分布解析を用いて、区別可能な事象の存在を確認する。
• 平方根和問題への還元を用いて硬度結果を確立し、既知の計算幾何学および数論における難問への還元を用いて、閾値問題のNP困難性を証明する。

実験結果

リサーチクエスチョン

• RQ1 2つのLMCs間の全変動距離は、保証された精度でアルゴリズム的に計算または近似可能か？
• RQ2 2つのLMCsがほぼ確実に区別可能（すなわち、距離が1）であるかどうかを多項式時間で決定するアルゴリズムは存在するか？
• RQ3 距離が与えられた有理数閾値を超えるかどうかを決定する閾値問題の計算複雑性は何か？
• RQ4 LMCs間の全変動距離は常に有理数または代数的数をとるのか、それとも無理数を取り得るのか？
• RQ5 LMCs間の全変動距離とベルヌーイ畳み込みのような古典的数学的対象との理論的関係は何か？

主な発見

• 2つのLMCs間の全変動距離は、常にある可測事象によって達成可能であり、そのような最大化事象は明示的に構成可能である。
• 2つのLMCsの全変動距離が正確に1であるかどうかを、到達可能性と部分分布上の線形計画法に基づき、多項式時間で決定するアルゴリズムが存在する。
• 有限プレフィックスを用いた反復的かつ精度を高める境界の改善により、任意の精度で全変動距離を近似するアルゴリズムが存在する。
• 距離が与えられた有理数閾値を超えるかどうかを決定する閾値問題はNP困難であり、平方根和問題についても困難であることが示され、高い計算複雑性を示している。
• ベルヌーイ畳み込みに基づく構成により、全変動距離が無理数を取り得ることが示され、距離が常に代数的数であるとは限らないことが判明した。
• 本稿では、LMCsの全変動距離とベルヌーイ畳み込みの理論との間で非自明な関係を確立し、数論およびフラクタル幾何学への深い数学的関連性を示唆している。