[논문 리뷰] On the Total Variation Distance of Labelled Markov Chains

Taolue Chen, Stefan Kiefer|arXiv (Cornell University)|2014. 05. 12.

DNA and Biological Computing참고 문헌 10인용 수 7

한 줄 요약

이 논문은 두 개의 레이블이 붙은 마르코프 체인(LMCs) 사이의 총 변동 거리(total variation distance)를 계산하기 위한 이론적이고 알고리즘적 프레임워크를 개발한다. 거리-1 문제(즉, 거의 확실히 구별 가능함)는 다항 시간 내에 결정 가능하며, 임의의 정밀도로 거리를 근사하는 알고리즘을 제공한다. 또한 임계값 문제의 NP-난이도와 제곱근 합 문제에 대한 난이도를 증명하고, 베르누이 복합체(Bernoulli convolutions)와의 연결 고리를 설정한다.

ABSTRACT

Labelled Markov chains (LMCs) are widely used in probabilistic verification, speech recognition, computational biology, and many other fields. Checking two LMCs for equivalence is a classical problem subject to extensive studies, while the total variation distance provides a natural measure for the "inequivalence" of two LMCs: it is the maximum difference between probabilities that the LMCs assign to the same event. In this paper we develop a theory of the total variation distance between two LMCs, with emphasis on the algorithmic aspects: (1) we provide a polynomial-time algorithm for determining whether two LMCs have distance 1, i.e., whether they can almost always be distinguished; (2) we provide an algorithm for approximating the distance with arbitrary precision; and (3) we show that the threshold problem, i.e., whether the distance exceeds a given threshold, is NP-hard and hard for the square-root-sum problem. We also make a connection between the total variation distance and Bernoulli convolutions.

연구 동기 및 목표

• 두 레이블이 붙은 마르코프 체인(LMCs) 간의 의미적 차이를 측정하는 총 변동 거리의 정식화 및 분석을 통해 언어 등가성 이상의 범위로 확장한다.
• 특히 검증 및 익명성 관련 맥락에서 두 확률적 시스템이 얼마나 구별 가능한지 수량화하는 실용적이고 이론적인 필요를 충족한다.
• 특히 임계값 문제에 초점을 맞춰, LMCs에서 총 변동 거리의 계산 및 성질 결정의 알고리즘 복잡도를 조사한다.
• 최대화 가능한 사건의 존재성과 무리수 거리의 가능성과 같은 거리의 수학적 구조를 탐구한다.
• 더 깊은 이론적 통찰을 위해 총 변동 거리와 베르누이 복합체와 같은 고전적 수학적 대상 간의 연결 고리를 설정한다.

제안 방법

• 무한 단어 공간 Σ^ω 내의 모든 가측 사건에 대한 상한으로서 두 LMCs 간의 총 변동 거리를 정의하여, 할당된 확률 간의 최대 차이를 포괄한다.
• 마르팅게일 수렴 정리(martingale convergence theorem)를 이용해 항상 최대화 사건이 존재함을 증명하여, 거리가 잘 정의되고 도달 가능함을 보장한다.
• 유도된 상태 공간에서의 도달 가능성 분석과 선형 프로그래밍 타당성 검사를 기반으로, 두 LMCs의 총 변동 거리가 정확히 1인지 다항 시간 내에 결정하는 알고리즘을 개발한다.
• 유한한 무한 단어의 접두어를 기반으로 하는 하한 및 상한의 두 수열을 구성하여, 진짜 거리로 아래에서와 위에서 수렴하게 하여 임의의 정밀도 근사가 가능하도록 한다.
• 유도된 이분 상태 공간에서의 그래프 도달 가능성과 부분분포 분석을 사용하여 구별 가능한 사건의 존재 여부를 확인한다.
• 제곱근 합 문제로의 축소를 통해 경제적 난이도 결과를 확립하고, 계산 기하학 및 수론 분야의 알려진 난이도 문제로부터의 축소를 통해 임계값 문제의 NP-난이도를 증명한다.

실험 결과

연구 질문

• RQ1 두 LMCs 간의 총 변동 거리를 보장된 정밀도로 알고리즘적으로 계산하거나 근사화할 수 있는가?
• RQ2 두 LMCs가 거의 확실히 구별 가능하다는 것(즉, 거리가 정확히 1임)을 다항 시간 내에 결정할 수 있는 알고리즘이 존재하는가?
• RQ3 주어진 유리수 임계값을 초과하는지 여부를 결정하는 문제인 임계값 문제의 계산 복잡도는 무엇인가?
• RQ4 LMCs 간의 총 변동 거리는 항상 유리수 또는 대수적 수를 생성하는가, 아니면 무리수일 수도 있는가?
• RQ5 LMCs의 총 변동 거리와 베르누이 복합체와 같은 고전적 수학적 대상 간의 이론적 연결 고리는 무엇인가?

주요 결과

• 두 LMCs 간의 총 변동 거리는 항상 어떤 가측 사건에 의해 도달 가능하며, 그러한 최대화 사건은 명시적으로 구성할 수 있다.
• 도달 가능성과 부분분포 위의 선형 프로그래밍을 기반으로, 두 LMCs의 총 변동 거리가 정확히 1인지 다항 시간 내에 결정할 수 있는 알고리즘이 존재한다.
• 유한한 무한 단어의 접두어를 반복적으로 활용하여 하한과 상한을 정밀하게 개선하는 방식으로, 총 변동 거리를 임의의 정밀도로 근사하는 알고리즘이 존재한다.
• 거리가 주어진 유리수 임계값을 초과하는지 여부를 결정하는 임계값 문제는 NP-난이도이며 제곱근 합 문제에 대해서도 난이도가 높아, 높은 계산 복잡도를 나타낸다.
• 베르누이 복합체를 기반으로 한 구성 예시를 통해 총 변동 거리가 무리수일 수 있음을 입증하여, 거리가 반드시 대수적 수가 아니라는 것을 보여준다.
• 논문은 LMCs의 총 변동 거리와 베르누이 복합체 이론 간에 비어 있지 않은 연결 고리를 설정하였으며, 이는 수론 및 분수기하학과 깊은 수학적 연관성을 시사한다.