[논문 리뷰] Conditional probabilities and van Lambalgen theorem revisited

Bruno Bauwens, Alexander Shen외 1명|arXiv (Cornell University)|2016. 07. 14.

Computability, Logic, AI Algorithms참고 문헌 10인용 수 7

한 줄 요약

이 논문은 연속 확률 공간에서 조건부 확률의 알고리즘적 정의를 조사하며, Martin-Löf 무작위 수열에 대한 조건부 분포의 존재성과 계산 가능성에 초점을 맞춘다. 계산 가능한 측도에 대해, 무작위 수열의 접두사에 沿해 조건부 확률의 극한이 잘 정의된 측도로 수렴함을 입증하며, van Lambalgen의 정리를 비계산 가능한 조건부 확률과 균일한 무작위성 테스트를 포함하는 알고리즘적 무작위성 맥락으로 일반화한다.

ABSTRACT

The definition of conditional probability in case of continuous distributions was an important step in the development of mathematical theory of probabilities. How can we define this notion in algorithmic probability theory? In this survey we discuss the developments in this direction trying to explain what are the difficulties and what can be done to avoid them. Almost all the results discussed in this paper have been published (and we provide the references), but we tried to put them into perspective and to explain the proofs in a more intuitive way. We assume that the reader is familiar with basic notions of measure theory and algorithmic randomness.

연구 동기 및 목표

• 연속 분포에 대해 알고리즘 확률 이론에서 조건부 확률의 정의를 체계화한다.
• 조건부 변수가 Martin-Löf 무작위일 때 조건부 분포의 존재성과 계산 가능성 분석하기.
• 비계산 가능한 측도와 균일한 무작위성 테스트를 포함하는 맥락으로 van Lambalgen의 정리를 확장하기.
• 조건부 확률이 존재하지만 비계산 가능할 수 있는 경우를 조사하며, 이는 합성 측도가 계산 가능할 때조차도 가능하다.
• 기술적 과제와 해결책에 중점을 두어 알고리즘적 무작위성 맥락에서 기존 결과의 직관적 설명과 증명 제공하기.

제안 방법

• 무작위 수열의 축소 접두사에 대해 조건부 확률의 극한을 사용하여 두 번째 성분에 대한 조건부 측도를 정의한다.
• Martin-Löf 무작위 수열에 대해 조건부 확률 비율의 수렴성을 보이기 위해 효과적 마팅게일 수렴 정리를 적용한다.
• 합성 측도에 대한 하한 절삭 가능 테스트 함수를 구성하고, 자르기와 정규화를 통해 마진 및 조건부 테스트와 연결한다.
• 두 수열과 매개변수에 의존하는 일반화된 균일한 무작위성 테스트를 도입하여 매개변수화된 측도로의 확장을 가능하게 한다.
• 알고리즘적 극한 정의를 정당화하기 위해 Radon–Nikodym 도함수와 Lebesgue 미분 정리를 고전적 유사체로 사용한다.
• 비하한 절삭 가능하지 않은 분모를 고려하여 적분이 유계이고 테스트 성질을 유지할 수 있도록 테스트 함수에 대한 자르기 연산을 도입한다.

실험 결과

연구 질문

• RQ1 알고리즘적 확률 이론에서 무작위 수열의 접두사에 따라 조건부 확률의 극한이 존재하는 조건은 무엇인가?
• RQ2 합성 측도가 계산 가능할 때조차도 조건부 분포가 비계산 가능할 수 있는가?
• RQ3 알고리즘적 무작위성 맥락에서 비계산 가능하거나 매개변수화된 측도에 대해 van Lambalgen의 정리를 어떻게 일반화할 수 있는가?
• RQ4 Martin-Löf 무작위성은 조건부 확률 극한의 수렴을 보장하는 데 어떤 역할을 하는가?
• RQ5 매개변수에 의존하는 측도에 대해 균일한 무작위성 테스트를 정의할 수 있으며, 이는 합성 및 조건부 무작위성과 어떻게 관련되는가?

주요 결과

• 두 캄토르 공간의 곱에 대해 계산 가능한 측도가 주어지면, 첫 번째 성분에서 Martin-Löf 무작위 수열의 접두사에 따라 조건부 확률의 극한이 존재하며, 이는 두 번째 성분에 대해 잘 정의된 측도를 정의한다.
• 합성 측도가 계산 가능할지라도 조건부 분포가 비계산 가능한 경우가 존재한다. 이는 조건부 수열이 Martin-Löf 무작위일지라도 마찬가지다.
• 조건부 확률의 극한은 Lebesgue 미분 정리에 의해 거의 어디서나 고전적 조건부 측도와 일치한다.
• 일반화된 van Lambalgen의 정리는 균일한 무작위성 테스트에 대해 성립하며, 합성 무작위성 결함이 마진 및 조건부 성분으로 분해되며, O(1) 오차 항이 존재한다.
• 비하한 절삭 가능하지 않은 비율을 처리하기 위해 조건부 측도에 대한 유계 테스트 함수를 구성하기 위해 자르기 연산이 필요하며, 이는 테스트의 타당성을 보장한다.
• 합성 측도가 연속일 경우 조건부 측도는 조건부 수열에 대해 연속적이지만, 일반적으로 이 성질은 성립하지 않는다.