[논문 리뷰] On S-Finite Measures and Kernels

Matthijs Vákár, C.-H. Luke Ong|arXiv (Cornell University)|2018. 10. 03.

Mathematical Analysis and Transform Methods참고 문헌 10인용 수 8

한 줄 요약

이 논문은 이전에 다루지 않았지만 일阶 확률 프로그램 모델링에 필수적인 s-유한 측도와 커널에 대한 기초 이론을 수립한다. 라돈-니코다임, 르베그 분해, 분해 정리와 같은 정리들을 확립하고, 이를 고차원 확률 프로그래밍을 지원하기 위해 쿼asi-보렐 공간으로 확장한다. 주요 기여는 중요도 샘플링과 거부 샘플링과 같은 핵심 확률 프로그램 변환을 정당화하는 구성적이고 커널 중심의 프레임워크를 제공하는 것이다.

ABSTRACT

In this note, we develop some of the basic theory of s-finite (measures and) kernels, a little-studied class of kernels which Staton has recently convincingly argued is precisely the semantic counterpart of (first-order) probabilistic programs. We discuss their Carathéodory extension and extend Staton's analysis of their product measures. We give various characterisations of such kernels and discuss their relationship to the more commonly studied classes of $σ$-finite, subprobability and probability kernels. We use these characterisations to establish suitable Radon-Nikodým, Lebesgue decomoposition and disintegration theorems for s-finite kernels. We discuss s-finite analogues of the classical randomisation lemma for probability kernels. Throughout, we give some examples to explain the connection with (first-order) probabilistic programming. Finally, we briefly explore how some of these results extend to quasi-Borel spaces, hence how they apply to higher-order probabilistic programming.

연구 동기 및 목표

• 스탯온(2017)이 일阶 확률 프로그램의 의미론적 대응으로 지목한 s-유한 측도와 커널에 대한 엄밀한 측도론적 기반을 확립하기 위해.
• 문헌에서의 격차를 메우기 위해 s-유한 커널 전용으로 핵심 정리인 라돈-니코다임, 르베그 분해, 분해 정리를 개발하기 위해.
• 이러한 결과들을 쿼아시-보렐 공간으로 확장하여 고차원 확률 프로그래밍에의 적용을 가능하게 하기 위해.
• 중요도 샘플링, 거부 샘플링, 기호적 분해와 같은 일반적인 확률 프로그래밍 기법들의 의미론적 타당성을 정밀한 수학적 조건을 통해 명확히 하기 위해.

제안 방법

• 유한 커널의 가산 합으로 s-유한 커널을 특성화하여, 합성에 대해 닫혀 있는 비정규화된 측도와의 동치성을 확립한다.
• 카라테오도리 확장 정리를 사용하여 표준 보렐 공간 위의 s-유한 전측도를 전체 측도로 확장한다.
• 가측 함수 [0,∞]로의 사상과 가측 분할을 사용하여 쿼아시-보렐 공간 위의 s-유한 측도에 대한 라돈-니코다임 및 르베그 분해 정리를 증명한다.
• 쿼아시-보렐 공간의 함자적 구조를 이용해 가측 선택과 측도의 당김을 통해 분해를 구성한다.
• s-유한 커널의 랜덤화를 단일 균일 랜덤 생성기와 결정적 재가중 함수의 합성으로 정의한다.
• 잊혀진 함자 Σ와 모나드 T 사이의 수반 관계를 활용하여, 가측 공간에서의 결과를 쿼아시-보렐 공간으로 옮긴다.

실험 결과

연구 질문

• RQ1 어떤 s-유한 커널이 다른 커널에 대해 절대 연속일 필요 및 충분 조건은 무엇이며, 이를 밀도 함수로 어떻게 표현할 수 있는가?
• RQ2 르베그 분해 정리는 s-유한 측도로 일반화될 수 있는가? 만약 가능하면 상호로 비슷한 성분들은 어떻게 특성화되는가?
• RQ3 쿼아시-보렐 공간 간의 s-유한 커널에 대해 분해 정리가 성립하는 조건은 무엇인가?
• RQ4 어떻게 하면 s-유한 커널을 단일 균일 커널의 랜덤화와 그 다음에 이어지는 결정적 변환으로 분해할 수 있는가?
• RQ5 고전적인 확률 프로그램 변환—예를 들어 중요도 샘플링과 거부 샘플링—은 s-유한 측도 이론에서 알려진 정리들과 어느 정도 대응되는가?

주요 결과

• 쿼아시-보렐 공간 위의 s-유한 측도에 대한 라돈-니코다임 정리는 측도가 확장된 의미에서 절대 연속일 때만 성립하며(μ ≪∞ ν), 이 경우 밀도는 [0,∞]로의 쿼아시-보렐 사상으로 주어진다.
• 쿼아시-보렐 공간 위의 s-유한 측도에 대한 르베그 분해 정리는 절대 연속, 무한, 비슷한 성분으로 유일하게 분해되며, 각 성분은 모두 s-유한이다.
• 르베그 분해의 각 성분은 르베그 측도를 쿼아시-보렐 사상에 따라 보편화함으로써 유도되며, 이는 성분들이 s-유한이면서 가측적임을 보장한다.
• 표준 보렐 공간에 대해 s-유한 커널의 분해 정리는 성립하며, 성분들은 커널의 구조에 의해 유도된 가측 분할 위에 지지된다.
• 랜덤화 보조정리는 임의의 s-유한 커널이 단일 균일 랜덤 생성기와 결정적 재가중 함수의 합성으로 표현될 수 있음을 보여주며, 이는 확률 프로그램의 구현이 단일 랜덤 자원으로 가능함을 정당화한다.
• 측도론적 결과들은 가측 공간과 쿼아시-보렐 공간 사이의 수반 관계를 통해 쿼아시-보렐 공간으로 확장되며, 함자 Σ에 의해 s-유한 측도와 커널의 구조가 유지된다.