[論文レビュー] Representable Markov Categories and Comparison of Statistical Experiments in Categorical Probability

T. A. Fritz, Tomáš Gonda+2 more|arXiv (Cornell University)|Oct 14, 2020

Statistical Mechanics and Entropy被引用数 8

ひとこと要約

本稿は、表現可能マルコフ圏を導入し、統計的実験を比較するためのブラックウェル–シャーマン–スタインの定理の一般化を確立することで、カテゴリー的確率論を前進させる。1つの実験がベイズ的意味でもう1つの実験よりも情報が多いのは、第一の実験の期待事後分布が第二の実験のそれよりも2次のストキャスティック支配を満たすとき、かつそのときに限る。この結果は測度可測な事前分布に対して普遍的に成り立ち、古典的およびベイズ的両形式の定理を一般化する。

ABSTRACT

Markov categories are a recent categorical approach to the mathematical foundations of probability and statistics. Here, this approach is advanced by stating and proving equivalent conditions for second-order stochastic dominance, a widely used way of comparing probability distributions by their spread. Furthermore, we lay foundation for the theory of comparing statistical experiments within Markov categories by stating and proving the classical Blackwell-Sherman-Stein Theorem. Our version not only offers new insight into the proof, but its abstract nature also makes the result more general, automatically specializing to the standard Blackwell-Sherman-Stein Theorem in measure-theoretic probability as well as a Bayesian version that involves prior-dependent garbling. Along the way, we define and characterize representable Markov categories, within which one can talk about Markov kernels to or from spaces of distributions. We do so by exploring the relation between Markov categories and Kleisli categories of probability monads.

研究の動機と目的

• マルコフ圏を用いた統計的実験の比較のためのカテゴリー的基盤を構築すること。
• 表現可能なマルコフ圏を定義・特徴づけ、分布を射として形式的に取り扱えるようにすること。
• 2次ストキャスティック支配を、確率分布の分散の比較に用いるカテゴリー的道具として確立すること。
• 測度論的およびベイズ的両形式を含む、合成的・抽象的な設定への古典的ブラックウェル–シャーマン–スタインの定理の一般化を確立すること。
• ベイズ的意味での情報量の多さが、期待事後分布の2次ストキャスティック支配に一致することを証明すること。

提案手法

• 決定的射の包含関手に対する右随伴の存在によって、表現可能なマルコフ圏を特徴づけ、分布関手のカテゴリー的概念を可能にする。
• アフィン対称モノイドモノイドから生じるマルコフ圏が、その包含関手に右随伴をもつことと、表現可能であることとが同値であることを示す。
• 事前分布への可測な依存性を扱うために、ほとんど確実に相性のとれる表現可能性の概念を導入する。
• 1次および2次モーメントを保存するカップリング写像の存在を用いて、2次ストキャスティック支配をカテゴリー的に定義する。
• f が g よりも情報が多いことと、X × PΘ → Y なる射 c が存在して、f の事後分布が g のそれよりもストキャスティック支配する、という条件が同値であることを示すことにより、マルコフ圏におけるブラックウェル–シャーマン–スタインの定理を証明する。
• コルモゴロフの拡張定理とボレル–カンテリの補題を用いて、積空間におけるほとんど確実収束のための可測セレクタを構成する。

実験結果

リサーチクエスチョン

• RQ1 どのようなカテゴリー的条件下で、マルコフ圏が確率モノイドのクライスリー圏として表現可能になるか？
• RQ2 2次ストキャスティック支配は、合成的・カテゴリー的枠組みにおいてどのように定式化され、特徴づけられるか？
• RQ3 統計的実験を比較するためのブラックウェル–シャーマン–スタインの定理のカテゴリー的一般化は何か？
• RQ4 ベイズ的情報量は、カテゴリー的枠組みにおいて期待事後分布のストキャスティック支配とどのように関係するか？
• RQ5 古典的およびベイズ的ブラックウェル定理の両形式は、表現可能なマルコフ圏を用いて統一され、一般化可能か？

主な発見

• マルコフ圏が表現可能であることと、決定的射の包含関手に右随伴が存在することは同値であり、これは分布関手のカテゴリー的特徴づけを提供する。
• 2次ストキャスティック支配は、1次および2次モーメントを保存するカップリング写像の存在と同値であり、分布の分散のカテゴリー的比較を可能にする。
• マルコフ圏が BorelStoch（標準ボレル空間とマルコフ核の圏）であるとき、古典的ブラックウェル–シャーマン–スタインの定理が特別な場合として回復される。
• ベイズ的定理が証明される：f がすべての事前分布に対して g よりも情報が多いことと、f の期待事後分布が g のそれよりも2次ストキャスティック支配することとは同値である。
• 積空間におけるほとんど確実収束を可能にするために、積分の可測性と上側集合の性質を用いて、µ ↦ nk(µ) なる可測セレクタの存在が確立される。
• ベイズ的情報量を実現する射 c: X × PΘ → Y が可測であることが示され、可測空間の圏における構成が有効であることが保証される。