[論文レビュー] The Compositional Structure of Bayesian Inference

Dylan Braithwaite, Jules Hedges+1 more|arXiv (Cornell University)|Jan 1, 2023

Bayesian Modeling and Causal Inference被引用数 4

ひとこと要約

この論文は、マーカフ核の対称モノイダル圏においてベイズ推論を構成的プロセスとして形式化し、バックプロパゲーションに類似したレンズ型の連鎖則を用いてベイズ逆転を体系的に局所的に計算できることを示している。主な貢献は、型駆動で構成的に正しい推論を可能にする関手的で型に基づいた確率的プログラミングのフレームワークを提供することであり、これは構成的逆転とパラメータ化された損失関数による近似推論を可能にする。

ABSTRACT

Bayes' rule tells us how to invert a causal process in order to update our beliefs in light of new evidence. If the process is believed to have a complex compositional structure, we may observe that the inversion of the whole can be computed piecewise in terms of the component processes. We study the structure of this compositional rule, noting that it relates to the lens pattern in functional programming. Working in a suitably general axiomatic presentation of a category of Markov kernels, we see how we can think of Bayesian inversion as a particular instance of a state-dependent morphism in a fibred category. We discuss the compositional nature of this, formulated as a functor on the underlying category and explore how this can used for a more type-driven approach to statistical inference.

研究の動機と目的

• 特定の確率的モデルから独立して、カテゴリカルな枠組みの中でベイズ逆転を構成的演算として形式化すること。
• ベイズ逆転が事前分布に依存するという課題に、ファイブレート圏における状態依存型の射を導入することで対処すること。
• 確率的プログラミングにおけるモジュラーで再利用可能な推論コンポONENTをサポートする関手的構造を、ベイズ逆転に導入すること。
• 確率的推論、自動微分、予測コーディングの概念を、共通の構成的レンズ枠組みを通じて統合すること。
• 従属型と構成的損失関数を用いて、確率的プログラミングにおけるアルゴリズム最適化と静的型安全性を実現すること。

提案手法

• コピーと削除写像を備えた対称モノイダル圏に基づくカテゴリカルな枠組みを用い、マーカフ核とその合成をモデル化する。
• ベイズ逆転を、入力対象上の事前分布に依存する状態依存型の射として、ファイブレート圏内で定義する。
• ベイズ逆転の連鎖則を導入する：BayesInv(f ∘ g, p) = BayesInv(g, p) ∘ BayesInv(f, g ∘ p)。これは逆モード自動微分に類似している。
• 各射に関連するベイズ逆転を備えたカテゴリを構築することで、ベイズレンズのカテゴリを構成し、構成的推論を可能にする。
• ストリング図を用いて推論計算を視覚化・簡略化し、複雑な式を直感的な図的合成に還元する。
• Kullback-Leibler 散逸や変分自由エネルギーなどのパラメータ化された損失関数を導入し、構成的逆転における近似誤差を定量化する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ逆転は、連続する確率的プロセスに体系的に合成可能か。その場合、どのようなカテゴリカルな条件下で可能か？
• RQ2 ベイズ逆転が事前分布に依存するという性質が、カテゴリカル枠組みにおけるその構成的構造に与える影響は何か？
• RQ3 ベイズ更新の連鎖則をマーカフ圏上で関手として形式化できるか。その構造的性質は何か？
• RQ4 ベイズ逆転のレンズ型構造を活用して、バックプロパゲーションや予測コーディングなどの双方向プロセスと統合できるか？
• RQ5 構成的ベイズ逆転を用いて、構成的に正しい近似推論アルゴリズムを構築できるか？

主な発見

• ベイズ逆転は、逆モード自動微分に類似した連鎖則を介して合成可能であり、効率的でモジュラーな推論計算を可能にする。
• ベイズ逆転の構成的構造は、状態依存型の射を通じて事前分布に依存するマーカフ圏上の関手として形式化される。
• ストリング図は、複雑な推論式の簡略化と推論を可能にする強力な視覚的計算体系を提供し、背後にある構成的パターンを明らかにする。
• 近似ベイズ逆転は、Kullback-Leibler 散逸などの局所的損失関数を用いてパラメータ化可能であり、根拠に基づいたモジュラーな近似を可能にする。
• このフレームワークは、共通のレンズ型構造を通じて、確率的推論と予測コーディング、強化学習を自然に統合する。
• このアプローチは、型駆動で構成的に正しい確率的プログラミング言語の設計を可能にし、静的検証や最適化の可能性を秘めている。