[論文レビュー] Bayesian Updates Compose Optically

Toby St Clere Smithe|arXiv (Cornell University)|May 31, 2020

Philosophy and History of Science参考文献 14被引用数 14

ひとこと要約

この論文は、光学とレンズの数学的枠組みを通じて、ベイズ更新が最適に合成可能であることを確立している。すなわち、複合確率的過程を逆転する際、全体を直接逆転するのと、その成分を逆順に逆転するのとで同じ結果が得られることを示している。主な貢献は、ベイズ逆転がファイブレート圏内において整合的かつ合成的構造をなしており、正確なベイズレンズが GetPut を満たすが、信念の混合のため PutGet や PutPut の法則は満たさないことを証明することにある。

ABSTRACT

Bayes' rule tells us how to invert a causal process in order to update our beliefs in light of new evidence. If the process is believed to have a complex compositional structure, we may ask whether composing the inversions of the component processes gives the same belief update as the inversion of the whole. We answer this question affirmatively, showing that the relevant compositional structure is precisely that of the lens pattern, and that we can think of Bayesian inversion as a particular instance of a state-dependent morphism in a corresponding fibred category. We define a general notion of (mixed) Bayesian lens, and discuss the (un)lawfulness of these lenses when their contravariant components are exact Bayesian inversions. We prove our main result both abstractly and concretely, for both discrete and continuous states, taking care to illustrate the common structures.

研究の動機と目的

• カテゴリー理論を用いてベイズ推論を合成的・双方向的変換として形式化すること。
• 複合確率的過程の逆転が、成分ごとのベイズ逆転を逆順に合成することで得られることを示すこと。
• ファイブレート圏の枠組み内で一般化された（混合）ベイズレンズの概念を定義すること。
• 標準レンズ法則（GetPut、PutGet、PutPut）の文脈において、ベイズレンズの法則性を分析すること、特に信念の混合との関係を考慮すること。

提案手法

• ベース圏に確率的チャネルが含まれ、ファイバーに信念更新マップが含まれるファイブレート圏における状態依存的モルフィズムとしてベイズ逆転を形式化すること。
• ビュー写像がベース圏のモルフィズムであり、アップデート写像がファイバー内の状態依存的チャネルであるベイズレンズの圏（BayesLens）を定義すること。
• 抽象的カテゴリー理論と離散的・連続的確率空間における具体的構成を用いて、主結果を証明すること。
• ヤヌイの埋め込みを適用してファイブレートレンズ構造を同等のカルテジアンオプティクス形式に翻訳し、標準レンズ合成を可能にすること。
• 定数ファンクターを介してベース圏のチャネルをファイバーに持ち上げることで、事前信念の文脈におけるレンズ法則を分析すること。
• 図式的同型と圏論的自然性を用いて、正確なベイズレンズにおける GetPut、PutGet、PutPut 法則の検証を行うこと。

実験結果

リサーチクエスチョン

• RQ1 複合確率的過程のベイズ逆転は、その成分の逆転を合成したものと等価か？
• RQ2 ベイズ推論は、確率論に従ったビュー写像とアップデート写像を持つファイブレート圏におけるレンズとして正式に記述可能か？
• RQ3 正確なベイズレンズは、標準データベースレンズ法則（GetPut、PutGet、PutPut）をどの程度満たすか？
• RQ4 ベイズ更新における信念の混合が PutGet および PutPut 法則の成立を妨げる理由は何か？これは認知的およびサイバネティクス的モデリングにどのような意味を持つのか？

主な発見

• この論文は、ベイズ更新が光学的に合成可能であることを証明している：チャネル X→Y→Z の逆転は、Y→Z と X→Y の逆転を反対順に合成したものと同型である。
• 正確なベイズレンズは、任意の逆転が可能であるとされる事前信念 π に対して GetPut 法則を満たす。これは、観測値が予測と一致する場合、信念が変化しないことを意味する。
• ベイズ更新が事前分布と尤度を混合するため、一般に PutGet および PutPut 法則は正確なベイズレンズでは成り立たない。これは上書きや不変保持とは異なる性質である。
• PutGet および PutPut 法則の不成立は、信念の混合に起因する。これは確率的推論において本質的であるが、データベースレンズのブール的・決定論的仮定とは整合しない。
• ベイズレンズのファイブレート圏は、ヤヌイの埋め込みを介して同等のカルテジアンオプティクスに翻訳可能であり、これにより標準的なオプティクス合成が可能になる。
• 垂直圏がベース圏と異なる混合ベイズレンズをサポートするため、認知的およびサイバネティクス的システムにおける信念更新のより豊かなモデリングが可能になる。