[論文レビュー] Strength Factors: An Uncertainty System for a Quantified Modal Logic

Naveen Sundar Govindarajulu, Selmer Bringsjord|arXiv (Cornell University)|May 30, 2017

Logic, Reasoning, and Knowledge参考文献 8被引用数 5

ひとこと要約

本稿は、確率論と証明論を統合して信念の強さと妥当性を定量化する、一階モーダル論理における新しい不確実性システム $σ$ を導入する。これはチシュルムの認識論に基づくもので、不確かな信念の構造的取り扱い、対仮説的推論、人間が理解可能な説明を可能にする。実例としてロトのパラドックスとエージェントの信念正当化を示している。

ABSTRACT

We present a new system S for handling uncertainty in a quantified modal logic (first-order modal logic). The system is based on both probability theory and proof theory. The system is derived from Chisholm's epistemology. We concretize Chisholm's system by grounding his undefined and primitive (i.e. foundational) concept of reasonablenes in probability and proof theory. S can be useful in systems that have to interact with humans and provide justifications for their uncertainty. As a demonstration of the system, we apply the system to provide a solution to the lottery paradox. Another advantage of the system is that it can be used to provide uncertainty values for counterfactual statements. Counterfactuals are statements that an agent knows for sure are false. Among other cases, counterfactuals are useful when systems have to explain their actions to users. Uncertainties for counterfactuals fall out naturally from our system. Efficient reasoning in just simple first-order logic is a hard problem. Resolution-based first-order reasoning systems have made significant progress over the last several decades in building systems that have solved non-trivial tasks (even unsolved conjectures in mathematics). We present a sketch of a novel algorithm for reasoning that extends first-order resolution. Finally, while there have been many systems of uncertainty for propositional logics, first-order logics and propositional modal logics, there has been very little work in building systems of uncertainty for first-order modal logics. The work described below is in progress; and once finished will address this lack.

研究の動機と目的

• 認知エージェントにおける反復的信念と対仮説的推論をサポートする、量化されたモーダル論理の実用的不確実性システムの開発。
• チシュルムの抽象的な認識論的概念「妥当性」を、形式的確率論と証明論的メカニズムに根ざしたものとして形式化すること。
• 非専門家が混乱するような原始的な確率値を避けて、直感的で人間が読める説明を生成するシステムの構築。
• 既に偽であることが分かっているが、説明や推論において意味を持つ対仮説的文に不確実性値を割り当てる仕組みの実現。
• 道徳的推論、倫理的意思決定、人間-ロボットインタラクションなど、信念の強さの正当化が求められる応用分野をサポートすること。

提案手法

• 道徳的認知イベント計算（$\mathcal{DCEC}$）の部分集合たるマイクロ認知微積分（$\mathcal{\mu C}$）に、信念（$\mathbf{B}$）と知覚（$\mathbf{P}$）のモーダル作用素を拡張する。
• 信念集合 $\Gamma$ と整合的で代替可能な信念集合 $\Gamma'$ の間の距離を測る強さ要因 $\delta^a_t(\Gamma, \Gamma')$ を導入し、メトリック $\rho$ に基づく最小変更に基づく。
• 妥当性を3つの条件で定義する：(1) $\delta^a_t(\Gamma, \Gamma_1) < \delta^a_t(\Gamma, \Gamma_2)$、(2) $\rho(\Gamma, \Gamma_1) < \rho(\Gamma, \Gamma_2)$、(3) $\pi(\Gamma, \Gamma_1) < \pi(\Gamma, \Gamma_2)$、ここで $\pi$ は証明の複雑さを測る。
• 命題に確率関数 $\mathbf{Pr}$ を割り当て、それを妥当性比較に用いる。
• ロトのパラドックスに応用し、一貫性と最小限の逸脱のおかげで、特定の当選チケットが当選していないと信じるのは妥当であることを示す。
• 強さ要因の比較を通じて説明スキーマを生成し、エージェントが自然言語で信念を正当化できるようにする。

実験結果

リサーチクエスチョン

• RQ1 チシュルムの認識論的概念「妥当性」を、一階モーダル論理において確率論と証明論を用いて形式化できるか？
• RQ2 統合的システムとして、反復的信念と対仮説的推論における不確実性を定量化しつつ、非専門家にとっても解釈可能であるか？
• RQ3 既に偽であることが分かっている対仮説的文に、不確実性値を割り当てることは可能か？しかし、説明や推論において意味を持つ。
• RQ4 原始的な確率値を公開せずに、高レベルで人間が理解可能な信念強度の説明を生成するメカニズムは何か？
• RQ5 $\delta$ メトリック下での最小信念集合変更（$\min_{\langle\Theta,\Lambda\rangle}$）の計算に伴う計算上の課題は何か？そして、それらをどのように解決できるか？

主な発見

• システム $\mathcal{S}$ は、一貫性と信念集合の最小限の逸脱のおかげで、特定のロトチケットが当選していないと信じるのは妥当であることを示し、ロトのパラドックスを効果的に解決した。
• 対仮説的文（例：「私が行動しなかったら、$\phi$ が起きたに違いない」）ですら、妥当性フレームワークを用いることで不確実性値を割り当てることができ、命題が偽であることが分かっていても問題ない。
• 強さ要因 $\delta^a_t(\Gamma, \Gamma')$ により、信念集合の正式な比較が可能になり、現在の信念状態からの最小逸脱に基づいて、どの信念がより妥当であるかを同定できる。
• 確率（$\mathbf{Pr}$）、証明の複雑さ（$\pi$）、信念集合の距離（$\rho$）を統合した妥当性測度により、不確実性の多面的定量化が可能になった。
• 強さ要因の比較を通じて説明スキーマを生成でき、エージェントが「この信念は、現在の信念集合に対する変更が少ないためより妥当である」といった直感的な基準で信念を正当化できる。
• 一階論理へのモーダル信念式の翻訳により、標準的一階定理証明機を用いた効率的推論が可能であるが、効率的な近似推論は今後の課題である。