[論文レビュー] Modeling the Mistakes of Boundedly Rational Agents Within a Bayesian Theory of Mind

Arwa Alanqary, Gloria Z. Lin+4 more|arXiv (Cornell University)|Jun 24, 2021

Evolutionary Game Theory and Cooperation被引用数 10

ひとこと要約

本稿は、ベイジアン理論的心の枠組みを拡張し、限定的合理性を持つエージェントが3段階の誤りを犯すのをモデル化している：誤った目的（意味的誤解による）、不完全な計画（計画深さの制限による）、意図しない行動（実行誤りによる）。確率的プログラムを用いてこれらの誤りを表現することで、特に目的が混同されたり計画が最適でなかったりする状況において、従来のモデルよりも人間の目的推論をよりよく説明できるようになった。

ABSTRACT

When inferring the goals that others are trying to achieve, people intuitively understand that others might make mistakes along the way. This is crucial for activities such as teaching, offering assistance, and deciding between blame or forgiveness. However, Bayesian models of theory of mind have generally not accounted for these mistakes, instead modeling agents as mostly optimal in achieving their goals. As a result, they are unable to explain phenomena like locking oneself out of one's house, or losing a game of chess. Here, we extend the Bayesian Theory of Mind framework to model boundedly rational agents who may have mistaken goals, plans, and actions. We formalize this by modeling agents as probabilistic programs, where goals may be confused with semantically similar states, plans may be misguided due to resource-bounded planning, and actions may be unintended due to execution errors. We present experiments eliciting human goal inferences in two domains: (i) a gridworld puzzle with gems locked behind doors, and (ii) a block-stacking domain. Our model better explains human inferences than alternatives, while generalizing across domains. These findings indicate the importance of modeling others as bounded agents, in order to account for the full richness of human intuitive psychology.

研究の動機と目的

• 従来のベイジアン理論的心のモデルが通常最適なエージェントを仮定しており、目的の混同や計画誤りといった高次の誤りを説明できないというギャップを埋めること。
• 人間の直感的思考を再現するため、目的・計画・行動という複数の認知的レベルで非最適な行動を考慮すること。
• 目的・計画・行動の誤りを統合的に組み込んだモデルが、行動ノイズや計画誤りのみを考慮するモデルよりも、人間の目的推論をよりよく説明できるかどうかをテストすること。
• 人々が限定的合理性に起因する誤り（例：目的の誤解、計画の不完全さ）を示す行動から、どのように目的を推論するかを調査すること。
• 異なるドメインにおいて、異なるレベルでの誤りタイプを別々にモデル化することで、人間の判断に近い忠実性が向上することを示すこと。

提案手法

• エージェントを、目的遷移、計画更新、行動選択、状態遷移を含む生成プロセスを通じて行動を生成する確率的プログラムとしてモデル化する。
• ベルヌーイノイズプロセスを導入し、確率εgで現在の目的を意味的に類似した目的に確率的に置き換えることで、目的の混同を表現する。
• 資源の制限による計画を、負の二項分布を用いて探索予算をサンプリングすることでモデル化し、各ステップで部分的計画と再計画を可能にする。
• 正しい計画であっても、意図しない行動が生じる可能性がある確率的行動選択メカニズムを用いて、行動誤りを表現する。
• 逆推論を用いて、観察された行動シーケンスから目的に関する事後分布を計算し、心の理論的推論を可能にする。
• WebPPLなどの確率的プログラミングフレームワークを用いてモデルを実装し、異なる誤りタイプ間での推論をシミュレーションと比較する。

実験結果

リサーチクエスチョン

• RQ1 行動ノイズのみを仮定するモデルと比較して、目的・計画・行動の誤りをすべて考慮するベイジアン理論的心のモデルが、人間の目的推論をよりよく説明できるか。
• RQ2 人々は、非最適な行動を観察した際に、目的の誤り、計画の誤り、行動の誤りをどのように区別するか。
• RQ3 目的の混同が妥当なドメイン（例：スペルミスのある単語を含むブロックスタッキング）において、目的の混同を組み込むことでモデルの適合度が向上するか。
• RQ4 異なるパラメータ設定や誤りタイプに対して、モデルの性能はどれほど頑健か。
• RQ5 人々が他者の意図を推論する際、行動ノイズのような低レベルのノイズではなく、誤った目的のような高レベルの誤りモデルにどれほど依存するか。

主な発見

• 目的・計画・行動（GPA）の完全なモデルは、研究で使用された16の刺激すべてにおいて、人間の推論との相関が最も高かった（r = 0.86 ± 0.02）。
• エージェントが誤ったシーケンス「paer」を出力しても、時刻t=7までに正しい目的「pear」を正しく推論できた。これは、目的の混同に対して高い耐性を示している。
• 行動ノイズのみを考慮するボルツマンエージェントモデルは、経路長が短いことから「reap」を「pear」よりも好む誤った推論を示し、人間の真の目的に対する高い信頼度を説明できなかった。
• 行動誤りを含まないモデル（A-lesioned）は、すべての条件下で最も成績が悪く、ブロックスタッキング領域における正確な推論にとって実行誤りが不可欠であることを示している。
• 感度分析の結果、完全なモデルはすべてのパラメータセットで劣化モデルを上回り、大多数の設定で順序優位性（ordinal dominance）を示した。
• 目的の誤りのみを含むモデル（G-lesioned）は、計画誤りや行動誤りが存在する場合には著しく成績が悪く、複数の誤りタイプを同時にモデル化する必要があることを強調している。