[論文レビュー] Solving the Baby Intuitions Benchmark with a Hierarchically Bayesian Theory of Mind

Tan Zhi‐Xuan, Nishad Gothoskar+4 more|arXiv (Cornell University)|Aug 4, 2022

Child and Animal Learning Development被引用数 5

ひとこと要約

この論文は、エージェントの好みと効率性に関する階層的事前分布を用いる階層的ベイジアン心の理論（HBToM）モデルを提案する。このモデルは、少数の観察から目的志向的行動について解釈可能かつ人間らしく推論可能であり、Baby Intuitions Benchmarkでほぼ完璧な正確性を達成する。構造的ベイジアン推論により妥当性を推論することで、深層学習および模倣学習のベースラインを上回り、人間らしさのある心の状態の帰属を実現する。

ABSTRACT

To facilitate the development of new models to bridge the gap between machine and human social intelligence, the recently proposed Baby Intuitions Benchmark (arXiv:2102.11938) provides a suite of tasks designed to evaluate commonsense reasoning about agents' goals and actions that even young infants exhibit. Here we present a principled Bayesian solution to this benchmark, based on a hierarchically Bayesian Theory of Mind (HBToM). By including hierarchical priors on agent goals and dispositions, inference over our HBToM model enables few-shot learning of the efficiency and preferences of an agent, which can then be used in commonsense plausibility judgements about subsequent agent behavior. This approach achieves near-perfect accuracy on most benchmark tasks, outperforming deep learning and imitation learning baselines while producing interpretable human-like inferences, demonstrating the advantages of structured Bayesian models of human social cognition.

研究の動機と目的

• 機械学習モデルが目的志向的行動や好みに関して人間らしい社会的認知を推論する能力に欠けるというギャップを埋める。
• インファンチルな直感的心理学を反映する、構造的で解釈可能なモデルを構築し、エージェントの目的、好み、効率性について推論する。
• 階層的ベイジアンモデルが最小限の訓練でBaby Intuitions Benchmarkにおいて高い正確性を達成できることを示す。深層学習および模倣学習のベースラインを上回る。
• 民間心理学的概念に整合した理論的根拠に基づいた説明可能なフレームワークを提供し、人工エージェントにおける心の理論のモデリングを実現する。

提案手法

• エージェントの好み（θₙ）および効率性（βₙ）に対して階層的事前分布を用い、少数の観察から心的状態の推論を可能にする。
• 観察された行動から目的と方策を推論するためのベイジアン逆プランニングを用い、方策はエージェントの効率性によって調整される。
• オンライン推論を通じて、目的および効率性の事後分布を推定し、複数回の馴致試行にわたって信念を更新する。
• 全変動と対数尤度の変化を含む、驚異度メトリクスを用いて妥当性判断を計算する。
• 確率的プログラミングを用いて実装し、迅速なオンライン推論とニューラルガイドとの統合を可能にする。
• 明示的なバックプロパゲーションを用いずに、観察された状態-行動トラジェクトリにベイジアン条件付けを適用することで、暗黙的に訓練される。

実験結果

リサーチクエスチョン

• RQ1 階層的事前分布を備えた構造的ベイジアンモデルは、少数の観察試行からエージェントの目的と傾向を正確に推論でき、インファンチルな直感的心理学を模倣できるか？
• RQ2 深層学習および模倣学習のベースラインと比較して、階層的ベイジアン推論はBaby Intuitions Benchmarkにおけるエージェントの妥当性推論においてどのように性能を発揮するか？
• RQ3 目的および効率性の事後分布のシフトに基づく驚異度メトリクスは、人間らしい妥当性判断をどの程度説明できるか？
• RQ4 大規模な訓練データを必要とせず、解釈可能で人間が理解可能なエージェントの傾向および心的状態の推論をモデルが生成できるか？
• RQ5 異なる驚異度メトリクス（例：目的の事後分布シフト、効率性の事後分布シフト、対数尤度）は、妥当性を決定する上でどのような役割を果たすか？また、それらは独立して使用可能か？

主な発見

• HBToMモデルは、Baby Intuitions Benchmarkの大多数のタスクでほぼ完璧なペアワイズ正確性を達成し、深層学習および模倣学習のベースラインを著しく上回る。
• 好みおよび効率性のタスクでは、100％に近い正確性を達成し、最小限の観察からの強力な少データ一般化を示している。
• 目的および効率性の事後分布の変化を追跡することで、解釈可能な推論を生成する。たとえば、新しいエージェントが観察された際には、事前信念に戻る。
• 一部のサブタスクではベースラインよりわずかに性能が低い場合があるが、HBToMモデルは、ベンチマークのすべてのタスクにわたり高い全体的な一貫性と頑健性を維持している。
• アブレーション解析の結果、単一の驚異度メトリクスでは十分ではなく、人間の妥当性判断の全複雑性を捉えるには複合メトリクスが必要であることが示された。
• モデルの構造的事前分布により、広範な訓練を要せず、理論に基づいた迅速な推論が可能であり、社会的認知モデリングにおけるインダクティブバイアスの利点が顕著に現れている。