[論文レビュー] Measuring Surprise in the Wild

Azadeh Dinparastdjadid, Isaac Supeene+1 more|arXiv (Cornell University)|May 12, 2023

Psychology of Moral and Emotional Judgment被引用数 4

ひとこと要約

本稿は、認知科学にインspiredされた驚きモデルと学習された生成モデルを組み合わせることで、特に道路交通のような現実世界の動的環境における驚きの測定に向けた新しい計算フレームワークを提案する。Antithesisと呼ばれる驚き測定法を提唱し、予測不可能でない情報の増加をフィルタリングすることで、従来のKLダイバージェンスに基づく手法に比べ、本質的に驚きの要因となる出来事の検出性能が優れている。

ABSTRACT

The quantitative measurement of how and when we experience surprise has mostly remained limited to laboratory studies, and its extension to naturalistic settings has been challenging. Here we demonstrate, for the first time, how computational models of surprise rooted in cognitive science and neuroscience combined with state-of-the-art machine learned generative models can be used to detect surprising human behavior in complex, dynamic environments like road traffic. In traffic safety, such models can support the identification of traffic conflicts, modeling of road user response time, and driving behavior evaluation for both human and autonomous drivers. We also present novel approaches to quantify surprise and use naturalistic driving scenarios to demonstrate a number of advantages over existing surprise measures from the literature. Modeling surprising behavior using learned generative models is a novel concept that can be generalized beyond traffic safety to any dynamic real-world environment.

研究の動機と目的

• 道路交通のような現実世界の複雑な環境に適用可能な定量的かつ計算的に実行可能な驚きの測定法を開発すること。
• 衝突検出やドライバー行動モデリングにおいてその重要性が認識されているにもかかわらず、交通セーフティ研究において実用化された驚きモデルが不足しているという問題に取り組むこと。
• 最先端の機械学習を用いて、ラボ環境にとどまらない認知科学および神経科学に基づく驚きモデルを一般化すること。
• 従来の予測の更新やモードの絞り込みといった、驚きではない情報の更新と本質的に驚きの出来事とを区別できる驚き指標を設計すること。
• 原理的かつ確率論的なフレームワークを用いて、自律走行車両のセーフティ、衝突検出、人間行動評価への応用を可能にすること。

提案手法

• フレームワークは、エージェントの世界に関する内部信念を表す生成モデルを用い、将来の状態における確率分布として期待を表現する。
• 驚きは、事前分布と事後予測分布の間のKullback-Leibler（KL）ダイバージェンス $D_{KL}(P(x|y) \parallel P(x))$ を用いた信念の不一致として定量化される。
• 提案されたAntithesis測定法は、観測が平均的な情報含量の外にあり、かつ新たな証拠の後でより起こりやすくなった領域に制限されたKL積分を用いる。これは述語 $C(P,x,y)$ で定義される。
• Antithesisは2段階の条件を適用する：(i) $\log(P(x)) < E_{x'}[\log(P(x'))]$ であり、これは事前分布に対して低い情報含量を意味する。また (ii) $P(x|y) > P(x)$ であり、これは以前にはありえなかった結果に信念が高まったことを示す。
• この方法は、サンプリングに基づく統合を用い、$C$ 条件を満たさないサンプルを破棄することで、驚きでない更新をフィルタリングする。
• 本手法は自然的ドライブシナリオで検証され、突然の歩行者による横断といった真の驚きの出来事への感受性が向上していることが示された。

実験結果

リサーチクエスチョン

• RQ1 従来のラボベースのモデルが失敗するような、道路交通のような複雑な現実世界の環境で、驚きをどのように定量的に測定できるか？
• RQ2 動的システムにおいて、本質的な驚きの出来事と、単なる信念の更新や情報の精錬とは何が異なるか？
• RQ3 信念の不一致と確率的生成モデルに基づく驚き指標は、標準的なKLダイバージェンスに比べ、予期しない行動の検出において優れているか？
• RQ4 Antithesis測定法は、真の驚きの出来事に対する感受性と特異性の観点で、既存の驚き測定法にどのように上回っているか？
• RQ5 このようなモデルは、交通セーフティを越えて、他の動的かつ現実世界の環境へ一般化できる程度はどの程度か？

主な発見

• Antithesisは、『期待外れ』という条件を導入しているため、KLダイバージェンスに比べてゼロの驚き値をとる割合が高くなり、驚きでない更新による誤検出が減少している。
• 本手法は、予期しない歩行者による突然のブレーキングのような出来事は顕著に驚きとして検出している一方で、ハンドルの点灯などの日常的な行動は的確に驚きでないと分類している。
• Antithesisは、一般的に信念の更新に見られる『モードの絞り込み』や『モードの削除』の出来事——これらは本質的な驚きではない——を効果的にフィルタリングしている。これに対して、標準的なKLダイバージェンスはそれらを誤って驚きと認識してしまう。
• このフレームワークは、信念の不一致測定法が、情報含量と信念の更新強度の両方を組み込むことで、より頑健に改善できることを示している。これにより、重要な交通出来事の検出性能が向上する。
• 実証的検証により、Antithesisは、例えば急な回避行動のような自然的ドライブにおける驚きの直感的感覚を、ベースライン手法に比べてよりよく捉えていることが示された。
• 本アプローチは、エージェントが確率的期待を形成するあらゆる動的環境に一般化可能であり、自律システム、人間-ロボットインタラクション、行動セーフティ分析への応用が期待される。