[論文レビュー] Norm Identification through Plan Recognition

Nir Oren, Felipe Meneguzzi|arXiv (Cornell University)|Oct 6, 2020

Logic, Reasoning, and Knowledge被引用数 11

ひとこと要約

本稿では、複数エージェントシステムにおける規範同一定義のための計画認識ベースのメカニズムを提案する。エージェントは準拠行動を観察し、HTN計画法を用いて生成された代替計画と照合することで規範を推論する。義務と禁止は、特定の状態の繰り返し回避または実行を通じて同定され、頻度閾値を用いた拡張により、違反が少ない環境でも規範検出が可能になる。

ABSTRACT

Societal rules, as exemplified by norms, aim to provide a degree of behavioural stability to multi-agent societies. Norms regulate a society using the deontic concepts of permissions, obligations and prohibitions to specify what can, must and must not occur in a society. Many implementations of normative systems assume various combinations of the following assumptions: that the set of norms is static and defined at design time; that agents joining a society are instantly informed of the complete set of norms; that the set of agents within a society does not change; and that all agents are aware of the existing norms. When any one of these assumptions is dropped, agents need a mechanism to identify the set of norms currently present within a society, or risk unwittingly violating the norms. In this paper, we develop a norm identification mechanism that uses a combination of parsing-based plan recognition and Hierarchical Task Network (HTN) planning mechanisms, which operates by analysing the actions performed by other agents. While our basic mechanism cannot learn in situations where norm violations take place, we describe an extension which is able to operate in the presence of violations.

研究の動機と目的

• 規範が明示的に伝えられていないオープンで動的なマルチエージェントシステムにおける規範同一定義の課題に対処すること。
• 違反のシグナルに依存せず、準拠エージェントの行動観察から規範を推論するメカニズムを開発すること。
• 義務と禁止の頻度ベースの閾値を組み込むことで、偶発的な規範違反に対応できるようにアプローチを拡張すること。
• 共有オントロジーも明示的な規範宣言もない環境でも、この手法が堅牢に機能することを保証すること。
• 変化するエージェント集団や進化する規範に適応可能な、規範的システムの基盤を提供すること。

提案手法

• 本手法は、計画認識によって推定された目的のための代替計画を生成するために階層的タスクネットワーク（HTN）プランナを用いる。
• 計画認識は、エージェントの行動シーケンスを分析することで、観察されたエージェントの包括的目標を特定する。
• 実際のエージェント行動と生成された代替計画を比較し、一貫して回避されたり繰り返し訪問されたりする状態を検出する。
• 常に回避される状態は禁止と分類され、頻繁に訪問される状態は義務として扱われる。
• 頻度ベースの閾値メカニズムを導入し、まれな違反と真正の禁止を区別することで、規範違反に対応できる。
• 本手法は共有の計画ライブラリと環境報酬の共通理解を仮定しており、エージェント間で一貫した規範推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 準拠的行動が主で違反が稀なマルチエージェントシステムにおいて、どのように規範を同定できるか？
• RQ2 社会の規範的構造について事前の知識がなくとも、どのようなメカニズムが規範同一定義を可能にするか？
• RQ3 コストや実行不能性といった非規範的制約によって回避される状態と、真正の禁止をどのように区別できるか？
• RQ4 計画認識は、義務や禁止といった道徳的概念の推論をどのように可能にするか？
• RQ5 本アプローチは、規範違反を処理しつつ、規範同一定義の正確性を維持するようにどのように拡張できるか？

主な発見

• 提案手法は、準拠エージェントの行動観察に依存するため、違反シグナルが乏しいまたは存在しない環境でも規範を効果的に同定できる。
• 計画認識とHTN計画法の活用により、繰り返しの状態回避や実行を通じて義務と禁止を検出できる。
• 頻度閾値を組み込んだ拡張により、偶発的な規範違反に対応でき、現実的環境での堅牢性が向上する。
• 実際の禁止により到達不能な状態が誤検出の原因となる可能性があるが、これらは規範準拠に影響しないため、実際の運用では問題にならない。
• 本手法は、下位の計画認識器の正確性に敏感であり、今後の改善には高度な確率的パーサ技術の活用が期待できる。
• 本手法は非公式な慣習を潜在的な規範として同定するが、これは公式に強制されるルールではなく、高効用な選択肢を表している可能性がある。