[論文レビュー] How Should a Robot Assess Risk? Towards an Axiomatic Theory of Risk in Robotics

Anirudha Majumdar, Marco Pavone|arXiv (Cornell University)|Oct 30, 2017

Risk and Safety Analysis被引用数 9

ひとこと要約

本稿は、ロボティクスにおけるリスク評価の公理的枠組みを提案し、金融分野に由来する歪みリスク指標を、合理的で信頼性のあるリスクの定量化ツールとして提唱している。本稿は、合理的なリスク評価のための公理を確立し、1ステップの指標を合成することで逐次意思決定における時間的一致性を示し、歪みリスク指標がリスク感受性と解釈可能性の両立を図る原理的クラスであることを特定している。

ABSTRACT

Endowing robots with the capability of assessing risk and making risk-aware decisions is widely considered a key step toward ensuring safety for robots operating under uncertainty. But, how should a robot quantify risk? A natural and common approach is to consider the framework whereby costs are assigned to stochastic outcomes - an assignment captured by a cost random variable. Quantifying risk then corresponds to evaluating a risk metric, i.e., a mapping from the cost random variable to a real number. Yet, the question of what constitutes a "good" risk metric has received little attention within the robotics community. The goal of this paper is to explore and partially address this question by advocating axioms that risk metrics in robotics applications should satisfy in order to be employed as rational assessments of risk. We discuss general representation theorems that precisely characterize the class of metrics that satisfy these axioms (referred to as distortion risk metrics), and provide instantiations that can be used in applications. We further discuss pitfalls of commonly used risk metrics in robotics, and discuss additional properties that one must consider in sequential decision making tasks. Our hope is that the ideas presented here will lead to a foundational framework for quantifying risk (and hence safety) in robotics applications.

研究の動機と目的

• リスク指標の選定における理論的根拠の欠如に応じ、ロボティクスにおけるリスク評価の原則的で公理的な基盤を確立すること。
• 安全が重要なロボットアプリケーションにおいて、合理的で信頼できると見なされるリスク指標が満たすべき性質（公理）を特定すること。
• 歪みリスク指標がこれらの公理を満たし、ロボティクスに適した数学的に整合性のあるリスク指標のクラスを提供することを示すこと。
• 1ステップのリスク指標を合成することで、時間的一致性を確保し、長期的な意思決定において合理的なリスク評価が保たれることを示すこと。
• 人間のリスク嗜好と規制枠組みとを結びつけることで、特に自動運転車両のような安全が重要な分野におけるリスク指標の選定や学習を支援すること。

提案手法

• 金融分野における一貫性のあるリスク指標の公理—平行移動不変性、単調性、正同次性、劣加法性—をロボティクスのリスク評価の基礎的性質として採用する。
• 歪み関数を用いて累積分布関数の値を再重み付けすることで、提案された公理を満たすリスク指標のクラスとして歪みリスク指標を定義する。
• 意思決定段階に跨る1ステップ歪みリスク指標の再帰的合成により、時間的一致性のあるリスク指標を構築し、時間経過に伴う合理的な評価を保証する。
• 歪みリスク指標の表現定理を用いて、公理を満たす指標の全クラスを特徴づけ、体系的な指標設計を可能にする。
• 人間のリスク嗜好を、一貫性のあるリスク指標のクラスから学ぶためのリスク感受性逆強化学習のフレームワークを導入する。
• リスクを1ステップのリスク評価の合成としてモデル化することで、フレームワークを逐次的意思決定に適用し、時間的スケールに跨る一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 ロボティクスの意思決定において不確実性下で合理的で信頼できると見なされるリスク指標が満たすべき公理は何か？
• RQ2 金融分野で既に使用されている歪みリスク指標は、期待コストや最悪ケース分析の代替として、ロボティクスに適応可能であり、原則的であると見なせるか？
• RQ3 時間的一致性を確保するため、逐次的意思決定タスクにおけるリスク指標はどのように設計すべきか？長期にわたり不合理な行動を避けるには？
• RQ4 非一貫性のあるリスク指標（例：VaR）をロボティクスに使用した場合の影響は何か？なぜそれらは不合理または非効率な行動を引き起こしやすいのか？
• RQ5 人間の嗜好に基づいてリスク指標を選んだり学習したりすることで、ロボットの行動を人間の安全への期待に合わせられるか？

主な発見

• 歪みリスク指標は、平行移動不変性、単調性、正同次性、劣加法性という提案された公理を満たしており、ロボティクスにおけるリスク評価の合理的な選択肢である。
• 1ステップの歪みリスク指標を再帰的に合成することで、逐次的意思決定における時間的一致性が達成され、時間経過に伴う自己矛盾のないリスク評価が保証される。
• 歪みリスク指標の使用により、リスク中立的な期待コストや過剰に保守的な最悪ケース分析の欠点を回避し、バランスの取れたリスク感受性のある代替手段が得られる。
• 本フレームワークにより、理論的に根拠があり、実装可能なリスク認識計画および制御システムの開発が可能になる。
• 時間的一致性のあるリスク指標は、単一期間のリスク評価の合成として表現可能であり、多段階意思決定問題におけるスケーラブルで解釈可能な構造を提供する。
• 本稿は、将来的なロボティクスの規制枠組みにおいて、公式に承認されたリスク指標の使用が義務化される可能性を示唆しており、歪みリスク指標が標準化の有力候補であると提言している。