[論文レビュー] The ORCA Hub: Explainable Offshore Robotics through Intelligent Interfaces

Helen Hastie, Katrin S. Lohan+6 more|arXiv (Cornell University)|Mar 6, 2018

Reservoir Engineering and Simulation Methods被引用数 30

ひとこと要約

ORCA Hubは、自律的で説明可能なマルチモーダルな人間-ロボットインタフェースを提案し、オффショアロボティクスの分野において、ロボットの行動、認識、計画に関するリアルタイムで文脈に適した説明を提供することで、信頼性と状況認識を向上させる。因果モデルと適応型インタフェースを用いることで、高リスクで複雑な環境下での意思決定を支援し、認知的負荷を低減する。

ABSTRACT

We present the UK Robotics and Artificial Intelligence Hub for Offshore Robotics for Certification of Assets (ORCA Hub), a 3.5 year EPSRC funded, multi-site project. The ORCA Hub vision is to use teams of robots and autonomous intelligent systems (AIS) to work on offshore energy platforms to enable cheaper, safer and more efficient working practices. The ORCA Hub will research, integrate, validate and deploy remote AIS solutions that can operate with existing and future offshore energy assets and sensors, interacting safely in autonomous or semi-autonomous modes in complex and cluttered environments, co-operating with remote operators. The goal is that through the use of such robotic systems offshore, the need for personnel will decrease. To enable this to happen, the remote operator will need a high level of situation awareness and key to this is the transparency of what the autonomous systems are doing and why. This increased transparency will facilitate a trusting relationship, which is particularly key in high-stakes, hazardous situations.

研究の動機と目的

• 高リスクなオフショアエネルギー環境における自律システムに対する低い信頼性の課題に対処すること。
• ロボットの行動に関するカスタマイズ可能で文脈に敏感な説明を提供することで、遠隔運用者の認知的負荷を低減すること。
• 認識、計画、行動に関する透明で問診可能な説明を提供することで、人間-ロボット協働を可能にすること。
• 深層学習やベイジアンネットワークを含むブラックボックスおよびグレイボックスAIモデル（例：CNN、RNN）を、説明可能なフレームワークに統合すること。
• 個々のメンタルモデル、モダリティ、およびリアルタイムの認知状態に適応するユーザ中心のインタフェースを開発すること。

提案手法

• ユーザの文脈と認知的負荷に基づいて、説明の内容とモダリティを動的に調整する適応的で文脈に即したマルチモーダルインタフェースを設計すること。
• 瞳孔反応、NASA-TLXなど非侵襲的な認知的負荷測定法を用い、情報提供を動的に制御すること。
• 特にCNNやRNNのようなブラックボックスモデルに対し、因果モデル誘導を用いてロボット行動とコントローラーからの因果的説明を生成すること。
• 階層的認知的チャンク化と知覚処理の原則を活用し、人間の理解を効率的に行うための説明構造を設計すること。
• 因果的計画構造と再計画出力を説明生成の出力源として統合し、追跡可能な推論を可能にすること。
• DARPA XAI COGLEプロジェクトの技術を応用し、観察データからプログラム的モデルを導出し、解釈可能性を向上させること。

実験結果

リサーチクエスチョン

• RQ1 オフショア環境における自律的システムは、どのように認知的負荷を低減する即時の説明を提供できるか？
• RQ2 異なるユーザのメンタルモデルや運用状況において、どの形の説明（テキスト、視覚、自然言語）が最も効果的か？
• RQ3 ブラックボックスのロボット行動からどのように因果モデルを誘導し、問診可能な透明性を実現できるか？
• RQ4 高リスクなロボット作業において、説明の質と有用性を最もよく評価する指標は何か？
• RQ5 個々のユーザに合わせたパーソナライズされた説明は、どのようにして明確さを保ちつつ認知的負荷を低減できるか？

主な発見

• ORCA Hubは、ブラックボックスモデルですら、因果的で問診可能なロボット行動の表現を生成することで、説明可能な自律性を実現している。
• 認知的負荷を考慮した適応型インタフェース設計は、複雑なオフショア作業におけるロボットシステムの使いやすさと信頼性を向上させる。
• 認識、行動、計画に関する説明（例：「何を見ていますか？」や「なぜその行動をとったのですか？」）は、人間-ロボット協働において不可欠である。
• 観察データから因果モデルを誘導することで、内部のAIが不透明であっても、ロボット意思決定の解釈可能な説明が可能になる。
• 視覚的、テキスト的、聴覚的フィードバックのマルチモーダル統合は、状況認識を向上させ、より迅速で的確な意思決定を支援する。
• Flesch readabilityやユーザのパフォーマンスベンチマークといった指標を用いた説明の評価により、ユーザのニーズに合わせた説明スタイルのカスタマイズの重要性が確認された。