[論文レビュー] Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy

Ben Shneiderman|arXiv (Cornell University)|Feb 10, 2020

Human-Automation Interaction and Safety参考文献 25被引用数 13

ひとこと要約

本論文は、人間の高い制御とコンピュータの高い自動化の両方をバランスさせるようにすることで、システムの信頼性、安全性、信頼性を向上させるための、人間中心の人工知能（HCAI）フレームワークを提示する。人間や機械への過剰な依存が引き起こすリスクを回避するための設計原則を提案し、AI統合システムにおける人間のパフォーマンス、自己効力感、責任感の向上を実現する。

ABSTRACT

Well-designed technologies that offer high levels of human control and high levels of computer automation can increase human performance, leading to wider adoption. The Human-Centered Artificial Intelligence (HCAI) framework clarifies how to (1) design for high levels of human control and high levels of computer automation so as to increase human performance, (2) understand the situations in which full human control or full computer control are necessary, and (3) avoid the dangers of excessive human control or excessive computer control. The methods of HCAI are more likely to produce designs that are Reliable, Safe & Trustworthy (RST). Achieving these goals will dramatically increase human performance, while supporting human self-efficacy, mastery, creativity, and responsibility.

研究の動機と目的

• 人間の高い制御とコンピュータの高い自動化を統合することで、人間のパフォーマンスを向上させるフレームワークの開発。
• 完全な人間制御または完全なコンピュータ制御が不可欠となる状況を特定し、設計上の落とし穴を回避すること。
• 人間の過剰な制御（例：認知的負荷の増大）や過剰な自動化（例：無関心）に起因するリスクを回避すること。
• 人間中心の設計原則を通じて、信頼性・安全性・信頼性の高いシステムを促進すること。
• AI補完環境における人間の自己効力感、熟達、創造性、責任感を支援すること。

提案手法

• 人間の制御と機械の自動化のバランスに明確な注意を払ったシステム設計。
• システムアーキテクチャおよびインタラクション設計をガイドするHCAIフレームワークの適用。
• 人間の監視が不可欠な重要な意思決定ポイントと、安全に自動化が可能な領域の特定。
• 制御配分の極端さを避けるために、実証的および設計的推論の活用。
• AIシステムインターフェースにおける透明性、説明可能性、ユーザーの自律性の強調。
• AIシステム開発におけるヒューマンコンピュータインタラクション（HCI）の原則の適用。

実験結果

リサーチクエスチョン

• RQ1 AIシステムにおける人間の制御と機械の自動化をどのようにバランスさせれば、人間のパフォーマンスを最大化できるか？
• RQ2 どのような状況で完全な人間制御が不可欠であり、完全なコンピュータ制御がより適切なのか？
• RQ3 過剰な人間制御や過剰な自動化に起因するリスクを回避するための設計戦略は何か？
• RQ4 人間中心の設計を通じて、AIシステムをどのようにしてより信頼性・安全性・信頼性の高いものにできるか？
• RQ5 人間の自己効力感は、AI補完システムの成功において果たす役割は何か？

主な発見

• HCAIフレームワークは、制御と自動化のバランスを図ることで、人間のパフォーマンスを向上させるシステム設計を的確にガイドする。
• 高い人間制御と高い自動化を組み合わせたシステム設計は、誤りを低減し、ユーザー満足度を向上させる。
• 過剰な自動化は状況認識の低下とAIへの過剰な依存を引き起こし、リスクを増大させる。
• 過剰な人間制御は認知的負荷と意思決定の疲労を引き起こし、パフォーマンスを低下させる。
• フレームワークは、AIとの対話における人間の自己効力感、熟達、責任感を支援する。
• 意図的な設計を通じて、信頼性・安全性・信頼性の高いシステムが実現される。