[論文レビュー] Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI

Wei Xu, Marvin J. Dainoff+2 more|arXiv (Cornell University)|May 12, 2021

Human-Automation Interaction and Safety被引用数 12

ひとこと要約

この論文は、人間-AIインタラクションにおけるHCI専門家が人間中心のAI（HCAI）システムを設計する際の、7つの新しい課題を特定し、それらに対処するための新しいHCI手法を提案するとともに、HCAIの原則をAI開発に統合するための戦略的助言を提示している。本論文は、AIシステムに対して従来のHCI手法が不十分であると主張し、倫理的で透明性があり、効果的な人間-AI協働を確保するための、適応的でHCAIを基軸とした設計アプローチの必要性を訴えている。

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. The focus of HCI work is transiting from conventional human interaction with non-AI computing systems to interaction with AI systems. We conducted a high-level literature review and a holistic analysis of current work in developing AI systems from an HCI perspective. Our review and analysis highlight the new changes introduced by AI technology and the new challenges that HCI professionals face when applying the human-centered AI (HCAI) approach in the development of AI systems. We also identified seven main issues in human interaction with AI systems, which HCI professionals did not encounter when developing non-AI computing systems. To further enable the implementation of the HCAI approach, we identified new HCI opportunities tied to specific HCAI-driven design goals to guide HCI professionals in addressing these new issues. Finally, our assessment of current HCI methods shows the limitations of these methods in support of developing AI systems. We propose alternative methods that can help overcome these limitations and effectively help HCI professionals apply the HCAI approach to the development of AI systems. We also offer strategic recommendations for HCI professionals to effectively influence the development of AI systems with the HCAI approach, eventually developing HCAI systems.

研究の動機と目的

• 従来のHCIの文脈に存在しない、AIシステムとの人間インタラクションにおける独自の課題を特定すること。
• AIシステム開発に応用された際の現在のHCI手法の限界を分析すること。
• 人間中心のAI（HCAI）開発を支援することを目的とした、新たなHCI手法および設計目標を提案すること。
• HCI専門家が人間中心の原則に従ってAIシステム設計に影響を与えるための戦略的助言を提供すること。
• 包括的で根拠に基づいた文献および実践のレビューを通じて、従来のHCIからHCAIへの移行を導くこと。

提案手法

• HCIの視点から、現在のAIシステム開発に関する包括的な文献レビューと全体的分析を実施した。
• 非AIコンピューティングシステムには存在しない、人間-AIインタラクションにおける7つの明確な問題を同定した。
• 既存のHCI手法を新規の課題にマッピングし、それらがHCAI設計を支援する上で抱える限界を明らかにした。
• 従来のHCI手法の限界を克服するための代替的でHCAIを基軸とした手法を提案した。
• 新しい手法の提案を、透明性、説明可能性、ユーザーのコントロール強化を高めるHCAIを基軸とした設計目標と一致させた。
• HCI専門家が人間中心の原則を通じてAI開発に積極的に影響を与えるための戦略的助言を提供した。

実験結果

リサーチクエスチョン

• RQ1 従来のヒューマンコンピュータインタラクションとは異なる、人間-AIインタラクションに新たに生じる課題は何ですか？
• RQ2 現在のHCI手法は、人間中心のAIシステムの開発を支援する上で、どのように不十分なのでしょうか？
• RQ3 人間-AIインタラクションの独自の課題に効果的に対処できる新しいHCI手法は何か？
• RQ4 HCI専門家はどのようにして、人間中心の設計を優先するようAIシステム開発に戦略的に影響を与えることができますか？
• RQ5 持続可能な人間中心のAI開発を可能にするために、どのような設計目標と手法の転換が必要ですか？

主な発見

• HCI専門家が非AIシステム開発では直面しなかった、モデルの不透明性、動的挙動、信頼のキャリブレーションといった、7つの明確な人間-AIインタラクションの課題が同定された。
• ユーザビリティテストやタスク分析といった従来のHCI手法は、AIシステム挙動の複雑さやユーザー-AIインタラクションのダイナミクスを十分に捉えることができない。
• 本論文は、AIシステムにおける透明性、説明可能性、ユーザーのコントロールをより効果的に支援する、HCAIに適合した新しい手法を提案している。
• 現在のHCI実践は、AIモデルの進化し、決定論的でない性質を十分に扱っておらず、結果として一貫性のないユーザー体験を生じさせている。
• HCI専門家がAI開発において重要な影響力を持つよう、戦略的助言が提供された。これにより、倫理的かつ人間中心の結果が保証される。
• 本研究は、信頼性があり、責任が明確で、ユーザーの要請に応えるAIシステムの設計を効果的に支援するため、HCI手法のパラダイム転換が不可欠であることを示している。