[論文レビュー] From Human-Computer Interaction to Human-AI Interaction: New Challenges and Opportunities for Enabling Human-Centered AI.

Wei Xu, Marvin J. Dainoff+2 more|arXiv (Cornell University)|May 12, 2021

Human-Automation Interaction and Safety参考文献 61被引用数 22

ひとこと要約

本論文は、人間-AIインタラクション（HAII）に基づく人間中心のAI（HCAI）フレームワークを提唱しており、伝統的なHCIとは異なる特異な課題を有するAIシステムに焦点を当てている。AI特有の問題を分析し、分野横断的HAII研究を促進することで、著者たちは実務家が倫理的でユーザー中心のAIシステムを設計するのを支援する、強化されたHCI手法と戦略的助言を提供する。

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. We conducted a literature review of current related work in developing AI systems from an HCI perspective. Different from other approaches, our focus is on the unique characteristics of AI technology and the differences between non-AI computing systems and AI systems. We further elaborate on the human-centered AI (HCAI) approach that we proposed in 2019. Our review and analysis highlight unique issues in developing AI systems which HCI professionals have not encountered in non-AI computing systems. To further enable the implementation of HCAI, we promote the research and application of human-AI interaction (HAII) as an interdisciplinary collaboration. There are many opportunities for HCI professionals to play a key role to make unique contributions to the main HAII areas as we identified. To support future HCI practice in the HAII area, we also offer enhanced HCI methods and strategic recommendations. In conclusion, we believe that promoting the HAII research and application will further enable the implementation of HCAI, enabling HCI professionals to address the unique issues of AI systems and develop human-centered AI systems.

研究の動機と目的

• 非AIコンピューティングシステムとは異なる、AIシステムに特有の課題を特定すること。特に、人間-AIインタラクションの文脈において。
• AI技術の特徴に焦点を当てることで、人間中心のAI（HCAI）アプローチをさらに発展させること。
• 分野横断的協働を通じて、HCI専門家がHAII分野の主要な貢献者となるように位置づけること。
• AIシステム設計に特化した強化されたHCI手法と戦略的助言を開発すること。
• AI特有のインタラクション課題に取り組むことで、HCAIの実践的実装を支援すること。

提案手法

• HCIの視点からAI開発に焦点を当てた包括的な文献レビューの実施。
• 非AIコンピューティングシステムとAIシステムを比較することで、特異なインタラクション課題を浮き彫りにすること。
• 2019年に初出されたHCAIフレームワークを、新たなAI特有の懸念に応じて拡張すること。
• HCIの専門知識をAIシステム開発に統合するため、HAIIを新たな分野横断的分野として提唱すること。
• HAIIにおける実践的応用を支援するための強化されたHCI手法と戦略的助言の開発。
• 体系的な手法的ガイダンスを通じて、HCI専門家が倫理的でユーザー中心のAIを形作る役割を強調すること。

実験結果

リサーチクエスチョン

• RQ1 伝統的なHCIアプローチでは十分にカバーされていない、AIシステムに特有の課題とは何か？
• RQ2 人間-AIインタラクション（HAII）研究を通じて、人間中心のAI（HCAI）フレームワークはどのようにさらに発展させられるか？
• RQ3 HCI専門家は、人間中心のAIシステムの設計および実装において、どのように意味のある貢献をできるか？
• RQ4 HAII実務を支援するために必要な強化されたHCI手法と戦略的助言は何か？
• RQ5 HAIIにおける分野横断的協働は、より倫理的で効果的なAI開発をどのように可能にするか？

主な発見

• AIシステムは、非AIコンピューティングシステムに存在しない特異なインタラクション課題をもたらすため、伝統的なHCIを超えた新たなアプローチが求められる。
• 人間中心のAI（HCAI）フレームワークは、AI特有の問題に応じて、専用のHAII研究を通じて拡張される必要がある。
• HCI専門家は、ユーザー中心設計とインタラクションモデリングの専門知識があるため、HAIIに貢献するのに適している。
• 実世界のAIシステムにおけるHCAIの実践的実装を支援するためには、強化されたHCI手法と戦略的助言が不可欠である。
• HAIIにおける分野横断的協働は、人間のニーズを満たす倫理的で透明性があり、効果的なAIシステムの実現に不可欠である。
• HAIIの研究と応用を推進することは、信頼性があり人間中心のAIシステムを構築する基盤を強化する。