[论文解读] Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI

Wei Xu, Marvin J. Dainoff+2 more|arXiv (Cornell University)|May 12, 2021

Human-Automation Interaction and Safety被引用 12

一句话总结

本文识别了人机交互（HCI）专业人士在设计以人为本的人工智能（HCAI）系统时面临的七个新挑战，提出了新的HCI方法以应对这些问题，并为将HCAI原则整合到人工智能开发中提供了战略建议。文章认为，传统HCI方法不足以应对人工智能系统，呼吁采用适应性强的、以HCAI为导向的设计方法，以确保人机协作的伦理性、透明性和有效性。

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. The focus of HCI work is transiting from conventional human interaction with non-AI computing systems to interaction with AI systems. We conducted a high-level literature review and a holistic analysis of current work in developing AI systems from an HCI perspective. Our review and analysis highlight the new changes introduced by AI technology and the new challenges that HCI professionals face when applying the human-centered AI (HCAI) approach in the development of AI systems. We also identified seven main issues in human interaction with AI systems, which HCI professionals did not encounter when developing non-AI computing systems. To further enable the implementation of the HCAI approach, we identified new HCI opportunities tied to specific HCAI-driven design goals to guide HCI professionals in addressing these new issues. Finally, our assessment of current HCI methods shows the limitations of these methods in support of developing AI systems. We propose alternative methods that can help overcome these limitations and effectively help HCI professionals apply the HCAI approach to the development of AI systems. We also offer strategic recommendations for HCI professionals to effectively influence the development of AI systems with the HCAI approach, eventually developing HCAI systems.

研究动机与目标

• 识别在传统HCI情境中不存在的、与人工智能系统交互所特有的挑战。
• 分析当前HCI方法在应用于人工智能系统开发时的局限性。
• 提出专为支持以人为本的人工智能（HCAI）开发而定制的新HCI方法和设计目标。
• 为HCI专业人士提供战略建议，以影响人工智能系统设计向以人为本原则的转变。
• 通过全面、基于证据的现有文献和实践回顾，指导从传统HCI向HCAI的转型。

提出的方法

• 从HCI视角出发，对当前人工智能系统开发进行了高层次的文献综述和整体性分析。
• 识别出在非人工智能计算系统中不存在的七个不同的人机交互问题。
• 将现有HCI方法映射到新挑战上，并揭示其在支持HCAI设计方面的局限性。
• 提出替代性、以HCAI为导向的方法，以克服传统HCI技术的既定局限。
• 将新方法论建议与特定的HCAI驱动型设计目标对齐，以增强可用性、透明度和问责性。
• 为HCI专业人士提供战略建议，使其能够通过以人为本的原则积极影响人工智能开发。

实验结果

研究问题

• RQ1 在人机交互中出现了哪些在传统人机交互中不存在的新挑战？
• RQ2 当前HCI方法在支持以人为本的人工智能系统开发方面存在哪些不足？
• RQ3 哪些新的HCI方法能够有效应对人机交互的独特挑战？
• RQ4 HCI专业人士如何战略性地影响人工智能系统开发，以优先考虑以人为本的设计？
• RQ5 为实现可持续的人本主义人工智能开发，需要哪些设计目标和方法论转变？

主要发现

• 识别出七个在非人工智能系统开发中HCI专业人士未曾面临的人机交互独特问题，包括模型不透明性、动态行为以及信任校准问题。
• 传统HCI方法如可用性测试和任务分析不足以捕捉人工智能系统行为的复杂性以及用户与AI交互的动力学。
• 本文提出了与HCAI对齐的新方法，更好地支持人工智能系统中的透明度、可解释性和用户控制。
• 当前的HCI实践往往无法应对人工智能模型的动态演化和非确定性本质，导致用户体验不一致。
• 为HCI专业人士提供了战略建议，使其能够作为关键影响者参与人工智能开发，确保实现伦理和以人为本的成果。
• 本研究证明，HCI方法论的范式转变对于有效支持可信赖、可问责且用户响应式的人工智能系统设计至关重要。