[论文解读] From Human-Computer Interaction to Human-AI Interaction: New Challenges and Opportunities for Enabling Human-Centered AI.

Wei Xu, Marvin J. Dainoff+2 more|arXiv (Cornell University)|May 12, 2021

Human-Automation Interaction and Safety参考文献 61被引用 22

一句话总结

本文提出了一种以人类为中心的人工智能（HCAI）框架，该框架基于人机交互（HAII），强调人工智能系统特有的挑战，这些挑战与传统人机交互（HCI）存在显著差异。通过分析人工智能特有的问题并推动跨学科的HAII研究，作者提出了改进的HCI方法和战略建议，以指导从业者设计合乎伦理、以用户为中心的人工智能系统。

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. We conducted a literature review of current related work in developing AI systems from an HCI perspective. Different from other approaches, our focus is on the unique characteristics of AI technology and the differences between non-AI computing systems and AI systems. We further elaborate on the human-centered AI (HCAI) approach that we proposed in 2019. Our review and analysis highlight unique issues in developing AI systems which HCI professionals have not encountered in non-AI computing systems. To further enable the implementation of HCAI, we promote the research and application of human-AI interaction (HAII) as an interdisciplinary collaboration. There are many opportunities for HCI professionals to play a key role to make unique contributions to the main HAII areas as we identified. To support future HCI practice in the HAII area, we also offer enhanced HCI methods and strategic recommendations. In conclusion, we believe that promoting the HAII research and application will further enable the implementation of HCAI, enabling HCI professionals to address the unique issues of AI systems and develop human-centered AI systems.

研究动机与目标

• 识别人工智能系统中与非人工智能计算系统不同的独特挑战，特别是在人机交互方面。
• 通过聚焦人工智能技术的独特特性，进一步推进以人为本的人工智能（HCAI）方法。
• 通过跨学科协作，将HCI专业人士定位为HAII的关键贡献者。
• 开发针对人工智能系统设计的增强型HCI方法和战略建议。
• 通过解决人工智能特有的交互问题，支持HCAI的实际实施。

提出的方法

• 从HCI视角出发，对人工智能开发相关文献进行全面回顾。
• 将非人工智能计算系统与人工智能系统进行比较，突出其独特的交互挑战。
• 扩展2019年最初提出的HCAI框架，以应对新兴的人工智能特有问题。
• 提出HAII作为新的跨学科领域，将HCI专业知识整合到人工智能系统开发中。
• 开发适用于HAII实际应用的增强型HCI方法和战略建议。
• 强调HCI专业人士通过系统化的方法指导，在塑造合乎伦理、以用户为中心的人工智能方面的重要作用。

实验结果

研究问题

• RQ1 哪些人工智能系统中的独特挑战未被传统HCI方法充分解决？
• RQ2 如何通过人机交互（HAII）研究进一步推进以人为本的人工智能（HCAI）框架？
• RQ3 HCI专业人士在人工智能系统的设计与实施中，以何种方式能做出有意义的贡献？
• RQ4 需要哪些增强型HCI方法和战略建议来支持HAII实践？
• RQ5 HAII中的跨学科协作如何促进更合乎伦理、更高效的人工智能开发？

主要发现

• 人工智能系统引入了非人工智能计算系统中不存在的独特交互挑战，需要超越传统HCI的新方法。
• 必须通过专门的人机交互（HAII）研究来扩展以人为本的人工智能（HCAI）框架，以应对人工智能特有的问题。
• HCI专业人士因其在以用户为中心设计和交互建模方面的专业知识，具备在HAII中发挥关键作用的潜力。
• 增强型HCI方法和战略建议对于支持HCAI在现实世界人工智能系统中的实际实施至关重要。
• HAII中的跨学科协作对于实现合乎伦理、透明且高效的人工智能系统，以满足人类需求至关重要。
• 推动HAII研究与应用，可加强可信赖且以人为本的人工智能系统发展的基础。