[논문 리뷰] Transitioning to human interaction with AI systems: New challenges and opportunities for HCI professionals to enable human-centered AI

Wei Xu, Marvin J. Dainoff외 2명|arXiv (Cornell University)|2021. 05. 12.

Human-Automation Interaction and Safety인용 수 12

한 줄 요약

이 논문은 인간-AI 상호작용에서 HCI 전문가들이 인간 중심 AI(HCAI) 시스템을 설계할 때 마주하는 일곱 가지 새로운 과제를 규명하고, 이러한 문제를 해결하기 위한 새로운 HCI 방법을 제안하며, HCAI 원칙을 AI 개발에 통합하기 위한 전략적 권고를 제시한다. 이 논문은 기존의 HCI 방법론이 AI 시스템에는 부적합하며, 윤리적이고 투명하며 효과적인 인간-AI 협업을 보장하기 위해 적응형이고 HCAI 중심의 설계 접근법이 필요하다고 주장한다.

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. The focus of HCI work is transiting from conventional human interaction with non-AI computing systems to interaction with AI systems. We conducted a high-level literature review and a holistic analysis of current work in developing AI systems from an HCI perspective. Our review and analysis highlight the new changes introduced by AI technology and the new challenges that HCI professionals face when applying the human-centered AI (HCAI) approach in the development of AI systems. We also identified seven main issues in human interaction with AI systems, which HCI professionals did not encounter when developing non-AI computing systems. To further enable the implementation of the HCAI approach, we identified new HCI opportunities tied to specific HCAI-driven design goals to guide HCI professionals in addressing these new issues. Finally, our assessment of current HCI methods shows the limitations of these methods in support of developing AI systems. We propose alternative methods that can help overcome these limitations and effectively help HCI professionals apply the HCAI approach to the development of AI systems. We also offer strategic recommendations for HCI professionals to effectively influence the development of AI systems with the HCAI approach, eventually developing HCAI systems.

연구 동기 및 목표

• 기존의 전통적 HCI 환경에서는 존재하지 않지만 인간-AI 시스템 상호작용에서 유일하게 발생하는 과제를 규명하기 위해.
• 현재의 HCI 방법론이 AI 시스템 개발에 적용되었을 때의 한계를 분석하기 위해.
• 인간 중심 AI(HCAI) 개발을 지원하기 위해 특화된 새로운 HCI 방법론과 설계 목표를 제안하기 위해.
• HCI 전문가들이 인간 중심 원칙을 우선시하는 방향으로 AI 시스템 설계에 영향을 미칠 수 있도록 전략적 권고를 제공하기 위해.
• 기존 문헌과 관행을 종합적으로 근거 기반으로 검토함으로써, 기존 HCI에서 HCAI로의 전환을 이끌기 위해.

제안 방법

• HCI 관점에서 현재의 AI 시스템 개발에 대한 고수준의 문헌 검토와 통합적 분석을 수행하였다.
• 비-AI 컴퓨팅 시스템에서는 존재하지 않지만 인간-AI 상호작용에서 나타나는 일곱 가지 독립적인 문제를 특정하였다.
• 기존의 HCI 방법론을 새로운 과제들과 매핑하고, HCAI 설계를 지원하는 데서의 한계를 드러내었다.
• 기존의 HCI 기법의 한계를 극복하기 위해 대체 가능한, HCAI 중심의 방법론을 제안하였다.
• 새로운 방법론 제안을 특정한 HCAI 중심 설계 목표와 일치시켜 사용성, 투명성 및 책임성 향상을 도모하였다.
• HCI 전문가들이 인간 중심 원칙을 바탕으로 AI 개발에 적극적으로 영향을 미칠 수 있도록 전략적 권고를 제공하였다.

실험 결과

연구 질문

• RQ1 기존의 인간-컴퓨터 상호작용에서 존재하지 않지만 인간-AI 상호작용에서 새롭게 발생하는 과제는 무엇인가?
• RQ2 현재의 HCI 방법론은 인간 중심 AI 시스템 개발을 지원하는 데서 어떤 한계를 지니는가?
• RQ3 인간-AI 상호작용의 고유한 과제를 효과적으로 해결할 수 있는 새로운 HCI 방법은 무엇인가?
• RQ4 HCI 전문가들은 어떻게 전략적으로 AI 시스템 개발에 영향을 미쳐 인간 중심 설계를 우선시할 수 있는가?
• RQ5 지속 가능한 인간 중심 AI 개발을 가능하게 하기 위해 필요한 설계 목표와 방법론적 전환은 무엇인가?

주요 결과

• HCI 전문가들이 비-AI 시스템 개발에서 마주하지 않았던 일곱 가지 독립적인 인간-AI 상호작용 과제가 규명되었으며, 모델의 투명성 부족, 동적 행동, 신뢰 조정 등이 포함된다.
• 사용성 테스트나 작업 분석과 같은 전통적 HCI 방법론은 AI 시스템 행동의 복잡성과 사용자-AI 상호작용의 역학을 포괄하기에 부적합하다.
• 논문은 AI 시스템의 투명성, 설명 가능성, 사용자 통제를 더 잘 지원할 수 있도록 HCAI에 맞춘 새로운 방법론을 제안한다.
• 현재의 HCI 관행는 AI 모델의 변화하는 비결정적 성격을 충분히 다루지 못해 일관성 없는 사용자 경험을 초래한다.
• HCI 전문가들이 윤리적이고 인간 중심의 결과를 확보하기 위해 AI 개발에 핵심적인 영향력을 행사할 수 있도록 전략적 권고가 제공된다.
• 신뢰할 수 있고 책임감 있으며 사용자 반응에 민감한 AI 시스템 설계를 효과적으로 지원하기 위해 HCI 방법론의 범주 전환이 필수적임을 본 연구가 입증한다.