[논문 리뷰] From Human-Computer Interaction to Human-AI Interaction: New Challenges and Opportunities for Enabling Human-Centered AI.

Wei Xu, Marvin J. Dainoff외 2명|arXiv (Cornell University)|2021. 05. 12.

Human-Automation Interaction and Safety참고 문헌 61인용 수 22

한 줄 요약

이 논문은 인간-AI 상호작용(HAII)에 기반한 인간 중심의 인공지능(HCAI) 프레임워크를 제안하며, 기존의 HCI와는 다름없는 고유한 도전 과제를 지닌 AI 시스템에 중점을 둔다. AI 특유의 문제를 분석하고 다학제적 HAII 연구를 촉진함으로써, 저자들은 윤리적이고 사용자 중심의 AI 시스템 설계를 위한 향상된 HCI 방법론과 전략적 권고 사항을 제시한다.

ABSTRACT

While AI has benefited humans, it may also harm humans if not appropriately developed. We conducted a literature review of current related work in developing AI systems from an HCI perspective. Different from other approaches, our focus is on the unique characteristics of AI technology and the differences between non-AI computing systems and AI systems. We further elaborate on the human-centered AI (HCAI) approach that we proposed in 2019. Our review and analysis highlight unique issues in developing AI systems which HCI professionals have not encountered in non-AI computing systems. To further enable the implementation of HCAI, we promote the research and application of human-AI interaction (HAII) as an interdisciplinary collaboration. There are many opportunities for HCI professionals to play a key role to make unique contributions to the main HAII areas as we identified. To support future HCI practice in the HAII area, we also offer enhanced HCI methods and strategic recommendations. In conclusion, we believe that promoting the HAII research and application will further enable the implementation of HCAI, enabling HCI professionals to address the unique issues of AI systems and develop human-centered AI systems.

연구 동기 및 목표

• 비인간 컴퓨팅 시스템과는 다름없는 AI 시스템의 고유한 과제를 특정하여 인간-AI 상호작용에서의 차이점을 규명하는 것.
• AI 기술의 고유한 특성에 초점을 맞춤으로써 인간 중심의 인공지능(HCAI) 접근법을 발전시키는 것.
• 다학제적 협업을 통해 HCI 전문가들이 HAII 분야에서 핵심 기여자로 자리매김하도록 하는 것.
• AI 시스템 설계에 특화된 향상된 HCI 방법론과 전략적 권고 사항을 개발하는 것.
• AI 특유의 상호작용 과제를 해결함으로써 HCAI의 실용적 구현을 지원하는 것.

제안 방법

• HCI 시각에서 AI 개발에 중점을 둔 종합적인 문헌 고찰을 수행하는 것.
• 비AI 컴퓨팅 시스템과 AI 시스템을 비교함으로써 고유한 상호작용 과제를 부각하는 것.
• 2019년에 처음 제안된 HCAI 프레임워크를 발전시켜 새로운 AI 특유의 문제를 해결하는 것.
• HCI 전문 지식을 AI 시스템 개발에 통합하기 위해 HAII를 새로운 다학제적 영역으로 제안하는 것.
• HAII 실무에 실용적으로 적용 가능한 향상된 HCI 방법론과 전략적 권고 사항을 개발하는 것.
• 체계적인 방법론적 지침을 통해 HCI 전문가들이 윤리적이고 사용자 중심의 AI를 설계하는 데서 수행하는 역할을 강조하는 것.

실험 결과

연구 질문

• RQ1 기존의 전통적 HCI 접근법이 충분히 다루지 못하는 AI 시스템의 고유한 과제는 무엇인가?
• RQ2 인간-AI 상호작용(HAII) 연구를 통해 인간 중심의 인공지능(HCAI) 프레임워크는 어떻게 더 발전시킬 수 있는가?
• RQ3 HCI 전문가들은 인간 중심의 AI 시스템 설계 및 구현에 있어 어떤 방식으로 의미 있는 기여를 할 수 있는가?
• RQ4 HAII 실무를 지원하기 위해 필요한 향상된 HCI 방법론과 전략적 권고 사항은 무엇인가?
• RQ5 HAII 분야의 다학제적 협업은 더 윤리적이고 효과적인 AI 개발을 어떻게 가능하게 하는가?

주요 결과

• AI 시스템은 비AI 컴퓨팅 시스템에 존재하지 않는 고유한 상호작용 과제를 도입하며, 이는 기존의 HCI 접근법을 초월한 새로운 접근이 필요하다.
• AI 특유의 문제를 해결하기 위해 인간 중심의 인공지능(HCAI) 프레임워크는 전용 인간-AI 상호작용(HAII) 연구를 통해 확장되어야 한다.
• HCI 전문가들은 사용자 중심 설계 및 상호작용 모델링 전문 지식 덕분에 HAII에 기여할 수 있는 유리한 위치에 있다.
• 실제 AI 시스템에 HCAI를 구현하기 위해 향상된 HCI 방법론과 전략적 권고 사항이 필수적이다.
• HAII 분야의 다학제적 협업은 윤리적이고 투명하며 효과적인 인간의 필요를 충족하는 AI 시스템 개발을 가능하게 하며, 이는 핵심적이다.
• HAII 연구 및 응용을 촉진함으로써 신뢰할 수 있고 인간 중심의 AI 시스템 개발을 위한 기반을 공고히 할 수 있다.