[논문 리뷰] AI, Meet Human: Learning Paradigms for Hybrid Decision Making Systems

Clara Punzi, Roberto Pellungrini외 3명|arXiv (Cornell University)|2024. 02. 09.

Complex Systems and Decision MakingDecision Sciences인용 수 3

한 줄 요약

이 논문은 하이브리드 의사결정 시스템에 대한 종합적인 분류 체계를 제안하며, 학습 파aradigm을 세 가지로 분류한다: 인간 감시, 기피 학습, 공동 학습. 기존 문헌을 통합하여 인간-AI 상호작용을 모델링하기 위한 개념적이고 기술적인 프레임워크를 제공하며, 특히 고위험 응용 분야에서 상호 학습, 신뢰, 성능 최적화에 중점을 둔다.

ABSTRACT

Everyday we increasingly rely on machine learning models to automate and support high-stake tasks and decisions. This growing presence means that humans are now constantly interacting with machine learning-based systems, training and using models everyday. Several different techniques in computer science literature account for the human interaction with machine learning systems, but their classification is sparse and the goals varied. This survey proposes a taxonomy of Hybrid Decision Making Systems, providing both a conceptual and technical framework for understanding how current computer science literature models interaction between humans and machines.

연구 동기 및 목표

• 기계 학습 시스템에서 인간-AI 상호작용에 대한 통합된 분류 체계가 부족한 문제를 해결하기 위해.
• 효과적인 인간-AI 협업을 가능하게 하는 핵심 학습 파라다임을 식별하고 형식화하기 위해.
• 현재 하이브리드 시스템의 통신, 인간의 노력, 시스템의 적응 가능성과 관련된 강점, 한계, 열린 과제를 분석하기 위해.
• 신뢰할 수 있고 투명하며 효과적인 하이브리드 의사결정 시스템을 설계하기 위한 체계적인 프레임워크를 제공함으로써 향후 연구를 지원하기 위해.
• 현재 시스템의 주요 격차, 특히 불확실성의 통신 부족과 다양한 인간 사용자에 대한 적응성 부족을 부각시키기 위해.

제안 방법

• 학습 및 의사결정 과정에서 인간과 기계의 역할에 기반한 하이브리드 의사결정 시스템에 대한 공식적 분류 체계를 제안한다.
• 시스템을 세 가지 파라다임으로 분류한다: 인간 감시(인간이 AI 출력을 검증함), 기피 학습(인간 지식이 데이터에 통합되어 모델 적응을 유도함), 공동 학습(인간이 AI 추론을 적극적으로 수정함).
• 각 파라다임 하에서 기존 연구를 분석하여 불확실성 추정, 주도적 학습, 피드백 기반 미세조정과 같은 핵심 기법을 식별한다.
• 인간과 기계 에이전트의 공동 행동을 모델링하는 개념적 프레임워크를 도입하며, 계산 단계와 상호작용 역학을 포함한다.
• 신뢰성, 투명성, 공정성, 신뢰성의 관점에서 시스템을 평가하며, 상호 학습과 상호 이해의 중요성을 강조한다.
• 해석 불가능한 인간 피드백의 부족과 다양한 사용자 유형에 대한 충분한 적응성 부족과 같은 기술적 및 인간 중심의 과제를 식별한다.

실험 결과

연구 질문

• RQ1 어떻게 인간-AI 상호작용을 의사결정 시스템에서 체계적으로 분류하고 형식화할 수 있는가?
• RQ2 하이브리드 시스템에서 인간 감시, 기피 학습, 공동 학습 파라다임 간의 핵심 차이점과 상호 간의 상충 관계는 무엇인가?
• RQ3 현재 하이브리드 시스템은 불확실성, 신뢰, 상호 학습을 인간과 기계 간에 어떻게 다루는가?
• RQ4 통신, 인간의 노력, 적응 가능성 측면에서 하이브리드 시스템 내 주요 열린 과제는 무엇인가?
• RQ5 어떻게 다양한 인간 사용자를 지원하고 악성 또는 일관되지 않은 입력으로부터의 악화나 악용을 방지할 수 있는 하이브리드 시스템을 설계할 수 있는가?

주요 결과

• 인간 감시, 기피 학습, 공동 학습의 세 가지 학습 파라다임 분류는 하이브리드 의사결정 시스템을 이해하고 설계하는 데 기초가 되는 프레임워크를 제공한다.
• 현재 시스템은 인간에게 불확실성이나 추론 과정을 효과적으로 전달하지 못해, 특히 인간 감시 및 기피 학습 환경에서 신뢰와 효과적인 협업을 제한한다.
• 인간의 노동력 비용이 높아 데이터 애너테이션 등에서 특히 문제가 되며, 이 부담을 줄이기 위한 메커니즘이 제한되어 있다.
• 기존 시스템은 대부분 다국어를 지원하지 않으며 유연성이 떨어져 다양한 사용자 유형에 적응하거나 여러 전문가를 효과적으로 처리할 수 없다.
• 악성 또는 충돌하는 인간 입력에 대한 모델링과 보호 조치가 충분하지 않아 시스템이 오염되거나 성능이 저하될 위험이 노출되어 있다.
• 양방향 학습(인간과 기계가 서로 학습함)은 신뢰할 수 있고 안정적이며 적응 가능한 하이브리드 시스템을 구축하기 위해 필수적이다.