[논문 리뷰] When Humans Aren't Optimal: Robots that Collaborate with Risk-Aware Humans

Minae Kwon, Erdem Bıyık외 4명|arXiv (Cornell University)|2020. 01. 13.

Decision-Making and Behavioral Economics참고 문헌 46인용 수 4

한 줄 요약

이 논문은 불확실성 하에서 인간-로봇 협업을 향상시키기 위해 누적선점이론(Cumulative Prospect Theory) 기반의 위험 인식 인간 모델을 제안한다. 기존의 노이즈 있는 합리성 모델 대신 위험 민감도 기반의 프레임워크를 도입함으로써, 로봇은 위험 상황에서 비최적의 인간 행동을 더 잘 예측하게 되어 자율주행 및 컵 스택킹 작업에서 더 안전하고 효율적인 상호작용을 가능하게 한다.

ABSTRACT

In order to collaborate safely and efficiently, robots need to anticipate how their human partners will behave. Some of today's robots model humans as if they were also robots, and assume users are always optimal. Other robots account for human limitations, and relax this assumption so that the human is noisily rational. Both of these models make sense when the human receives deterministic rewards: i.e., gaining either $100 or $130 with certainty. But in real world scenarios, rewards are rarely deterministic. Instead, we must make choices subject to risk and uncertainty--and in these settings, humans exhibit a cognitive bias towards suboptimal behavior. For example, when deciding between gaining $100 with certainty or $130 only 80% of the time, people tend to make the risk-averse choice--even though it leads to a lower expected gain! In this paper, we adopt a well-known Risk-Aware human model from behavioral economics called Cumulative Prospect Theory and enable robots to leverage this model during human-robot interaction (HRI). In our user studies, we offer supporting evidence that the Risk-Aware model more accurately predicts suboptimal human behavior. We find that this increased modeling accuracy results in safer and more efficient human-robot collaboration. Overall, we extend existing rational human models so that collaborative robots can anticipate and plan around suboptimal human behavior during HRI.

연구 동기 및 목표

• 기존 로봇이 인간이 완전히 최적 또는 노이즈 있는 합리적이라고 가정하는 데서 비롯하는 한계를 해결하고자 하며, 이는 실제 위험과 불확실성 하에서 실패한다.
• 인간의 의사결정을 순수한 합리성보다 위험 인식 기반으로 모델링하여, 불확실성 하에서의 인지 편향(예: 위험 회피 또는 위험 추구)을 반영하고자 한다.
• 행동경제학 원리를 인간-로봇 상호작용(HRI) 모델에 통합함으로써 로봇의 계획 및 협업 능력을 향상시키고자 한다.
• 위험 인식 모델이 노이즈 있는 합리성 모델보다 인간 행동 예측 능력과 협업 성과 향상에 뛰어나다는 것을 경험적으로 검증하고자 한다.

제안 방법

• 비선형 확률 및 결과의 가중치를 반영할 수 있는 핵심 인간 의사결정 모델로 누적선점이론(Cumulative Prospect Theory, CPT)을 채택한다.
• 로봇이 인간의 위험 민감한 선호도를 인식된 보상과 확률 기반으로 모델링하는 사고의 이론(Theory-of-Mind, ToM) 프레임워크를 정의한다.
• CPT를 확률적 추론 시스템에 통합하여 위험 하에서 인간 행동을 예측하고, 전통적인 기대효용 최적화 대신 선점가치 함수를 사용한다.
• 동일한 인간 시연 데이터를 사용하여 두 가지 로봇 모델을 훈련하고 비교한다: 노이즈 있는 합리성 기반의 베이스라인과 위험 인식 모델.
• 예측된 인간 행동을 바탕으로 로봇 계획을 유도하여 간섭을 최소화하고 협업 환경에서의 작업 효율성을 향상시킨다.
• 시뮬레이션된 자율주행 및 물리적 컵 스택킹 작업에서 사용자 연구를 수행하여 모델 정확도와 협업 품질을 평가한다.

실험 결과

연구 질문

• RQ1 누적선점이론 기반의 위험 인식 인간 모델은 노이즈 있는 합리성 모델보다 불확실성과 고위험 상황에서 인간 행동을 더 정확히 예측할 수 있는가?
• RQ2 어떤 종류의 의사결정 상황에서 위험 인식 모델링이 로봇의 행동 예측 및 협업 향상에 가장 중요한가?
• RQ3 위험 인식 모델을 사용할 경우 기존의 합리성 기반 모델 대비 더 안전하고 효율적인 인간-로봇 협업이 이루어지는가?
• RQ4 사용자들은 위험 회피 또는 위험 추구 성향을 예측하는 로봇에 대해 어떻게 인지하고 반응하는가?

주요 결과

• 누적선점이론 기반의 위험 인식 모델은 자율주행 시뮬레이션과 물리적 컵 스택킹 작업 모두에서 노이즈 있는 합리성 기반 베이스라인에 비해 인간 행동 예측 능력에서 유의미하게 뛰어났다.
• 컵 스택킹 작업에서 참가자들은 위험 인식 로봇과 협업할 경우 더 빠르게 작업을 완료했고, 간섭이 적다고 보고했다.
• 참가자들은 위험 인식 로봇을 주관적으로 더 선호했으며, 더 효율적이고 자신의 의도와 잘 맞는다고 평가했으며, 유의미한 경향은 아니지만 긍정적인 선호도가 있었음(p < .07).
• 사용자들은 노이즈 있는 합리성 로봇이 자신이 손에 넣으려는 컵과 같은 컵을 집으려는 시도로 자주 간섭하여 작업 시간이 증가한다고 보고했다.
• 위험 인식 로봇은 인간이 불안정한 컵을 집는 것을 피할 것임을 예측함으로써 간섭을 줄였다.
• 더 긴 수평선을 가진 격자 세계 실험에서 위험 인식 모델은 노이즈 있는 합리성 모델보다 인간 행동 시퀀스 예측 정확도를 높게 유지했다.