[논문 리뷰] Give Me a Choice: The Consequences of Restricting Choices Through AI-Support for Perceived Autonomy, Motivational Variables, and Decision Performance

Cedric Faas, Richard Bergs외 3명|arXiv (Cornell University)|2024. 10. 10.

Impact of AI and Big Data on Business and Society인용 수 4

한 줄 요약

이 연구는 인공지능 지원 의사결정에서 선택의 제한이 인식된 자율성, 동기, 성과에 어떤 영향을 미치는지 조사한다. 274명의 참가자가 참여한 드론 감시 시뮬레이션 작업에서, 인공지능이 추천하는 행동을 하나로 제한할 경우 의사결정 정확도는 크게 향상되었지만, 인식된 자율성과 과업의 의미감은 감소하였다. 이러한 영향은 시간이 지남에 따라 악화되었고, 높은 자율성은 다중 선택 조건에서 더 나은 성과를 예측하였다.

ABSTRACT

Design optimizations in human-AI collaboration often focus on cognitive aspects like attention and task load. Drawing on work design literature, we propose that effective human-AI collaboration requires broader consideration of human needs (e.g., autonomy) that affect motivational variables (e.g., meaningfulness). In a simulated drone oversight experiment, participants (N=274, between-subject) faced 10 critical decision-making scenarios with varying levels of choice restrictions with an AI recommending only 1, 2, 4 or all 6 possible actions. Restricting participants to one selectable action improved task performance (with a perfect AI) but significantly reduced perceived autonomy and work meaningfulness, and these effects intensified over time. In conditions with multiple action choices, participants with higher perceived autonomy performed better. The findings underscore the importance of considering motivational factors to design successful long-term human-AI collaboration at work.

연구 동기 및 목표

• AI 의사결정 지원을 통해 선택을 제한할 경우 인간-인공지능 협업에서 인식된 자율성과 동기 변수에 어떤 영향을 미치는지 조사하기 위해.
• AI 지원 의사결정에서 선택의 수가 줄어들었을 때 심리적 욕구와 과업 성과에 대한 장기적 영향을 조사하기 위해.
• 인간-인공지능 감시 역할에서 인식된 자율성, 과업의 의미감, 의사결정 정확도 간의 관계를 탐색하기 위해.
• 인지 최적화를 넘어서 동기와 심리적 욕구를 인간-인공지능 상호작용 설계에 통합하는 중요성을 부각하기 위해.
• 사용자 선택을 제한할 경우 성과 향상과 동기 부족 간의 상충관계를 실증적으로 입증하기 위해.

제안 방법

• 274명의 참가자가 참여한 드론 감시 시뮬레이션 작업에서 수행된 간접적 실험 설계.
• 참가자들은 AI가 6개, 4개, 2개 또는 1개의 선택 가능한 행동을 추천하는 10개의 핵심 의사결정 시나리오에 직면하였다.
• 선택 가능한 행동 수(1, 2, 4, 또는 6개)를 조작하면서도 AI 추천의 정확도를 유지하는 제어된 실험 설계를 사용하였다.
• 시간과 조건에 따라 인식된 자율성, 과업의 의미감, 동기, 의사결정 정확도를 측정하였다.
• 심리적 욕구와 동기 변수를 프레임워크화하기 위해 일자리 설계 이론(예: Hackman & Oldham, 1975; Ryan & Deci, 2000)을 적용하였다.
• 자기 보고 방식으로 인식된 자율성, 의미감, 동기를 수집하였으며, 객관적 성과는 의사결정 정확도로 측정하였다.

(a) One Selectable Actions

실험 결과

연구 질문

• RQ1 AI 지원을 통해 선택 가능한 행동 수를 제한할 경우, 참가자의 감시 과업에서 인식된 자율성에 어떤 영향을 미치는가?
• RQ2 선택 제한은 인간-인공지능 의사결정에서 인식된 과업의 의미감과 내재적 동기에 어떤 영향을 미치는가?
• RQ3 다양한 선택 제한 수준에서 인식된 자율성과 의사결정 정확도 간의 관계는 어떻게 되는가?
• RQ4 반복적인 의사결정 시나리오에서 선택 제한이 자율성과 동기에 미치는 영향은 시간이 지남에 따라 어떻게 변화하는가?
• RQ5 동기 변수가 선택 제한과 의사결정 성과 간의 관계를 얼마나 중재하는가?

주요 결과

• AI 지원 선택을 하나의 행동으로 제한할 경우, 두 개 이상의 선택 가능한 행동이 있는 조건에 비해 참가자의 인식된 자율성이 유의미하게 감소하였다.
• 인식된 자율성 감소와 함께, 특히 한 가지 선택 조건에서 과업의 의미감이 유의미하게 감소하였다.
• 자율성과 의미감에 대한 부정적 영향는 시간이 지남에 따라 악화되어, 선택 제한이 장기적으로 동기 부족을 초래하는 것으로 나타났다.
• 다양한 선택 가능한 행동이 있는 조건에서는, 높은 인식된 자율성을 보고한 참가자가 유의미하게 더 높은 의사결정 정확도를 보였다.
• 완벽한 AI 성능 덕분에 한 가지 선택 조건에서 정확도가 향상되었음에도 불구하고, 심리적 복지와 동기 부족의 대가로 인해 장기적 협업 효과성이 떨어진다.
• 연구 결과는 동기와 성과 사이에 상호작용적 관계가 존재하며, 높은 동기가 성과를 향상시키고, 높은 성과가 동기를 강화할 수 있지만, 선택 제한은 이러한 순환 구조를 방해한다는 점을 시사한다.

(b) Two Selectable Actions