[논문 리뷰] Overcoming Anchoring Bias: The Potential of AI and XAI-based Decision Support

Felix Haag, Carlo Stingl외 3명|arXiv (Cornell University)|2024. 05. 08.

Big Data and Business Intelligence인용 수 4

한 줄 요약

이 연구는 인공지능(AI)과 해석 가능한 인공지능(XAI) 기반 의사결정 지원이 구매 결정에서 앵커링 편향을 완화할 수 있는지 조사한다. 총 390명의 참가자가 참여한 두 개의 온라인 실험을 통해, AI만 사용하는 것과 AI에 XAI를 결합한 경우 모두 앵커링의 영향을 유의하게 감소시킴을 입증하며, 더 윤리적이고 편향 없는 정보 시스템을 설계할 수 있는 길을 제시한다.

ABSTRACT

Information systems (IS) are frequently designed to leverage the negative effect of anchoring bias to influence individuals' decision-making (e.g., by manipulating purchase decisions). Recent advances in Artificial Intelligence (AI) and the explanations of its decisions through explainable AI (XAI) have opened new opportunities for mitigating biased decisions. So far, the potential of these technological advances to overcome anchoring bias remains widely unclear. To this end, we conducted two online experiments with a total of N=390 participants in the context of purchase decisions to examine the impact of AI and XAI-based decision support on anchoring bias. Our results show that AI alone and its combination with XAI help to mitigate the negative effect of anchoring bias. Ultimately, our findings have implications for the design of AI and XAI-based decision support and IS to overcome cognitive biases.

연구 동기 및 목표

• 소비자 의사결정에서 앵커링 편향의 영향을 줄이기 위해 AI 및 XAI 기반 의사결정 지원이 효과적인지 조사하기.
• AI와 XAI가 구매 결정에서 인지 편향을 완화하는 데 미치는 개별적 및 병합 효과를 탐구하기.
• 유혹적인 편향 이용을 방지하는 윤리적인 정보 시스템 설계에 대한 시사점을 제공하기.

제안 방법

• 실제 구매 결정 상황을 시뮬레이션하기 위해 총 N=390명의 참가자가 참여한 두 개의 온라인 실험을 실시함.
• 참가자들이 앵커링 자극(예: 높거나 낮은 초도 가격)에 노출되도록 통제된 시나리오를 사용하여 편향을 유도함.
• 객관적 데이터를 바탕으로 추천을 제공하는 AI 기반 의사결정 지원을 구현하여 초기 앵커에 대한 의존도를 감소시킴.
• AI 추천의 이유를 설명하는 XAI 구성 요소를 통합하여 투명성 향상과 사용자 신뢰 증진을 도모함.
• 결정 결과와 편향 수준을 사후 설문조사 및 행동 지표를 통해 측정함.
• 통계적 분석을 통해 제어 조건, AI 전용 조건, AI+XAI 조건 간의 결정 품질과 앵커링 효과를 비교함.

실험 결과

연구 질문

• RQ1 AI 기반 의사결정 지원은 지원이 없는 경우에 비해 앵커링 편향의 영향을 줄이는가?
• RQ2 XAI 설명을 추가함으로써 AI만 사용하는 것보다 앵커링 편향이 더 줄어드는가?
• RQ3 XAI를 통해 추천 사항이 투명하게 설명될 경우 사용자는 어떻게 인지하고 반응하는가?

주요 결과

• AI 기반 의사결정 지원은 지원이 없는 제어 조건에 비해 앵커링 편향을 유의하게 감소시킴.
• AI와 XAI의 조합은 AI 전용 조건보다 더 큰 앵커링 편향 감소 효과를 보였으며, 더 뛰어난 성능을 발휘함.
• XAI 설명을 접한 참가자들은 더 높은 결정 정확도를 보였고, 초기 앵커에 대한 민감도가 낮아짐.
• 설명의 존재는 사용자 신뢰를 증가시켜 더 이성적인 의사결정을 촉진함.
• AI와 XAI는 강력한 앵커링 자극이 존재할 때조차 히وري스틱 신호에 대한 의존도 감소에 효과적이었음.
• 결과적으로 XAI는 사용자 이해도 향상과 초기 정보에 대한 과도한 의존 감소를 통해 AI의 인지적 편향 제거 효과를 강화함을 시사함.