[논문 리뷰] People Perceive More Phantom Costs From Autonomous Agents When They Make Unreasonably Generous Offers

Lebrun, Benjamin, Bartneck, Christoph외 2명|arXiv (Cornell University)|2025. 11. 10.

Ethics and Social Impacts of AI인용 수 3

한 줄 요약

이 연구는 제안이 터무니없이 관대할 때 팬텀 비용이 더 많이 지각되며, 인간이 로봇보다 더 많은 팬텀 비용을 불러일으킨다는 것을 보여주고; 자율성과 할인 크기가 이러한 인식에 영향을 주고 구매 의도에 영향을 준다.

ABSTRACT

People often reject offers that are too generous due to the perception of hidden drawbacks referred to as "phantom costs." We hypothesized that this perception and the decision-making vary based on the type of agent making the offer (human vs. robot) and the degree to which the agent is perceived to be autonomous or have the capacity for self-interest. To test this conjecture, participants (N = 855) engaged in a car-buying simulation where a human or robot sales agent, described as either autonomous or not, offered either a small (5%) or large (85%) discount. Results revealed that the robot was perceived as less self-interested than the human, which reduced the perception of phantom costs. While larger discounts increased phantom costs, they also increased purchase intentions, suggesting that perceived benefits can outweigh phantom costs. Importantly, phantom costs were not only attributed to the agent participants interacted with, but also to the product and the agent's manager, highlighting at least three sources of suspicion. These findings deepen our understanding of to whom people assign responsibility and how perceptions shape both human-human and human-robot interactions, with implications for ethical AI design and marketing strategies.

연구 동기 및 목표

• HHI 및 HRI 맥락에서 지나치게 관대 한 제안에서 팬텀 비용이 어떻게 생겨나는지 고찰한다.
• 에이전트 유형(인간 대 로봇)과 지각 자율성이 팬텀 비용에 어떤 영향을 미치는지 조사한다.
• 할인 크기가 팬텀 비용과 이후 구매 의도에 어떤 영향을 미치는지 평가한다.
• 자율성, 팬텀 비용, 의사결정 간의 관계에서 자기 이익과 신뢰가 매개하는지 탐구한다.

제안 방법

• 3차원 설계의 2 x 2 x 2 참가자 간 vignette 실험(에이전트: 인간 vs 로봇) x (자율성: 비자율 vs 자율) x (할인: 소형 vs 대형).
• 로봇 또는 인간 영업사가 소형(5%) 또는 대형(85%) 할인을 제공하는 자동차 대리점 vignette를 텍스트 및 이미지로 제시한다.
• 7점 리커트 척도를 사용해 자동차, 에이전트, 관리자에 대한 팬텀 비용을 측정하고 (α=.860 전체).
• 유효한 척도와 Cronbach의 알파 신뢰도 증거를 사용해 인지 자율성, 자기 이익, 신뢰를 평가한다 (α 값 보고).
• 삼방위 ANOVA, 사후 검정, 매개 분석 및 구매 결정에 대한 이항 로지스틱 회귀를 이용해 데이터를 분석한다.

실험 결과

연구 질문

• RQ1 에이전트 유형(인간 vs 로봇)이 팬텀 비용에 영향을 미치는가?
• RQ2 인지 자율성이 팬텀 비용과 자기 이익에 영향을 주는가?
• RQ3 할인 크기와 자율성이 자동차, 에이전트, 관리자에 대한 팬텀 비용을 어떻게 형성하는가?
• RQ4 팬텀 비용이 할인/자율성과 구매 의도 간의 관계를 매개하는가?
• RQ5 할인이 대형일 때 에이전트 유형 간 구매 가능성에 차이가 있는가?

주요 결과

• 자동차, 에이전트, 관리자에 대한 팬텀 비용은 에이전트, 할인, 자율성에 따라 예측 가능한 패턴으로 달라진다.
• 사람은 로봇보다 자기 이익이 더 큰 것으로 지각되며, 자율적 에이전트는 비자율적 보다 더 자율적이고 자기 이익이 크다고 여겨진다.
• 큰 할인은 팬텀 비용과 구매 의도를 증가시키며, 인간 에이전트의 경우 강한 효과를 보이나 일부 조건에서는 로봇이 판매한 대형 할인 자동차의 구매 가능성이 더 높게 나타나는 경우도 있다.
• 팬텀 비용은 HHI와 HRI에서 할인에 미치는 효과를 부분적으로 매개하며, 자율성의 간접 효과는 HHI와 HRI에서 자기 이익을 통해 작용한다.
• 전반적으로 금전적 역효과는 없으며, 더 큰 할인이 팬텀 비용에도 불구하고 구매 가능성을 높인다.