[논문 리뷰] Ignorance is Bliss? The Effect of Explanations on Perceptions of Voice Assistants

William Seymour, José M. Such|arXiv (Cornell University)|2022. 11. 23.

AI in Service Interactions인용 수 6

한 줄 요약

이 연구는 음성 보조 기능에 대한 설명이 사용자의 신뢰, 개인정보 및 보안 인식에 미치는 영향을 조사한다. 연구 결과, 개인정보 설명은 개인정보 우려를 감소시키지만, 신뢰 설명은 신뢰 우려를 증가시키며, 사용자들은 제1자 및 제3자 온라인 기능을 구분하며, 주로 기기 제조사에 따라 신뢰를 형성하는 것으로 나타났다.

ABSTRACT

Voice assistants offer a convenient and hands-free way of accessing computing in the home, but a key problem with speech as an interaction modality is how to scaffold accurate mental models of voice assistants, a task complicated by privacy and security concerns. We present the results of a survey of voice assistant users (n=1314) measuring trust, security, and privacy perceptions of voice assistants with varying levels of online functionality explained in different ways. We then asked participants to re-explain how these voice assistants worked, showing that while privacy explanations relieved privacy concerns, trust concerns were exacerbated by trust explanations. Participants' trust, privacy, and security perceptions also distinguished between first party online functionality from the voice assistant vendor and third party online functionality from other developers, and trust in vendors appeared to operate independently from device explanations. Our findings point to the use of analogies to guide users, targeting trust and privacy concerns, key improvements required from manufacturers, and implications for competition in the sector.

연구 동기 및 목표

• 다양한 방식으로 설명된 온라인 기능 수준에 따라 사용자가 음성 보조 기기의 신뢰, 개인정보 및 보안을 어떻게 인식하는지 조사하기 위해.
• 신뢰, 개인정보 및 보안에 관한 설명이 사용자의 음성 보조 기기 인식에 어떤 영향을 미치는지 평가하기 위해.
• 사용자의 기존 기기 선택이 설명이나 기능보다 그들의 신뢰 인식에 더 큰 영향을 미치는지 탐색하기 위해.
• 사용자들이 음성 보조 기기를 어떻게 정신적으로 모델링하는지 및 이해의 격차가 어디에 존재하는지 파악하기 위해.
• 핵심 우려를 해결하는 더 효과적이고 사용자 중심적인 음성 보조 기기 설명의 설계를 뒷받침하기 위해.

제안 방법

• 1,314명의 음성 보조 기기 사용자를 대상으로 설문 조사가 실시되었으며, 다양한 온라인 기능 구성이 포함된 사례 기반 설명이 제시되었다.
• 참가자들은 오프라인, 제1자 온라인, 제3자 온라인 기능을 포함한 다양한 조합의 신뢰, 개인정보 및 보안 설명에 노출되었다.
• 설명은 내용과 복잡도 측면에서 다양하게 구성되었으며, 신뢰 중심, 개인정보 중심, 병합된 설명(3E/TPS) 조건이 포함되었다.
• 참가자들은 각 사례 기반 설명을 읽은 후 표준화된 척도를 사용해 자신의 신뢰, 개인정보 및 보안 인식을 평가했다.
• 그 후 참가자들은 음성 보조 기기가 어떻게 작동하는지 재설명하도록 요청받았으며, 이는 그들의 정신적 모델 정확도를 평가하는 데 사용되었다.
• 데이터 분석은 조건 간 인식 변화를 비교하고, 참가자들의 재설명과의 상관관계를 분석하여 오해와 지식 격차를 특정하는 데 사용되었다.

실험 결과

연구 질문

• RQ1 음성 보조 기기에 제1자 및 제3자 기관이 포함될 경우 사용자의 신뢰, 개인정보 및 보안 인식에 어떤 영향을 미치는가?
• RQ2 설명에서 제공된 신뢰, 개인정보 및 보안 정보가 사용자의 신뢰, 개인정보 및 보안 인식에 어떤 영향을 미치는가?
• RQ3 사용자의 기존 기기 선택이 설명이나 기능보다 그들의 신뢰 인식에 얼마나 큰 영향을 미치는가?
• RQ4 사용자들이 음성 보조 기기 기능을 재설명함으로써 정신적 모델과 지식 격차가 어떻게 반영되는가?

주요 결과

• 개인정보 설명은 참가자들의 개인정보 우려를 유의미하게 감소시켰으며, 데이터 처리 방식에 대한 명확한 정보가 불안을 완화시킬 수 있음을 시사한다.
• 신뢰 설명, 특히 능력에 중점을 둔 설명은 신뢰 우려를 증가시켰으며, 이는 신뢰에 관한 설명이 잠재적 위험을 부각시켜 오히려 악영향을 미칠 수 있음을 시사한다.
• 제3자 온라인 기능이 포함된 보조 기기를 사용자가 제1자 또는 오프라인 기능만 있는 기기보다 더 우려하는 것으로 평가했으며, 이는 위험 인식에 명확한 구분이 있음을 보여준다.
• 어느 설명보다도 음성 보조 기기 제조사에 대한 신뢰가 신뢰 인식의 더 강력한 예측 변수였으며, 브랜드 명성은 기능적 명확성보다 더 큰 영향을 미친다.
• 참가자들의 재설명은 특히 데이터 흐름과 제3자 역할에 관해 이해 격차가 뚜렷하게 드러나며, 정신적 모델이 약한 것을 보여준다.
• 긴 설명으로 인한 인지 과부하의 증거는 발견되지 않았으며, 이는 더 자세한 정보가 반드시 이해도나 유지도를 떨어뜨리지 않는다는 것을 시사한다.