[논문 리뷰] What's up with Privacy?: User Preferences and Privacy Concerns in Intelligent Personal Assistants

Lydia Manikonda, Aditya Deotale외 1명|arXiv (Cornell University)|2017. 11. 20.

Privacy, Security, and Data Protection인용 수 13

한 줄 요약

이 연구는 온라인 리뷰와 설문 조사 자료를 활용하여 아마존 에코와 구글 홈과 같은 지능형 개인 보조기기(IPA)의 사용자 개인정보 문제와 행동을 조사한다. 연구 결과, 사용자들은 일반적으로 IPA에 대해 긍정적인 태도를 보이지만, 지속적인 청취 기능에 대해 상당한 개인정보 우려를 제기하며 마이크를 끄는 등의 조치를 취하는 경향이 있다. 특히 '항상 청취' 기능을 알고 난 후에는 개인정보에 대한 우려 수준이 크게 증가하는 것으로 나타났다.

ABSTRACT

The recent breakthroughs in Artificial Intelligence (AI) have allowed individuals to rely on automated systems for a variety of reasons. Some of these systems are the currently popular voice-enabled systems like Echo by Amazon and Home by Google that are also called as Intelligent Personal Assistants (IPAs). Though there are raising concerns about privacy and ethical implications, users of these IPAs seem to continue using these systems. We aim to investigate why users are concerned about privacy and how they are handling these concerns while using the IPAs. By utilizing the reviews posted online along with the responses to a survey, this paper provides a set of insights about the detected markers related to user interests and privacy challenges. The insights suggest that users of these systems irrespective of their concerns about privacy, are generally positive in terms of utilizing IPAs in their everyday lives. However, there is a significant percentage of users who are concerned about privacy and took further actions to address the related concerns. Some percentage of users expressed that they do not have any privacy concerns but when they learned about the "always listening" feature of these devices, their concern about privacy increased.

연구 동기 및 목표

• 사용자들이 개인정보 우려에도 불구하고 IPA를 채택하는 데 영향을 주는 주요 요인를 이해하기 위해
• 음성 활성화 보조기기 사용 시 사용자들이 겪는 주요 개인정보 문제를 특정하기 위해
• 사용자들이 개인정보 우려에 대응해 취하는 행동과 행동 양태를 분석하기 위해
• 사용자들이 '항상 청취' 기능을 알고 있는지 여부가 개인정보 인식에 어떤 영향을 미치는지 평가하기 위해

제안 방법

• 아마존, 베스트바이, 구글 검색 등의 소스에서 31,235건의 아마존 에코 리뷰와 6,150건의 구글 홈 리뷰를 수집하고 분석하였다.
• IRB 승인을 받은 설문 조사를 실시하여 사용자 인식과 개인정보 행동에 대한 깊이 있는 통찰을 확보하였다.
• 기계 학습 기법과 인간 코드화를 결합하여 리뷰에서 개인정보 관련 마커와 사용자 정서를 추출하였다.
• 미디어 이벤트(예: 앨라배마 살인 사건)와 연관된 리뷰 데이터를 활용해 개인정보 우려의 시간적 추세를 추적하였다.
• 사용자들에게 '항상 청취' 기능을 설명하기 전과 후의 반응을 비교하여 개인정보 우려 수준의 변화를 측정하였다.
• 마이크 끄기 행동의 주요 동기를 분석하여, 개인정보 보호가 핵심 동기임을 규명하였다.

실험 결과

연구 질문

• RQ1 사용자들이 개인정보 우려에도 불구하고 IPA를 사용하도록 유도하는 주요 이유는 무엇인가?
• RQ2 사용자들이 음성 활성화 보조기기에서 가장 우려하는 개인정보 문제는 무엇인가?
• RQ3 사용자들은 개인정보 우려에 실제로 어떻게 대응하며, 어떤 조치를 취하는가?
• RQ4 사용자들이 '항상 청취' 기능을 알고 있는 것이 개인정보 우려 수준에 어떤 영향을 미치는가?
• RQ5 미디어와 문화적 서사가 사용자들이 IPA 개인정보 위험을 인지하는 데 어떤 역할을 하는가?

주요 결과

• 설문 응답자 68.63%가 기기 해킹 위험을 개인정보 우려의 최우선 원인으로 지목하였다.
• 기기의 '항상 청취' 기능을 모른 채 사용하던 사용자 중 50%가 이 사실을 알게 된 후 개인정보 우려 수준이 크게 증가하였다.
• 설문 응답자 47%가 마이크를 끄며, 그 주요 이유로 개인정보 보호를 꼽았다.
• 기술에 익숙하지 않은 사용자들은 마이크 끄기 기능을 잘 모를 가능성이 높아, 투명성 격차가 존재함을 시사한다.
• 2015년 앨라배마 살인 사건 발생 시점과 함께 아마존 에코의 개인정보 관련 리뷰 수가 급격히 증가하여, 미디어 이벤트가 개인정보 우려를 증폭시킬 수 있음을 시사한다.
• 광범위한 사용에도 불구하고, 많은 기술적 숙련된 사용자들이 여전히 '항상 청취' 기능을 인지하지 못하고 있어, 시스템의 투명성 향상 필요성을 보여준다.