[논문 리뷰] Strangers in the Room: Unpacking Perceptions of 'Smartness' and Related Ethical Concerns in the Home

William Seymour, Reuben Binns외 3명|arXiv (Cornell University)|2020. 05. 01.

Privacy, Security, and Data Protection참고 문헌 64인용 수 21

한 줄 요약

이 논문은 설문조사와 인터뷰를 통해 가정 기기에서의 여덟 가지 유형의 '지능성'을 특정하고, 각각을 프라이버시, 자율성, 사회적 혼란과 같은 특정 윤리적 우려와 연결한다. 사용자가 지능성에 대해 인식하는 방식—자동화에서 사회적 상호작용에 이르기까지—이 윤리적 위험을 형성하며, 스마트 홈 시스템에서 다각도의 윤리적 문제를 사전에 예측하고 완화할 수 있도록 디자이너들을 위한 중간 정도의 프레임워크를 제공한다.

ABSTRACT

The increasingly widespread use of 'smart' devices has raised multifarious ethical concerns regarding their use in domestic spaces. Previous work examining such ethical dimensions has typically either involved empirical studies of concerns raised by specific devices and use contexts, or alternatively expounded on abstract concepts like autonomy, privacy or trust in relation to 'smart homes' in general. This paper attempts to bridge these approaches by asking what features of smart devices users consider as rendering them 'smart' and how these relate to ethical concerns. Through a multimethod investigation including surveys with smart device users (n=120) and semi-structured interviews (n=15), we identify and describe eight types of smartness and explore how they engender a variety of ethical concerns including privacy, autonomy, and disruption of the social order. We argue that this middle ground, between concerns arising from particular devices and more abstract ethical concepts, can better anticipate potential ethical concerns regarding smart devices.

연구 동기 및 목표

• 비전문가 사용자가 단순한 연결성 이상의 차원에서 '지능성'을 어떻게 개념화하는지 이해하기 위해.
• 자동화, 원격 제어, 사회적 상호작용 등 다양한 지능성 형태가 프라이버시, 자율성, 사회질서 교란과 같은 윤리적 문제와 어떻게 관련되는지 규명하기 위해.
• 사용자가 도출한 지능성에 대한 정서적 모델을 분석하여 기기 중심의 윤리적 문제와 추상적인 윤리 이론 사이의 격차를 메우기 위해.
• 다양한 스마트 홈 환경에서 윤리적 리스크를 사전에 예측하고 완화할 수 있도록 디자이너들에게 체계적이고 사용자 기반의 프레임워크를 제공하기 위해.

제안 방법

• 스마트 기기 사용자 120명을 대상으로 온라인 설문조사를 실시하여 지능성에 대한 初기 인식을 수집한 혼합 방법 연구를 수행하였다.
• 사용자 응답의 깊이 있는 이해와 윤리적 우려를 탐색하기 위해 15명의 반구조화된 인터뷰를 실시하였다.
• 주제 분석을 통해 사용자 응답 기반으로 여덟 가지 구분되는 지능성 유형을 식별하고 분류하였다.
• 학술 문헌과 참가자 서술에서 유래한 특정 윤리적 문제와 각 지능성 유형을 매핑하였다.
• 실제 가정 생활 상황(예: 부모-청소년, 노인 간호)을 묘사한 사례 연구를 활용하여 맥락 기반 윤리적 판단을 유도하였다.
• 권력 관계, 통제력의 비대칭성, 사회적 규범을 분석하여 공유 주거 환경에서 지능성이 신뢰와 프라이버시에 어떻게 영향을 미치는지 밝혀내었다.

실험 결과

연구 질문

• RQ1 사용자들이 가정 기기 맥락에서 '지능적'이라는 표현과 연관지어 생각하는 기능이나 특성은 무엇인가?
• RQ2 예: 자동화, 원격 제어, 사회적 상호작용 등 다양한 유형의 지능성이 어떻게 각기 다른 윤리적 문제를 야기하는가?
• RQ3 예: 부모-자녀 관계, 동거하는 성인, 노인 간호 등 다양한 사회적 관계에서 지능성에 대한 인식은 어떻게 다름이 있는가?
• RQ4 지능성이 민감한 가정 환경에 적용될 때, 예를 들어 프라이버시와 안전 사이의 윤리적 갈등을 사용자가 어떻게 조율하는가?
• RQ5 사용자의 지능성에 대한 정서적 모델이 자율성과 투명성과 같은 추상적 윤리 원칙과 얼마나 일치하거나 다름이 있는가?

주요 결과

• 참가자들은 여덟 가지 명백히 구분되는 지능성 유형을 식별했다: 자동화, 원격 제어, 학습, 사회적 상호작용, 예측, 개인화, 통합, 감시.
• 음성 보조 장치와 같은 기기의 '사회적 지능성'은 너무 인간처럼 보여서 '비현실감의 골짜기' 효과를 유발하였으며, 이는 불편감과 정서적 불일치를 야기하였다.
• 윤리적 우려는 특히 통제력과 데이터 접근 권한이 단 한쪽에 집중된 비대칭적 권력 관계—예: 임대주-임차인, 부모-자녀—에서 가장 심각하였다.
• 노인 간호 맥락에서는 독립성을 높이는 데 기여할 경우, 사용자들이 감시 및 모니터링 기능에 대해 더 수용적인 태도를 보였으며, 이는 자율성과 안전성 사이의 상충 관계를 반영하였다.
• 사용자들은 특히 장치가 수동적으로 듣거나 투명성 없이 결정을 내길 때 '방 안의 낯선 이방인'처럼 느끼며 심각한 우려를 표명하였다.
• 본 연구는 윤리적 리스크가 특정 기기 자체에 내재된 것이 아니라, 특정 지능성 형태가 사회적·관계적 맥락에서 어떻게 구현되는지에 따라 발생한다는 점을 드러냈다.