[論文レビュー] Strangers in the Room: Unpacking Perceptions of 'Smartness' and Related Ethical Concerns in the Home

William Seymour, Reuben Binns+3 more|arXiv (Cornell University)|May 1, 2020

Privacy, Security, and Data Protection参考文献 64被引用数 21

ひとこと要約

本論文は、アンケートとインタビューを通じて、家庭用デバイスにおける8種類の異なる『スマートさ』のタイプを特定し、それぞれをプライバシー、自律性、社会的秩序の破壊といった具体的な倫理的懸念と結びつけた。ユーザーがスマートさを、自動化から社会的相互作用に至るまで多様に捉えることにより、倫理的リスクがどのように変容するかを明らかにし、スマートホームシステムにおける文脈を超えた倫理的問題を事前に特定・緩和するための中間的枠組みを設計者に提供する。

ABSTRACT

The increasingly widespread use of 'smart' devices has raised multifarious ethical concerns regarding their use in domestic spaces. Previous work examining such ethical dimensions has typically either involved empirical studies of concerns raised by specific devices and use contexts, or alternatively expounded on abstract concepts like autonomy, privacy or trust in relation to 'smart homes' in general. This paper attempts to bridge these approaches by asking what features of smart devices users consider as rendering them 'smart' and how these relate to ethical concerns. Through a multimethod investigation including surveys with smart device users (n=120) and semi-structured interviews (n=15), we identify and describe eight types of smartness and explore how they engender a variety of ethical concerns including privacy, autonomy, and disruption of the social order. We argue that this middle ground, between concerns arising from particular devices and more abstract ethical concepts, can better anticipate potential ethical concerns regarding smart devices.

研究の動機と目的

• 専門家でないユーザーが、単なる接続性を越えて、家庭用デバイスにおける『スマートさ』をどのように概念化しているかを理解すること。
• 自動化や遠隔操作、社会的相互作用といった異なる形態のスマートさが、プライバシー、自律性、社会的秩序の破壊といった倫理的懸念とどのように関連しているかを特定すること。
• ユーザーが生み出すスマートさのメンタルモデルを分析することで、デバイス固有の倫理的懸念と抽象的な倫理理論の間のギャップを埋めること。
• 設計者に、多様なスマートホーム文脈における倫理的リスクを事前に特定・緩和できる、構造的でユーザーに裏付けられたフレームワークを提供すること。

提案手法

• オンラインアンケートを通じて120名のスマートデバイス利用者を対象に混合研究を実施し、スマートさの初期認識を収集した。
• 15件の半構造的インタビューを実施し、スマートさおよび倫理的懸念に関する洗練された理解を深く探求した。
• テーマ的分析を用いて、ユーザーの反応に基づき8種類の明確に区別できるスマートさのタイプを特定・分類した。
• 学術文献および参加者の物語から抽出した具体的な倫理的懸念と、各スマートさのタイプをマッピングした。
• 実際の家庭内シナリオ（例：親とティーンエイジャー、高齢者ケア）を描写したビンエットを用いて、文脈に応じた倫理的判断を引き出した。
• 権力のダイナミクス、制御の非対称性、社会的規範を分析し、スマートさが共有住宅における信頼とプライバシーにどのように影響するかを解明した。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、家庭用デバイスの文脈において『スマート』という語に関連して、どのような機能や特徴を想起するか？
• RQ2 自動化、遠隔操作、社会的相互作用といった異なるタイプのスマートさ（例）は、どのようにして別個の倫理的懸念を生じるか？
• RQ3 親子関係、同居の大人同士、高齢者ケアといった異なる社会的関係において、スマートさの認識はどのように変化するか？
• RQ4 スマートさが感覚的な家庭内文脈に適用される際、プライバシーと安全の間の倫理的ジレンマをユーザーはどのように調整するか？
• RQ5 ユーザーのスマートさのメンタルモデルは、自律性や透明性といった抽象的な倫理原則と、どの程度一致しているか、あるいは乖離しているか？

主な発見

• 参加者は、自動化、遠隔操作、学習、社会的相互作用、予測、パーソナライゼーション、統合、監視の8種類の明確に区別できるスマートさのタイプを特定した。
• 音声アシスタントのようなデバイスの『社会的スマートさ』は、機械らしくないが人間らしすぎるため、不気味の谷効果を引き起こし、不快感や不協和感を生じさせた。
• 倫理的懸念は、賃貸人対入居者、親対子供といった非対称な権力関係において最も顕著で、デバイス所有者が一方的かつデータにアクセスできる状況であった。
• 高齢者ケアの文脈では、独立性を高める場合、ユーザーは監視やモニタリングのスマートさをより受け入れやすかった。これは、自律性と安全の間のトレードオフを示している。
• ユーザーは、受動的に聞き耳を立てたり、透明性のない形で意思決定を行うデバイスが『部屋にいる他人』のように感じられることに、顕著な懸念を示した。
• 本研究は、特定のデバイス自体に倫理的リスクが内在しているのではなく、特定の形態のスマートさが社会的・人的関係の文脈でどのように展開されるかに起因するという事実を明らかにした。