[論文レビュー] Peril v. Promise: IoT and the Ethical Imaginaries

Funda Ustek‐Spilda, Alison Powell+2 more|arXiv (Cornell University)|Jun 25, 2019

Ethics and Social Impacts of AI参考文献 9被引用数 4

ひとこと要約

本論文は、ロンドン、アムステルダム、バセロナ、ベオグラードでのエトノグラフィック・フィールドワークを通じて、ヨーロッパのIoT開発者が直面する倫理的課題を検討する。トップダウン型の倫理的枠組みやソリューション志向のアプローチは、開発者の文脈的現実に対応できず、代わりに文脈に応じた、実践に基づく倫理的イメージを提唱する。IoTの設計・展開において、危険と恩恵の二元論的枠組みを超えようとするものである。

ABSTRACT

The future scenarios often associated with Internet of Things (IoT) oscillate between the peril of IoT for the future of humanity and the promises for an ever-connected and efficient future. Such a dichotomous positioning creates problems not only for expanding the field of application of the technology, but also ensuring ethical and responsible design and production. As part of VirtEU (Values and Ethics in Innovation for Responsible Technology in Europe) (EU Horizon 2020 FP7), we have conducted ethnographic research into the main hubs of IoT in Europe, such as London, Amsterdam, Barcelona and Belgrade, with developers and designers of IoT to identify the challenges they face in their day-to-day work. In this paper, we focus on the IoT and the ethical imaginaries explore the practical challenges IoT developers face when they are designing, producing and marketing IoT technologies. We argue that top-down ethical frameworks that overlook the situated capabilities of developers or the solutionist approaches that treat ethical issues as technical problems are unlikely to provide an alternative to the dichotomous imaginary for the future.

研究の動機と目的

• ヨーロッパの主要なテックハブにおけるIoT開発者・デザイナーが日常の業務でどのように倫理的課題を扱っているかを調査すること。
• IoTの議論において支配的である「危険」と「恩恵」の二元論的枠組みを批判すること。この枠組みは、複雑な倫理的妥当性のトレードオフを単純化している。
• 開発者の作業環境における文脈的・実務的現実を無視するトップダウン型の倫理的枠組みを検証すること。
• 開発者の生活経験と文脈的実行能力から生じる代替的アプローチを提唱すること。
• 抽象的原則ではなく、IoT開発の実際の実践に根ざした倫理を基盤とする、責任あるイノベーションに貢献すること。

提案手法

• ロンドン、アムステルダム、バセロナ、ベオグラードの4か所のヨーロッパのIoTイノベーションハブにおけるエトノグラフィック・フィールドワークを実施した。
• 開発者やデザイナーと、彼らの日常的な設計・生産プロセスを観察し、深掘りインタビューを実施した。
• 物語や実践を分析し、現実の開発文脈において倫理的懸念がどのように理解され、交渉され、実行されているかを特定した。
• ユートピア的またはディストピア的とされるIoTの壮大なビジョンと、実際の現場で生まれる現実的・文脈的倫理との間の緊張を検討した。
• 批判的ディス course 分析を用いて、「危険対恩恵」の二元論を解体し、その倫理的イノベーションを導く際の限界を明らかにした。
• 指示的枠組みから、開発者の文脈的・身体的・共同的実践に根ざした倫理へと移行する提案をした。

実験結果

リサーチクエスチョン

• RQ1 ヨーロッパのIoT開発者は、日常の設計・生産プロセスにおいて、どのように倫理的問題を理解し、交渉しているか？
• RQ2 「危険対恩恵」という支配的ナラティブは、IoT開発における倫理的意思決定をどのように制限しているか？
• RQ3 なぜトップダウン型の倫理的枠組みは、現実のIoT開発文脈における責任あるイノベーションを支援できないのか？
• RQ4 IoT開発者の文脈的実践から生まれる倫理的イメージはどのようなものであり、制度化された倫理的モデルとはどのように異なるか？
• RQ5 開発者の実務的・共同的・文脈に応じた現実を反映するように、IoTにおける倫理的設計はどのように再考されるべきか？

主な発見

• 開発者はしばしばプライバシー、監視、データガバナンスに関する倫理的ジレンマに直面するが、これらはほとんど常に抽象的な言葉で語られない。
• 「危険対恩恵」というナラティブは、公共および政策的議論を支配しているが、開発者が日々実践する洗練された現実的倫理とは一致しない。
• トップダウン型の倫理的枠組みは、開発作業の現実から乖離していると認識され、関与の放棄や形式的な順守に終わることが多い。
• 倫理的意思決定は、しばしば公式なコードへの従順よりも、非公式で協働的かつ文脈特化的な実践を通じてなされている。
• 開発者はチームのダイナミクス、プロジェクトの制約、ステークホルダーとのやり取りを通じて、局所的倫理的イメージを構築しており、これらは制度的モデルによって無視されている。
• IoT開発の文脈的・協働的・反復的な性質を反映し、それに支えられる倫理的枠組みの必要性が明確に示されている。