[论文解读] Peril v. Promise: IoT and the Ethical Imaginaries

Funda Ustek‐Spilda, Alison Powell+2 more|arXiv (Cornell University)|Jun 25, 2019

Ethics and Social Impacts of AI参考文献 9被引用 4

一句话总结

本文通过在伦敦、阿姆斯特丹、巴塞罗那和贝尔格莱德进行民族志田野调查，探讨了欧洲物联网开发者面临的伦理挑战。文章认为，自上而下的伦理框架和解决方案主义方法无法应对开发者所处的现实情境，主张应采用情境敏感、基于实践的伦理构想，以超越物联网设计与部署中‘危险’与‘希望’的二元对立。

ABSTRACT

The future scenarios often associated with Internet of Things (IoT) oscillate between the peril of IoT for the future of humanity and the promises for an ever-connected and efficient future. Such a dichotomous positioning creates problems not only for expanding the field of application of the technology, but also ensuring ethical and responsible design and production. As part of VirtEU (Values and Ethics in Innovation for Responsible Technology in Europe) (EU Horizon 2020 FP7), we have conducted ethnographic research into the main hubs of IoT in Europe, such as London, Amsterdam, Barcelona and Belgrade, with developers and designers of IoT to identify the challenges they face in their day-to-day work. In this paper, we focus on the IoT and the ethical imaginaries explore the practical challenges IoT developers face when they are designing, producing and marketing IoT technologies. We argue that top-down ethical frameworks that overlook the situated capabilities of developers or the solutionist approaches that treat ethical issues as technical problems are unlikely to provide an alternative to the dichotomous imaginary for the future.

研究动机与目标

• 调查欧洲主要科技枢纽的物联网开发者与设计师如何在日常工作中应对伦理挑战。
• 挑战物联网话语中‘危险’与‘希望’之间的主导二元对立，该对立过度简化了复杂的伦理权衡。
• 批判忽视开发者工作环境情境性与实践现实的自上而下伦理框架。
• 提出一种源于开发者实际经验与情境化能力的替代性伦理设计方法。
• 通过将伦理植根于物联网开发的实际实践而非抽象原则，为负责任创新做出贡献。

提出的方法

• 在四个欧洲物联网创新枢纽（伦敦、阿姆斯特丹、巴塞罗那和贝尔格莱德）开展民族志田野调查。
• 通过深度访谈和对开发者与设计师日常设计与生产流程的观察，与他们展开互动。
• 分析叙事与实践，识别伦理关切在现实开发情境中如何被理解、协商与实施。
• 探讨物联网作为乌托邦或反乌托邦的宏大愿景与实践中浮现的务实、情境化伦理之间的张力。
• 运用批判话语分析解构‘危险对希望’的二元对立，揭示其在指导伦理创新方面的局限性。
• 提出从规范性伦理框架转向植根于开发者情境化、具身化与协作性实践的伦理范式。

实验结果

研究问题

• RQ1 欧洲的物联网开发者如何理解并协商其日常设计与生产流程中的伦理问题？
• RQ2 主导的‘危险对希望’叙事在多大程度上限制了物联网开发中的伦理决策？
• RQ3 为何自上而下的伦理框架在现实物联网开发背景下无法支持负责任创新？
• RQ4 物联网开发者的具体实践中涌现出怎样的伦理构想？它们与制度化的伦理模型有何不同？
• RQ5 如何重新构想物联网的伦理设计，以反映开发者实际、协作与情境敏感的现实？

主要发现

• 开发者经常面临与隐私、监控和数据治理相关的伦理困境，但这些困境很少以抽象方式被表述。
• ‘危险对希望’的叙事主导着公共与政策话语，但并未反映开发者日常实践中所体现的细致入微、务实的伦理实践。
• 自上而下的伦理框架被认为与开发工作的现实脱节，导致参与度降低或仅形式上的合规。
• 伦理决策往往通过非正式、协作性与情境特定的实践做出，而非遵循正式准则。
• 开发者通过团队动态、项目约束与利益相关者互动，发展出本地化的伦理构想，而这些被制度化模型所忽视。
• 迫切需要一种源于并支持物联网开发情境化、协作性与迭代性本质的伦理框架。