[论文解读] Making ethical decisions for the immersive web

Diane Hosfelt|arXiv (Cornell University)|May 14, 2019

Augmented Reality Applications参考文献 19被引用 7

一句话总结

本文提出了一套主动的伦理框架，用于沉浸式网络，强调隐私优先设计、用户赋权以及跨学科协作，以在混合现实（MR）技术根深蒂固之前引导其发展。该框架倡导默认同意、最小化生物特征追踪以及监管监督等原则，以防止监控、骚扰和偏见等危害，确保新兴沉浸式环境中公平且尊重用户的体验。

ABSTRACT

Mixed reality (MR) ethics occupies a space that intersects with web ethics, emerging tech ethics, healthcare ethics and product ethics (among others). This paper focuses on how we can build an immersive web that encourages ethical development and usage. The technology is beyond emerging (footnote: generally, the ethics of emerging technologies are focused on ethical assessments of research and innovation), but not quite entrenched. We're still in a position to intervene in the development process, instead of attempting to retrofit ethical decisions into an established design. While we have a wider range of data to analyze than most emerging technologies, we're still in a much more speculative state than entrenched technologies. This space is a challenge and an opportunity.

研究动机与目标

• 在混合现实（MR）技术在社会中根深蒂固之前，解决其伦理风险。
• 应对人工智能和机器学习发展过程中伦理框架滞后于技术发展的历史模式。
• 通过整合网络伦理、产品伦理和医疗伦理的原则，推动MR的伦理化设计。
• 通过开放标准和包容性治理，确保多元参与，共同塑造沉浸式网络。
• 提供可操作的、多方参与的策略，将伦理嵌入MR平台的技术与监管基础之中。

提出的方法

• 提出一套适用于MR开发的伦理原则，包括“先获许可，而非事后补救”和“优先最小权限”。
• 倡导将隐私作为首要要求，使默认设置有利于用户最大控制权。
• 引入基于浏览器的设备资源访问中介机制，以防止不受信任的应用程序直接访问生物特征和空间数据。
• 建议成立一个类似于FINRA的自律组织（SRO），以提供灵活、专家主导的监督。
• 整合医学、社会学和法律等领域的专家，以预见并应对MR中的伦理挑战。
• 强调系统设计中的透明度与问责机制，建立举报骚扰行为和封禁用户的功能。

实验结果

研究问题

• RQ1 如何在混合现实系统被广泛采用之前，将其伦理决策嵌入其设计之中？
• RQ2 与非沉浸式或人工智能驱动的系统相比，MR技术带来了哪些独特的伦理风险？
• RQ3 在收集敏感生物特征和空间数据的沉浸式环境中，如何保护用户的自主权与隐私？
• RQ4 哪些制度与监管模式能够确保对快速演进的MR技术实施响应迅速、专家主导的监督？
• RQ5 工程师、伦理学家和用户等多元利益相关者如何协作，共同塑造沉浸式网络的伦理标准？

主要发现

• 沉浸式网络正处于一个关键节点：它已超越初期阶段，但尚未根深蒂固，这为在不可逆的设计选择被锁定之前，塑造其伦理发展创造了独特契机。
• 当前的技术实践——如“快速行动，事后修复”——已导致系统性危害，如隐私侵犯和算法偏见，必须通过主动的伦理设计在MR中避免此类问题。
• 基于浏览器的设备资源访问可作为可信中介，相比原生应用，能显著降低未经监管的数据访问风险。
• 监管机构如技术自律组织（SRO）可提供灵活、响应迅速的监督，其速度可跟上技术创新，而传统立法过程则往往迟缓。
• 隐私必须被视为首要要求，而非事后补救措施，其默认设置应优先保障用户控制与透明度。
• 整合医学、社会学和法律等领域的专家，对于预见伦理风险并确保不同人群的公平结果至关重要。