[논문 리뷰] Making ethical decisions for the immersive web

Diane Hosfelt|arXiv (Cornell University)|2019. 05. 14.

Augmented Reality Applications참고 문헌 19인용 수 7

한 줄 요약

이 논문은 침습적 웹에 대한 사전적 윤리적 프레임워크를 제안하며, 개인정보 보호 설계, 사용자 권리 강화, 다학제적 협업을 강조하여 혼합현실(MR) 기술의 확산 이전에 그 개발을 이끌어내고자 한다. 이는 감시, 괴롭힘, 편향 등의 해를 방지하기 위해 약속-기본, 최소한의 생체측정 데이터 추적, 규제 감시와 같은 원칙을 지지하며, 향후 침입적 환경에서 공정하고 존중받는 사용자 경험을 보장한다.

ABSTRACT

Mixed reality (MR) ethics occupies a space that intersects with web ethics, emerging tech ethics, healthcare ethics and product ethics (among others). This paper focuses on how we can build an immersive web that encourages ethical development and usage. The technology is beyond emerging (footnote: generally, the ethics of emerging technologies are focused on ethical assessments of research and innovation), but not quite entrenched. We're still in a position to intervene in the development process, instead of attempting to retrofit ethical decisions into an established design. While we have a wider range of data to analyze than most emerging technologies, we're still in a much more speculative state than entrenched technologies. This space is a challenge and an opportunity.

연구 동기 및 목표

• 사회에 뿌리내린 이후가 아니라 기술이 널리 퍼지기 전에 혼합현실(MR) 기술의 윤리적 위험을 해결한다.
• 인공지능과 머신러닝의 사례에서 볼 수 있듯이, 윤리적 프레임워크가 기술 발전에 뒤처지는 역사적 패턴을 막는다.
• 웹 윤리, 제품 윤리, 의료 윤리의 원칙을 통합하여 MR에서 윤리적인 설계를 촉진한다.
• 개방형 표준과 포괄적 거버넌스를 통해 다양한 참여를 보장하여 침입적 웹을 형성한다.
• 기술적 및 규제적 기반에 윤리를 통합하기 위한 실천 가능하고 다자간 전략을 제공한다.

제안 방법

• MR 개발을 위한 윤리 원칙 세트를 제안하며, '사전 허락을 구하라, 용서를 구하지 말라'와 '최소 권한 원칙을 우선시하라' 등을 포함한다.
• 개인정보 보호를 최우선 요구사항으로 삼으며, 기본 설정에서 사용자 통제를 극대화하도록 한다.
• 비밀스럽지 않은 앱 수준의 생체측정 및 공간 데이터 접근을 방지하기 위해 브라우저 기반의 장치 자원 접근 중재를 도입한다.
• 유연하고 전문가 주도의 감시를 제공하기 위해 FINRA를 모델로 한 자율 규제 기구(SRO)의 설립을 권고한다.
• 의료, 사회학, 법학 등 분야의 전문가를 통합하여 MR에서의 윤리적 과제를 사전에 예측하고 해결한다.
• 시스템 설계에서 투명성과 책임성을 강조하며, 괴롭힘 신고 및 사용자 차단을 위한 메커니즘을 마련한다.

실험 결과

연구 질문

• RQ1 침입적 환경에서의 윤리적 의사결정은 널리 보급되기 전에 어떻게 설계에 통합될 수 있는가?
• RQ2 비침입적 또는 AI 기반 시스템과 비교해 MR 기술이 지닌 고유한 윤리적 위험은 무엇인가?
• RQ3 민감한 생체측정 및 공간 데이터를 수집하는 침입적 환경에서 사용자 자율성과 개인정보 보호는 어떻게 유지될 수 있는가?
• RQ4 빠르게 변화하는 MR 기술에 대해 민첩하고 전문가 주도의 감시를 보장할 수 있는 제도적 및 규제 모델은 무엇인가?
• RQ5 엔지니어, 윤리학자, 사용자 등 다양한 이해관계자가 함께 협력하여 침입적 웹의 윤리 기준을 어떻게 설정할 수 있는가?

주요 결과

• 침입적 웹은 아직 확산 단계에 있지만 뿌리내리지 않은 중요한 전환점에 있다. 이는 기술적 결정이 봉인되기 전에 윤리적 개발을 이끌 수 있는 고유한 창이다.
• 현재의 기술 관행, 예를 들어 '빨리 가고, 망가지라'는 원칙은 개인정보 침해와 알고리즘 편향과 같은 체계적 해를 야기했으며, MR에서는 사전 윤리적 설계를 통해 이를 피해야 한다.
• 브라우저 기반의 장치 자원 접근은 네이티브 앱에 비해 규제되지 않은 데이터 접근 위험을 줄이는 신뢰할 수 있는 중재자 역할을 할 수 있다.
• 법률적 절차보다 느린 정부 기관과 달리, 기술 자율 규제 기구(SRO) 같은 규제 기관은 혁신과 맞는 유연하고 민첩한 감시를 제공할 수 있다.
• 개인정보 보호는 후행 조치가 아니라 최우선 요구사항이 되어야 하며, 기본 설정에서 사용자 통제와 투명성을 우선시해야 한다.
• 의료, 사회학, 법학 분야의 전문가를 통합하는 것이 윤리적 위험을 사전에 예측하고 다양한 인구 집단에서 공정한 결과를 보장하는 데 필수적이다.