[論文レビュー] Making ethical decisions for the immersive web

Diane Hosfelt|arXiv (Cornell University)|May 14, 2019

Augmented Reality Applications参考文献 19被引用数 7

ひとこと要約

本論文は、没入型ウェブのための予防的倫理フレームワークを提唱し、プライバシー・バイ・デザイン、ユーザーの自己決定権強化、多分野連携を重視することで、ミックスド・リアリティ（MR）技術の開発を、それらが定着する前段階で導く。監視、いじめ、バイアスといった被害を防ぐために、同意を前提とする、最小限の生体情報追跡、規制監視といった原則を提唱し、新興の没入型環境における公平で尊重あるユーザー体験を確保する。

ABSTRACT

Mixed reality (MR) ethics occupies a space that intersects with web ethics, emerging tech ethics, healthcare ethics and product ethics (among others). This paper focuses on how we can build an immersive web that encourages ethical development and usage. The technology is beyond emerging (footnote: generally, the ethics of emerging technologies are focused on ethical assessments of research and innovation), but not quite entrenched. We're still in a position to intervene in the development process, instead of attempting to retrofit ethical decisions into an established design. While we have a wider range of data to analyze than most emerging technologies, we're still in a much more speculative state than entrenched technologies. This space is a challenge and an opportunity.

研究の動機と目的

• 社会に定着する前に対象となるミックスド・リアリティ（MR）技術の倫理的リスクに対処すること。
• AI や機械学習（ML）の事例で見られるように、技術発展に比べて倫理フレームワークが遅れるという歴史的パターンに反発すること。
• ウェブ倫理、プロダクト倫理、医療倫理の原則を統合することで、MRにおける倫理的デザインを推進すること。
• オープンスタンダードと包摂的ガバナンスを通じて、多様な参加を促進し、没入型ウェブの形成に参加させること。
• 技術的・規制的基盤に倫理を埋め込むための実行可能でステークホルダーが多様な戦略を提供すること。

提案手法

• MR開発のための倫理的原則のセットを提唱し、『許可を求めるが、許しを請うてはいけない』や『最小限の特権を優先する』といった原則を含む。
• プライバシーを最初の要件として扱い、デフォルト設定でユーザーのコントロールを最大限に優先する。
• 生体情報および空間データへの信頼できないアプリレベルのアクセスを防ぐために、ブラウザベースのデバイスリソースアクセスの仲介を導入する。
• FINRAをモデルにした自己規制機関（SRO）の設立を提言し、柔軟で専門家主導の監視を提供する。
• 医学、社会学、法制度の分野の専門家を統合し、MRにおける倫理的課題を予測・対処する。
• 報告やユーザーブロッキングのメカニズムを備えた、システム設計における透明性と責任の強調。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、ミックスド・リアリティ（MR）システムの広範な採用前に、倫理的意思決定を設計に組み込むことができるか？
• RQ2 MR技術は、非没入型またはAI駆動型システムと比較して、どのような独自の倫理的リスクをもたらすか？
• RQ3 生体情報および空間データといった機微なデータを収集する没入型環境において、ユーザーの自律性とプライバシーをどのように維持できるか？
• RQ4 急速に進化するMR技術の監視に、迅速かつ専門家主導の対応を可能にする、どのような制度的・規制的モデルが有効か？
• RQ5 エンジニア、倫理学者、ユーザーといった多様なステークホルダーが、没入型ウェブのための倫理基準をどのように共同で形成できるか？

主な発見

• 没入型ウェブは、まだ定着していないが、新興段階を超えているため、設計選択が固定化される前に倫理的発展を形作る、唯一の機会が存在する。
• 現在の技術的慣行（例：『速く進んで、壊してから修正する』）は、プライバシー侵害やアルゴリズムバイアスといったシステム的被害を引き起こしており、MR分野では、予防的倫理的設計によってこれを回避する必要がある。
• ブラウザベースのリソースアクセスは、ネイティブアプリに比べ、規制のないデータアクセスのリスクを低減する信頼できる仲介者として機能する。
• 技術自己規制機関（SRO）のような規制機関は、立法的プロセスよりも遅いが、イノベーションの進展に追従できる柔軟で迅速な監視を提供できる。
• プライバシーは、後から考えるのではなく、最初の要件として扱うべきであり、デフォルト設定ではユーザーのコントロールと透明性を優先すべきである。
• 医学、社会学、法制度分野の専門家を統合することが、多様な人口における倫理的リスクの予測と、公平な結果の確保に不可欠である。