[論文レビュー] Ethical Frameworks and Computer Security Trolley Problems: Foundations for Conversations

Tadayoshi Kohno, Yasemin Acar+1 more|arXiv (Cornell University)|Feb 28, 2023

Information and Cyber Security被引用数 4

ひとこと要約

本論文は、コンピュータセキュリティをテーマにしたトロリー・パラドックスを導入し、セキュリティ研究コミュニティにおける倫理的考察を促進することを目的としている。深刻なリスクがない状況での脆弱性の公開といった現実的でない状況における意思決定に対して、結果主義的および義務論的倫理的枠組みを適用することで、異なる道徳的推論がどのように異なる結論を導くかを示しており、研究、レビュー、教育における構造的で枠組みに基づいた議論の重要性を提唱している。

ABSTRACT

The computer security research community regularly tackles ethical questions. The field of ethics / moral philosophy has for centuries considered what it means to be "morally good" or at least "morally allowed / acceptable". Among philosophy's contributions are (1) frameworks for evaluating the morality of actions -- including the well-established consequentialist and deontological frameworks -- and (2) scenarios (like trolley problems) featuring moral dilemmas that can facilitate discussion about and intellectual inquiry into different perspectives on moral reasoning and decision-making. In a classic trolley problem, consequentialist and deontological analyses may render different opinions. In this research, we explicitly make and explore connections between moral questions in computer security research and ethics / moral philosophy through the creation and analysis of trolley problem-like computer security-themed moral dilemmas and, in doing so, we seek to contribute to conversations among security researchers about the morality of security research-related decisions. We explicitly do not seek to define what is morally right or wrong, nor do we argue for one framework over another. Indeed, the consequentialist and deontological frameworks that we center, in addition to coming to different conclusions for our scenarios, have significant limitations. Instead, by offering our scenarios and by comparing two different approaches to ethics, we strive to contribute to how the computer security research field considers and converses about ethical questions, especially when there are different perspectives on what is morally right or acceptable.

研究の動機と目的

• 現実のセキュリティ状況に基づいた倫理的ジレンマを創出し、コンピュータセキュリティ研究と道徳哲学者の間の橋渡しを図ること。
• 特に、自律性と利益提供の原則の間で対立する場合に生じる倫理的意思決定における合意の欠如に応えること。
• 結果主義的および義務論的枠組みを用いた比較的分析を導入することで、コンピュータセキュリティコミュニティがより情報に基づいた、構造的な倫理的議論を行うのを支援すること。
• 教育者に、正解が事前に定められていない批判的思考を促進する、教えることのできる非規定的倫理的シナリオを提供すること。
• 研究プロセスに倫理的考察を制度化することを提唱し、インターネットドラフトへの「複数の枠組みに基づく倫理的考慮」の記載を義務付けるような制度的変更を提案すること（既存のセキュリティレビューの慣行に倣って）。

提案手法

• コンピュータセキュリティ研究意思決定をテーマにした、オリジナルの3つのトロリー問題風の倫理的ジレンマ（シナリオA、B、C）を設計すること。
• 各シナリオに対して、結果主義（例：功利主義）および義務論（例：カント的倫理）という2つの主要な倫理的枠組みを適用し、結果と推論を比較すること。
• 哲学的および倫理的側面に集中できるように、現実の複雑さから隔離された簡素化された架空のシナリオを用いることで、道徳的推論に焦点を当てる。
• 反復的ディスカッションと専門家フィードバックを通じてジレンマを検証し、明確な解決策のない真の道徳的対立を提示していることを保証すること。
• コミュニティ利用および将来的なシナリオ開発を支援するための同行スライドデッキおよび公開リポジトリ（https://securityethics.cs.washington.edu）を構築すること。
• インターネットドラフトに「複数の枠組みに基づく倫理的考慮」のセクションを義務付けるなど、制度的変更を提言すること。これは、既存のセキュリティレビュー慣行を模倣したものである。

実験結果

リサーチクエスチョン

• RQ1 トロリー・パラドックスの類似例を、コンピュータセキュリティ研究における現実の倫理的緊張にどのように適合させることができるか？
• RQ2 結果主義的および義務論的倫理的枠組みをセキュリティ研究のジレンマに適用した場合、どの程度異なる結論が導かれるか？
• RQ3 構造的な倫理的枠組みは、研究者、レビュアー、教育者にとって意思決定をどのように改善できるか？
• RQ4 コンピュータセキュリティコミュニティは、研究プロセスおよび共同レビューにおいて、複数の枠組みに基づく倫理的考察をどのように制度化できるか？
• RQ5 どの設計基準が、唯一の「正解」を規定しないまま、倫理的議論を促進するのに有効なシナリオを生み出すか？

主な発見

• 非パッチ可能な医療機器の脆弱性、潜在的な悪用が可能なプライバシー保護型システム、データ共有のジレンマを含む3つの提案されたシナリオは、いずれも真の道徳的対立を示しており、普遍的に合意された解決策は存在しない。
• 結果主義的および義務論的枠組みは、同じシナリオにおいてしばしば異なる結論を導くことがあり、道徳的推論が一様ではなく、基礎的仮定に依存することを示している。
• これらのシナリオは、簡単な答えがなく、自律性、利益提供、非悪行の原則の間のトレードオフを議論するのを促すため、教育的用途に効果的である。
• 研究は、単一の倫理的レンズに依存するのではなく、複数の枠組みに明示的に関与することで、セキュリティ研究における道徳的推論が恩恵を受けることを示している。
• 著者らは、研究ワークフローに複数の枠組みに基づく倫理的分析を統合することを提唱しており、たとえば、既存のセキュリティレビュー慣行に倣って、提出物に専用の「倫理的考慮」セクションを義務付けることなどを提案している。
• 本研究は、専門家レビューおよび教室での使用を通じてすでに検証されており、継続的なコミュニティ貢献およびシナリオ開発のための公開リポジトリが整備されている。