[論文レビュー] Democratising Risk: In Search of a Methodology to Study Existential Risk

Carla Zoe Cremer, Luke Kemp|arXiv (Cornell University)|Dec 27, 2021

Space Science and Extraterrestrial Life被引用数 14

ひとこと要約

この論文は、生存的リスク研究（ERS）における支配的である「技術的ユートピア的アプローチ」（TUA）を批判し、道徳的エリトニズム、曖昧な定義、および高リスクの政策提言という問題を指摘する。本稿は、絶滅の倫理と生存的リスクの倫理を分離し、厳密なリスク評価フレームワークを統合し、多様な専門性を統合することで、グローバル・カタストロフィー研究における正当性、包括性、政策の整合性を高める民主的で再構築された手法を提唱する。

ABSTRACT

Studying potential global catastrophes is vital. The high stakes of existential risk studies (ERS) necessitate serious scrutiny and self-reflection. We argue that existing approaches to studying existential risk are not yet fit for purpose, and perhaps even run the risk of increasing harm. We highlight general challenges in ERS: accommodating value pluralism, crafting precise definitions, developing comprehensive tools for risk assessment, dealing with uncertainty, and accounting for the dangers associated with taking exceptional actions to mitigate or prevent catastrophes. The most influential framework for ERS, the 'techno-utopian approach' (TUA), struggles with these issues and has a unique set of additional problems: it unnecessarily combines the study of longtermism and longtermist ethics with the study of extinction, relies on a non-representative moral worldview, uses ambiguous and inadequate definitions, fails to incorporate insights from risk assessment in relevant fields, chooses arbitrary categorisations of risk, and advocates for dangerous mitigation strategies. Its moral and empirical assumptions might be particularly vulnerable to securitisation and misuse. We suggest several key improvements: separating the study of extinction ethics (ethical implications of extinction) and existential ethics (the ethical implications of different societal forms), from the analysis of human extinction and global catastrophe; drawing on the latest developments in risk assessment literature; diversifying the field, and; democratising its policy recommendations.

研究の動機と目的

• 現在の生存的リスク研究におけるシステム的欠陥、特に技術的ユートピア的アプローチ（TUA）の支配的傾向を特定すること。
• ERSにおける価値多様性の欠如、定義の不一致、および限定的な道徳フレームワークへの過剰依存という問題に対処すること。
• 倫理的分析とリスク評価を分離し、民主的正当性を高めることを目的とした再構築された手法を提唱すること。
• 確立されたリスク評価分野からの知見を統合することで、政策提言の整合性と安全性を向上させること。

提案手法

• 絶滅の倫理と生存的リスクの倫理を分離することで、道徳的価値と実証的リスク分析を混同するのを回避すること。
• 公衆衛生、工学、環境科学などの分野で用いられる形式的リスク評価手法を採用することを提唱すること。
• 西洋的・技術的・学術的でない視点を含む多様な研究チームの構成を促進し、道徳的および認識論的バイアスを是正すること。
• 透明性と標準化された定義および分類を整備し、比較可能性と厳密性を高めることを提言すること。
• 参加型の政策設計の重要性を強調し、提言が社会的責任を果たし、セキュリタイゼーションのリスクが低減されることを保証すること。
• 実証的根拠に基づく包括的リスク評価に根ざすことで、予測不能で高リスクの干渉を越えて、分野が前進することを促すこと。

実験結果

リサーチクエスチョン

• RQ1 生存的リスク研究における技術的ユートピア的アプローチは、価値多様性や多様な道徳的世界観をどのように受け入れていないのか？
• RQ2 グローバル・カタストロフィー研究において非代表的な道徳フレームワークに依存することは、実証的および道徳的リスクとしてどのような影響を及えるのか？
• RQ3 確立された分野におけるリスク評価手法は、どのようにして生存的リスク分析の厳密性と透明性を向上させるために適応可能か？
• RQ4 現在の生存的リスクの定義および分類は、緩和戦略の信頼性と安全性をどのように損なっているのか？
• RQ5 生存的リスク研究における政策提言は、どのようにして民主的化され、セキュリタイゼーションやエリート主導の意思決定の危険性を低減できるか？

主な発見

• 技術的ユートピア的アプローチ（TUA）は、長期的価値主義と長期的価値主義的倫理を絶滅研究と組み合わせるが、これは実証的および道徳的に正当化できない。
• TUAは、曖昧で不十分な生存的リスクの定義に依存しており、分析と政策提言に一貫性の欠如をもたらしている。
• TUAフレームワークは、恣意的なリスク分類を促進し、形式的リスク評価分野からの知見を無視している。
• TUAの背後にある道徳的仮定は、特に不可逆的かつ高リスクの干渉に応用された場合、セキュリタイゼーションや悪用のリスクにさらされやすい。
• 専門性の多様化と倫理的分析と実証的分析の分離を通じたリスク評価の民主的化は、政策結果の正当性と安全性を高める。
• 形式的リスク評価と包括的議論を統合する再構築された手法は、バイアスを低減し、生存的リスク研究の整合性を向上させることができる。