[论文解读] Democratising Risk: In Search of a Methodology to Study Existential Risk

Carla Zoe Cremer, Luke Kemp|arXiv (Cornell University)|Dec 27, 2021

Space Science and Extraterrestrial Life被引用 14

一句话总结

本文批判了现存存在性风险研究（ERS）中占主导地位的‘技术乌托邦方法’（TUA），认为其存在道德精英主义、定义模糊以及高风险政策建议等问题。文章提出一种去中心化的方法论，将灭绝伦理与存在性伦理分离，整合严谨的风险评估框架，并多元化研究团队构成，以提升全球灾难研究的合法性、包容性与政策合理性。

ABSTRACT

Studying potential global catastrophes is vital. The high stakes of existential risk studies (ERS) necessitate serious scrutiny and self-reflection. We argue that existing approaches to studying existential risk are not yet fit for purpose, and perhaps even run the risk of increasing harm. We highlight general challenges in ERS: accommodating value pluralism, crafting precise definitions, developing comprehensive tools for risk assessment, dealing with uncertainty, and accounting for the dangers associated with taking exceptional actions to mitigate or prevent catastrophes. The most influential framework for ERS, the 'techno-utopian approach' (TUA), struggles with these issues and has a unique set of additional problems: it unnecessarily combines the study of longtermism and longtermist ethics with the study of extinction, relies on a non-representative moral worldview, uses ambiguous and inadequate definitions, fails to incorporate insights from risk assessment in relevant fields, chooses arbitrary categorisations of risk, and advocates for dangerous mitigation strategies. Its moral and empirical assumptions might be particularly vulnerable to securitisation and misuse. We suggest several key improvements: separating the study of extinction ethics (ethical implications of extinction) and existential ethics (the ethical implications of different societal forms), from the analysis of human extinction and global catastrophe; drawing on the latest developments in risk assessment literature; diversifying the field, and; democratising its policy recommendations.

研究动机与目标

• 识别当前存在性风险研究中的系统性缺陷，尤其是技术乌托邦方法（TUA）的主导地位。
• 应对存在性风险研究中价值多元主义的缺失、定义不一致以及对狭窄道德框架的过度依赖问题。
• 提出一种重构的方法论，将伦理分析与风险评估分离，并增强民主合法性。
• 通过整合成熟风险评估学科的洞见，提升政策建议的稳健性与安全性。

提出的方法

• 主张将灭绝伦理的研究与存在性伦理的研究解耦，以避免将道德价值与实证风险分析混淆。
• 倡导借鉴公共卫生、工程学与环境科学等领域的正式风险评估方法。
• 呼吁扩大研究团队构成，纳入非西方、非技术性与非学术性视角，以对抗道德与认识论偏见。
• 建议制定透明、标准化的存在性风险定义与分类体系，以提升可比性与严谨性。
• 强调参与式政策设计的必要性，以确保政策建议具备社会问责性，并降低被安全化风险。
• 敦促该领域超越推测性、高风险的干预措施，转而基于实证驱动、包容性的风险评估来构建政策。

实验结果

研究问题

• RQ1 存在性风险研究中的技术乌托邦方法为何无法容纳价值多元主义与多元道德世界观？
• RQ2 在全球灾难研究中依赖非代表性道德框架所引发的实证与伦理风险为何显著？
• RQ3 如何将成熟学科中的风险评估方法适配于存在性风险分析，以提升其严谨性与透明度？
• RQ4 当前存在性风险的定义与分类体系在哪些方面削弱了缓解策略的可信度与安全性？
• RQ5 如何实现存在性风险研究中政策建议的去中心化，以降低安全化与精英主导决策的风险？

主要发现

• 技术乌托邦方法（TUA）将长期主义与长期主义伦理与灭绝研究相结合的方式，在实证与伦理层面均缺乏正当性。
• TUA依赖模糊且不充分的存在性风险定义，导致分析与政策建议的不一致。
• TUA框架导致任意的风险分类，且忽视了正式风险评估学科的洞见。
• 支撑TUA的道德假设易受安全化与滥用影响，尤其在应用于高风险、不可逆干预时更为显著。
• 通过多元化专家构成并分离伦理与实证分析，实现风险评估的去中心化，可增强政策结果的合法性与安全性。
• 一种整合正式风险评估与包容性协商的重构方法论，可减少偏见并提升存在性风险研究的稳健性。