[论文解读] The Precautionary Principle (with Application to the Genetic Modification of Organisms)

Nassim Nicholas Taleb, Rupert Read+3 more|arXiv (Cornell University)|Oct 17, 2014

Genetically Modified Organisms Research参考文献 38被引用 47

一句话总结

本文在统计‘破产’问题的框架下，形式化了预防原则（PP），其中低概率、高影响的风险——尤其是复杂系统中的风险——需要严格谨慎。文章认为，当结果可能导致无限或不可逆损害时，传统成本-收益分析会失效，且预防原则仅应适用于系统性、非局部化的风险（如生物基因改造），而不应适用于局部化或已充分表征的风险。

ABSTRACT

We present a non-naive version of the Precautionary (PP) that allows us to avoid paranoia and paralysis by confining precaution to specific domains and problems. PP is intended to deal with uncertainty and risk in cases where the absence of evidence and the incompleteness of scientific knowledge carries profound implications and in the presence of risks of "black swans", unforeseen and unforeseable events of extreme consequence. We formalize PP, placing it within the statistical and probabilistic structure of ruin problems, in which a system is at risk of total failure, and in place of risk we use a formal fragility based approach. We make a central distinction between 1) thin and fat tails, 2) Local and systemic risks and place PP in the joint Fat Tails and systemic cases. We discuss the implications for GMOs (compared to Nuclear energy) and show that GMOs represent a public risk of global harm (while harm from nuclear energy is comparatively limited and better characterized). PP should be used to prescribe severe limits on GMOs.

研究动机与目标

• 为在深层不确定性下的决策提供预防原则（PP）的正式统计与概率基础。
• 区分局部风险（传统风险管理适用）与威胁整体不可逆损害的系统性风险。
• 定义预防原则在何种条件下既必要又充分，避免其被过度或不足使用。
• 将形式化的预防原则应用于现实案例，特别是GMO和核能，以评估其相对的全球风险特征。
• 证明脆弱性与肥尾分布要求从期望效用理论转向基于破产的决策推理。

提出的方法

• 使用‘脆弱性’概念建模风险——定义为对罕见极端事件的敏感性，尤其在易发生整体失效的系统中。
• 应用亚指数分布与幂律分布来表征肥尾风险，其中尾部事件主导系统行为。
• 使用数学条件：lim_{x→∞} P(S_n > x)/P(X > x) = n，以识别亚指数分布，其中和由最大值主导。
• 区分中庸斯坦（薄尾、高斯型）与极端斯坦（肥尾、幂律型）领域，边界位于亚指数分布处。
• 引入正式的‘破产’框架，其中罕见事件导致无限成本，使标准成本-收益分析失效。
• 将该框架应用于评估GMO和核能，表明由于系统性传播，GMO更可能引发全球不可逆损害。

实验结果

研究问题

• RQ1 在何种情况下，预防原则是科学上正当的，而非仅政治性地援引？
• RQ2 如何从数学上形式化预防原则，以避免风险决策中的瘫痪与鲁莽？
• RQ3 为何当风险涉及无限或不可逆后果时，传统成本-收益分析会失效？
• RQ4 在概率结构与政策响应方面，系统性风险（如GMO）与局部化风险（如药品）有何区别？
• RQ5 肥尾分布与脆弱性以何种方式要求从期望效用理论转向基于破产的决策方法？

主要发现

• 预防原则仅在系统存在整体不可逆破产风险时才形式化成立，而非在有限或局部化损害的情况下。
• 当结果可能产生无限负面后果时，即使其概率很低，传统成本-收益分析也会失效。
• 亚指数分布与幂律分布——极端斯坦的特征——意味着尾部事件主导系统行为，使标准风险模型不充分。
• n个独立同分布的亚指数随机变量之和在渐近意义上由最大值主导，意味着极端事件决定系统结果。
• GMO被识别为具有系统性风险，可能因潜在的不可逆、广泛生态破坏而造成全球性危害。
• 核能虽具风险，但其风险更局部化且表征更充分，因此相比GMO，其严格适用预防原则的正当性更低。