[論文レビュー] The Precautionary Principle (with Application to the Genetic Modification of Organisms)

Nassim Nicholas Taleb, Rupert Read+3 more|arXiv (Cornell University)|Oct 17, 2014

Genetically Modified Organisms Research参考文献 38被引用数 47

ひとこと要約

本論文は、低確率・高インパクトなリスク（特に複雑系におけるもの）に対して、破綻問題の統計枠組み内で予防原則（PP）を形式化する。伝統的な費用対効果分析は、無限または不可逆的損害をもたらす結果が生じる場合には失敗すると主張し、PPは遺伝子組換え生物など、局所的・特徴が明確でないシステム的リスクにのみ適用すべきであると述べる。

ABSTRACT

We present a non-naive version of the Precautionary (PP) that allows us to avoid paranoia and paralysis by confining precaution to specific domains and problems. PP is intended to deal with uncertainty and risk in cases where the absence of evidence and the incompleteness of scientific knowledge carries profound implications and in the presence of risks of "black swans", unforeseen and unforeseable events of extreme consequence. We formalize PP, placing it within the statistical and probabilistic structure of ruin problems, in which a system is at risk of total failure, and in place of risk we use a formal fragility based approach. We make a central distinction between 1) thin and fat tails, 2) Local and systemic risks and place PP in the joint Fat Tails and systemic cases. We discuss the implications for GMOs (compared to Nuclear energy) and show that GMOs represent a public risk of global harm (while harm from nuclear energy is comparatively limited and better characterized). PP should be used to prescribe severe limits on GMOs.

研究の動機と目的

• 深い不確実性下での意思決定における予防原則（PP）の形式的統計的・確率的基盤を提供すること。
• 局所的リスク（伝統的なリスク管理が適用可能）と、完全な不可逆的損害をもたらすシステム的リスクを区別すること。
• PP が過剰に使用されず、かつ不十分に使用されない条件を定義すること。
• GMO や原子力エネルギーを含む実世界の事例に形式化された PP を適用し、それらの相対的なグローバルリスク・プロファイルを評価すること。
• 破綻性とファットテール分布が、期待効用から破綻ベースの意思決定へとシフトを必要とすることを示すこと。

提案手法

• 破綻性（希少で極端な出来事への感受性）という概念を用いてリスクをモデル化し、特に完全失敗に陥りやすいシステムにおいて特に有効である。
• ファットテールリスクを特徴付けるために、部分指数的およびべき乗則分布を適用する。
• 数学的条件：lim_{x→∞} P(S_n > x)/P(X > x) = n を用いて、和が最大値によって支配される部分指数的分布を同定する。
• 薄尾分布（ガウス型）のメディオクリスタンと、べき乗則型のエクストリームスタンの領域を区別し、境界を部分指数的分布に置く。
• 希少な出来事による無限コストが標準的な費用対効果分析を無効にする、形式的な「破綻」フレームワークを導入する。
• GMO や原子力エネルギーの評価にこのフレームワークを適用し、GMO はシステム的伝播によって世界的かつ不可逆的な損害のリスクを有すると示す。

実験結果

リサーチクエスチョン

• RQ1 予防原則は、単に政治的訴えとして用いられるのではなく、科学的に正当化されるのはいつか？
• RQ2 PP を数学的に形式化することで、リスクに満ちた意思決定におけるパラリシスと無謀さを回避できるか？
• RQ3 無限または不可逆的結果を伴うリスクにおいて、なぜ伝統的な費用対効果分析が失敗するのか？
• RQ4 GMO や同様のシステム的リスクと、医薬品など局所的リスクとは、確率的構造と政策的対応においてどのように区別されるか？
• RQ5 ファットテール分布と破綻性は、期待効用から破綻ベース意思決定へとシフトを必要とする理由は何か？

主な発見

• 予防原則は、完全かつ不可逆的な破綻のリスクが存在するシステムにおいてのみ形式的に正当化される。局所的・限定的損害の場合は正当化されない。
• 結果に無限の負の結果が生じる可能性がある場合、たとえその確率が低くても、伝統的な費用対効果分析は破綻する。
• 部分指数的およびべき乗則分布（エクストリームスタンの特徴）は、尾部の出来事がシステム行動を支配することを示し、標準的なリスクモデルが不適切であることを意味する。
• 独立同一分布に従う n 個の部分指数的確率変数の和は、漸近的に最大値によって支配され、極端な出来事がシステムの結果を決定づける。
• GMO は、広範かつ不可逆的な生態系への混乱の可能性があるため、グローバルな損害のシステム的リスクを有すると特定される。
• 原子力エネルギーはリスクを伴うが、より局所的かつより明確に特徴づけられたリスクを有しており、GMO よりも厳格な PP 応用が正当化されにくい。