[논문 리뷰] The Precautionary Principle (with Application to the Genetic Modification of Organisms)

Nassim Nicholas Taleb, Rupert Read외 3명|arXiv (Cornell University)|2014. 10. 17.

Genetically Modified Organisms Research참고 문헌 38인용 수 47

한 줄 요약

이 논문은 복잡한 시스템에서 발생할 수 있는 저확률·고영향 위험, 특히 전체 붕괴나 영구적 손상으로 이어질 수 있는 위험에 대해 '파산' 문제의 통계적 프레임워크 안에서 경계 원칙(PP)을 체계화한다. 기존의 비용-편익 분석이 무한하거나 뒤돌이킬 수 없는 손해를 초래할 수 있는 결과에 대해 실패함을 주장하며, PP는 유전자 조작 등 국소화되지 않은 체계적 위험에만 적용되어야 하며, 국소적 또는 잘 규명된 위험에는 적용되어서는 안 된다.

ABSTRACT

We present a non-naive version of the Precautionary (PP) that allows us to avoid paranoia and paralysis by confining precaution to specific domains and problems. PP is intended to deal with uncertainty and risk in cases where the absence of evidence and the incompleteness of scientific knowledge carries profound implications and in the presence of risks of "black swans", unforeseen and unforeseable events of extreme consequence. We formalize PP, placing it within the statistical and probabilistic structure of ruin problems, in which a system is at risk of total failure, and in place of risk we use a formal fragility based approach. We make a central distinction between 1) thin and fat tails, 2) Local and systemic risks and place PP in the joint Fat Tails and systemic cases. We discuss the implications for GMOs (compared to Nuclear energy) and show that GMOs represent a public risk of global harm (while harm from nuclear energy is comparatively limited and better characterized). PP should be used to prescribe severe limits on GMOs.

연구 동기 및 목표

• 깊은 불확실성 하에서의 의사결정에 있어 경계 원칙(PP)에 대한 공식적인 통계적 및 확률적 기반을 제공하는 것.
• 지역적 위험(기존의 위험 관리가 적용 가능한 경우)과 전체적이고 뒤돌이킬 수 없는 손해를 초래할 수 있는 체계적 위험(전체 붕괴 위험)을 구분하는 것.
• PP가 과도하게나 혹은 부족하게 적용되지 않도록, PP가 필요하고 동시에 충분한 조건을 정의하는 것.
• 실제 사례에 공식화된 PP를 적용하여, 특히 GMO와 원자력 에너지의 상대적 글로벌 위험 프로파일을 평가하는 것.
• 파손성(fragility)과 꼬리가 두꺼운 분포가 예상 효용에서 파산 기반의 사고방식으로의 전환을 필수로 한다는 것을 보여주는 것.

제안 방법

• 희귀한 극단적 사건에 민감한 시스템에서 발생하는 파손성을 '위험'의 개념으로 정의한다. 특히 전체 실패에 취약한 시스템에서의 위험을 다룬다.
• 꼬리가 두꺼운 위험을 기술하기 위해 초지수적(subexponential) 및 멱법칙(power-law) 분포를 적용한다.
• 수학적 조건: lim_{x→∞} P(S_n > x)/P(X > x) = n 을 사용하여, 합이 최댓값에 의해 지배되는 초지수적 분포를 식별한다.
• 중간주의(Mediocristan, 얇은 尾, 정규분포 유사)와 극단주의(Extremistan, 꼬리가 두꺼운, 멱법칙) 영역을 구분하며, 경계는 초지수적 분포에 놓여 있다.
• 희귀한 사건으로 인한 무한한 비용이 발생할 경우 기존의 비용-편익 분석이 무효화되는 공식적인 '파산' 프레임워크를 도입한다.
• 이 프레임워크를 적용하여 GMO와 원자력 에너지를 평가하며, GMO가 체계적 전파로 인해 글로벌이고 뒤돌이킬 수 없는 피해를 초래할 가능성이 더 높다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 경계 원칙은 과학적으로 정당화될 수 있는가, 아니면 단지 정치적 수단으로서의 활용일 뿐인가?
• RQ2 PP를 수학적으로 체계화하여 위험 수반 의사결정에서 과도한 정지 또는 무모함을 방지할 수 있는가?
• RQ3 무한하거나 뒤돌이킬 수 없는 결과를 수반하는 위험에서는 왜 전통적인 비용-편익 분석이 실패하는가?
• RQ4 GMO와 같은 체계적 위험과 약물 제제와 같은 국소적 위험은 확률적 구조와 정책 대응 측면에서 어떻게 다를까?
• RQ5 꼬리가 두꺼운 분포와 파손성은 예상 효용에서 파산 기반의 의사결정으로의 전환을 어떻게 필수로 만드는가?

주요 결과

• 경계 원칙은 전체적이고 뒤돌이킬 수 없는 파산의 위험이 존재하는 시스템에서만 공식적으로 정당화되며, 국소적 또는 제한된 피해의 경우에는 정당하지 않다.
• 결과가 무한한 부정적 영향을 초래할 수 있다면, 비용-편익 분석은 확률이 낮더라도 붕괴된다.
• 초지수적 및 멱법칙 분포—Extremistan의 특성인 분포—는 꼬리 사건이 시스템 행동을 지배함을 의미하며, 이는 기존의 위험 모델이 부적절하다는 것을 시사한다.
• i.i.d. 초지수적 랜덤 변수 n개의 합은 渐近적으로 최댓값에 의해 지배되며, 이는 극단적 사건이 시스템 결과를 이끈다는 것을 의미한다.
• GMO는 생태계 전반에 걸친 뒤돌이킬 수 없는 광범위한 파국적 영향을 초래할 수 있으므로 체계적 위험으로 확인된다.
• 원자력 에너지는 위험을 안고 있지만, 더 국소적이고 잘 규명된 위험이므로 GMO보다 엄격한 PP 적용에 덜 정당성이 있다.