[논문 리뷰] Responsibility and blame: a structural-model approach

Hana Chockler, Joseph Y. Halpern|ArXiv.org|2003. 12. 17.

Epistemology, Ethics, and Metaphysics참고 문헌 19인용 수 20

한 줄 요약

이 논문은 구조적 모델 접근법을 확장하여 책임의 정량적 측도를 도입한다. 이 측도는 사건이 반사적 비판적으로 중요한 사건이 되기 위해 필요한 최소한의 변화 수 N에 대해 1/(N+1)로 정의된다. 또한 책임의도는 에이전트의 지식 상태에 기반한 책임도의 기대값으로 정의되며, 이는 도덕적·법적 추론에서 세분화된 차이를 가능하게 한다. 예를 들어, 근소 승리와 압승의 선거에서 책임이 다를 수 있거나, 여러 잠재적 원인이 존재하는 경우의 책임 차이를 설명할 수 있다.

ABSTRACT

Causality is typically treated an all-or-nothing concept; either A is a cause of B or it is not. We extend the definition of causality introduced by Halpern and Pearl [2001] to take into account the degree of responsibility of A for B. For example, if someone wins an election 11--0, then each person who votes for him is less responsible for the victory than if he had won 6--5. We then define a notion of degree of blame, which takes into account an agent's epistemic state. Roughly speaking, the degree of blame of A for B is the expected degree of responsibility of A for B, taken over the epistemic state of an agent.

연구 동기 및 목표

• 기존의 이분법적 원인관계의 한계를 해결하기 위해 책임의 정도를 그레이딩하는 측도를 도입하기 위해.
• 근소한 선거에서 개인 투표가 압승 결과보다 더 책임이 크다는 직관적 개념을 형식화하기 위해.
• 에이전트의 지식 상태를 책임의 개념에 통합하여 '비난'의 기대도를 정의하기 위해.
• 불확실성과 잠재적 대안을 고려할 수 있는 법적 및 도덕적 책임 분석을 위한 형식적 프레임워크를 제공하기 위해.
• 공동 책임 또는 사전 차단과 같은 복잡한 상황에서 원인관계, 책임, 비난 간의 차이를 명확히 하기 위해.

제안 방법

• Halpern-Pearl의 구조적 방정식 모델을 확장하여 책임도를 1/(N+1)로 정의한다. 여기서 N은 사건이 반사적 비판적으로 중요한 사건이 되기 위해 필요한 최소한의 간섭 수이다.
• 다른 세계 구성 조건 하에서 사건이 원인이 되는지 평가하기 위해 '조건들'의 개념을 적용한다.
• 에이전트의 지식 상태에 대한 기대 책임도로 비난을 정의하며, 세계에 대한 불확실성을 통합한다.
• 구조적 방정식을 사용하여 원인적 의존관계를 모델링하고, 간섭 하에서의 반사적 의존관계를 형식화한다.
• 변수의 가중치를 도입하여 책임 측도를 일반화함으로써, 가중치가 다른 기여도(예: 900파운드 vs. 100파운드의 쓰레기)를 허용한다.
• 공동 책임 및 사전 차단과 같은 법적 및 도덕적 사례에 프레임워크를 적용하여 법적 규정과의 일관성을 평가한다.

실험 결과

연구 질문

• RQ1 이중 원인/비원인 구분을 넘어서, 어떤 사건이 다른 사건에 대해 얼마나 책임이 있는지를 형식적으로 정량화할 수 있는가?
• RQ2 다른 원인이 존재할 경우, 에이전트의 책임도는 어떻게 영향을 받는가?
• RQ3 에이전트의 지식 상태는 어떻게 활용되어 더 세분화된 비난 개념을 계산할 수 있는가?
• RQ4 제안된 프레임워크는 공동 및 개별 책임과 같은 표준 법적 규정과 얼마나 일치하거나 다를 수 있는가?
• RQ5 에이전트들이 동일한 책임을 지지만 비난에 대한 직관이 다를 수 있는 경우(예: 100-99 대비 1-0 선거)를 구분할 수 있는가?

주요 결과

• 11–0 선거에서는 승리자 투표자 각각의 책임도는 1/6이며, 이는 그들의 투표가 비판적으로 중요한 사건이 되기 위해 다른 다섯 표가 변경되어야 함을 반영한다.
• 5–4 선거에서는 승리자 투표자 각각의 책임도는 1이며, 실제 결과에서 그들의 투표가 비판적으로 중요한 이유이다.
• 수지와 빌리의 돌 던지기 예제에서 수지는 책임도 1/2, 빌리는 0을 기록한다. 이는 수지가 먼저 던지지 않았다면 빌리의 던지기가 병이 깨지게 하지 않았음을 반영한다.
• 병이 깨지기 위해 두 개의 돌이 필요할 경우, 수지와 빌리 모두 책임도 1을 기록한다. 이는 둘 다 결과를 이루기 위해 필수적이기 때문이다.
• 다른 변수에 가중치를 할당함으로써 프레임워크는 가중 책임을 허용한다. 따라서 900파운드의 쓰레기 투입자가 100파운드의 투입자보다 더 높은 책임을 지게 된다.
• 비난은 에이전트의 지식 상태에 대한 기대 책임도로 정의되며, 책임은 높지만 에이전트가 결과를 알지 못하는 경우 비난도 낮을 수 있다.