[논문 리뷰] Legitimacy, Authority, and Democratic Duties of Explanation

Seth Lazar|arXiv (Cornell University)|2022. 08. 18.

Epistemology, Ethics, and Metaphysics인용 수 7

한 줄 요약

이 논문은 통치에서 민주적 합법성과 적절한 권한을 확보하기 위해 공개 원칙이 필요하다고 주장한다: 개인들은 자신이 합법적으로 그리고 권한 있는 방식으로 통치받고 있음을 확인할 수 있어야 한다. 저자는 이러한 조건을 충족시킬 수 있는 유일한 방법이 강력한 행위자—특히 투명하지 않은 계산 시스템을 사용하는 자들—가 통치받는 자들이 결정의 합법성과 권한을 평가할 수 있도록 설명을 제공할 수 있어야 한다고 주장하며, 설명을 민주적 의무로 규정한다.

ABSTRACT

Increasingly secret, complex and inscrutable computational systems are being used to intensify existing power relations and to create new ones; in particular, they are being used to govern. To be all-things-considered morally permissible new, or newly intense, power relations must meet standards of procedural legitimacy and proper authority. This is necessary for them to protect and realise democratic values of individual liberty, relational equality, and collective self-determination. For governing power in particular to be legitimate and have proper authority, it must meet a publicity requirement: reasonably competent members of the governed community must be able to determine that they are being governed legitimately and with proper authority. The publicity requirement can be satisfied only if the powerful can explain their decision-making to members of their political community. At least some duties of explanation are therefore democratic duties. This paper first sets out the foregoing argument, then applies it to opaque computational systems, and clarifies precisely what kinds of explanations are necessary to fulfil these democratic values.

연구 동기 및 목표

• 민주적 합법성과 통치에서의 적절한 권한이 공개 조건을 요구한다는 것을 입증하는 것: 개인들은 자신이 합법적으로 통치받고 있음을 확인할 수 있어야 한다.
• 이러한 공개 조건을 충족시킬 수 있는 유일한 방법은 의사결정자가 통치받는 자들에게 자신의 행동을 설명할 수 있어야 한다는 주장
• 설명이 단지 기술적 또는 윤리적 문제에 그치지 않고, 권력 체계에서 민주적 의무라는 것을 보여주는 것
• 자유, 평등, 자치와 같은 민주적 가치를 유지를 위해 필요한 설명의 규범적 기준을 명확히 하는 것
• 이러한 원칙을 통치에 사용되는 투명하지 않은 복잡한 계산 시스템에 적용하여, 민주적 합법성을 확보하기 위해 필요한 최소한의 설명 기준을 규명하는 것

제안 방법

• 민주적 통치에 있어 절차적 합법성과 적절한 권한을 공개 요구 조건과 연결하는 규범적 프레임워크를 개발한다.
• 공개 요구 조건을 계산 시스템에 적용하여, 투명성 부족이 시민이 합법성을 평가하는 능력을 약화시킨다고 주장한다.
• 설명이 공개 조건을 충족시킬 수 있는 조건을 규명하며, 특히 합리적으로 능력 있는 통치받는 공동체의 구성원들이 접근하고 이해할 수 있도록 하는 데 중점을 둔다.
• 다양한 유형의 설명(예: 인과적, 규범적, 절차적)을 구분하고, 민주적 의무를 이행하는 데서 그 역할을 평가한다.
• 정치 이론과 민주적 이론에서 유래한 합법성과 권한의 철학적 분석을 통해 논거를 민주적 가치에 기반한다.
• 이 프레임워크가 실제 통치 시스템, 특히 인공지능과 알고리즘 기반 의사결정을 포함한 시스템에 미치는 영향을 분석한다.

실험 결과

연구 질문

• RQ1 통치에서 권력 관계가 합법적이고 권한 있는 것으로 간주되기 위해 충족되어야 할 조건은 무엇인가?
• RQ2 시민들이 자신이 합법적으로 통치받고 있음을 확인할 수 있도록 하는 공개 요구 조건이 실제로 어떻게 충족될 수 있는가?
• RQ3 투명하지 않은 계산 시스템이 내리는 결정의 합법성과 권한을 평가할 수 있도록 시민들이 필요로 하는 설명의 유형은 무엇인가?
• RQ4 현재의 계산 시스템은 투명성과 정당화 가능성의 민주적 기준을 어느 정도 충족하지 못하는가?
• RQ5 설명이 단지 기술적 또는 윤리적 의무가 아니라 민주적 의무로 작용할 수 있는 방식은 무엇인가?

주요 결과

• 공개 조건은 민주적 합법성과 통치에서의 적절한 권한을 확보하기 위해 필수적이며, 이는 시민이 자신이 정당하게 통치받고 있는지 확인할 수 있도록 한다.
• 설명은 통치의 보조적 또는 선택적 기능이 아니라, 공개 조건을 충족시키기 위해 필수적인 핵심 민주적 의무이다.
• 투명하지 않은 계산 시스템은 합리적으로 능력 있는 통치받는 공동체의 구성원들이 접근하고 이해할 수 있는 설명을 제공하지 않는 한 공개 조건을 충족시키지 못한다.
• 자유와 자치와 같은 민주적 가치를 유지하기 위해 필요한 특정 기준—예를 들어 명확성, 관련성, 추적 가능성—을 규명한다.
• 이 프레임워크는 시스템이 기술적으로 정확하더라도, 영향을 받는 이들에게 의미 있게 설명할 수 없다면 민주적 합법성을 상실한다고 암시한다.
• 강력한 행위자에게는 특히 알고리즘 기반 통치에서 시민이 결정의 합법성과 권한을 평가할 수 있도록 설명을 제공할 의무가 있다는 것을 논증한다.