[論文レビュー] Legitimacy, Authority, and Democratic Duties of Explanation

Seth Lazar|arXiv (Cornell University)|Aug 18, 2022

Epistemology, Ethics, and Metaphysics被引用数 7

ひとこと要約

この論文は、統治における民衆の正当性と適正な権限が、『公表の原則』を要件とするとして主張している。すなわち、個人が自分たちが正当にかつ権限を持って統治されていると判断できるようにする必要がある。著者は、この要件を満たすには、特に透過性の低い計算システムを用いる強力な当事者たちが、統治を受けている人々が意思決定の正当性と権限を評価できるような説明を提供できる必要があると主張しており、説明の提供が民主的義務であると結論づけている。

ABSTRACT

Increasingly secret, complex and inscrutable computational systems are being used to intensify existing power relations and to create new ones; in particular, they are being used to govern. To be all-things-considered morally permissible new, or newly intense, power relations must meet standards of procedural legitimacy and proper authority. This is necessary for them to protect and realise democratic values of individual liberty, relational equality, and collective self-determination. For governing power in particular to be legitimate and have proper authority, it must meet a publicity requirement: reasonably competent members of the governed community must be able to determine that they are being governed legitimately and with proper authority. The publicity requirement can be satisfied only if the powerful can explain their decision-making to members of their political community. At least some duties of explanation are therefore democratic duties. This paper first sets out the foregoing argument, then applies it to opaque computational systems, and clarifies precisely what kinds of explanations are necessary to fulfil these democratic values.

研究の動機と目的

• 統治における民主的正当性と適正な権限が、個人が自分たちが正当に統治されていることを判断できるという『公表条件』を要件とする、という主張を確立すること。
• この公表条件を満たすには、意思決定者が統治を受けている人々にその行動を説明できる必要があるという主張をすること。
• 説明が単なる技術的・倫理的懸念ではなく、権力システムにおける民主的義務であることを示すこと。
• 自由、平等、自己決定といった民主的価値を維持するために必要な説明の規範的基準を明確にすること。
• これらの原則を、統治に用いられる透過性の低い複雑な計算システムに適用し、民主的正当性を保つために必要な最小限の説明基準を同定すること。

提案手法

• 民主的統治における手続的正当性と適正な権限を、公表要件と結びつける規範的枠組みを構築すること。
• 公表要件を計算システムに適用し、透明性の欠如が市民が正当性を評価できる能力を損なうと主張すること。
• 説明が公表条件を満たす条件を特定し、合理的に熟練した統治対象コミュニティのメンバーが理解できるように説明がアクセス可能で理解しやすいことの重要性を強調すること。
• 因果的説明、規範的説明、手続的説明などの異なる種類の説明を区別し、それらが民主的義務を果たす役割を評価すること。
• 政治理論および民主的理論に由来する正当性と権限の哲学的分析を用いて、主張を民主的価値に根拠づけること。
• この枠組みが、AI やアルゴリズム的意思決定を含む現実の統治システムに与える影響を分析すること。

実験結果

リサーチクエスチョン

• RQ1 統治における権力関係が正当でかつ適正とみなされるために満たすべき条件は何か？
• RQ2 市民が自分たちが正当に統治されていることを判断できるという『公表要件』が、実際にはどのように満たされるべきか？
• RQ3 透過性の低い計算システムが下す意思決定の正当性と権限を市民が評価できるために必要な説明の種類は何か？
• RQ4 現在の計算システムは、透明性および正当化可能性の民主的基準をどのように満たしていないか？
• RQ5 説明が単なる技術的・倫理的義務ではなく、なぜ民主的義務として機能しうるのか？

主な発見

• 公表要件は、統治における民主的正当性と適正な権限を確保する上で不可欠であり、市民が自分たちが正しく統治されているかどうかを判断できるようにする。
• 説明は統治の二次的・選択的特徴ではなく、公表条件を満たすために不可欠な民主的義務である。
• 透過性の低い計算システムは、合理的に熟練した統治対象コミュニティのメンバーがアクセス可能で理解可能な説明を提供しない限り、公表要件を満たせない。
• 自由や自己決定といった民主的価値を維持するために必要な説明基準として、明確性、関連性、追跡可能性といった具体的基準を同定した。
• この枠組みは、システムが技術的に正確であっても、それが影響を受ける人々に意味的に説明できない限り、民主的正当性を欠くと示唆している。
• 強力な当事者に対して、市民が意思決定の正当性と権限を評価できるように説明を提供する規範的義務が生じることを主張している。特にアルゴリズム的統治において顕著である。