[论文解读] Legitimacy, Authority, and Democratic Duties of Explanation

Seth Lazar|arXiv (Cornell University)|Aug 18, 2022

Epistemology, Ethics, and Metaphysics被引用 7

一句话总结

本文主张，治理中的民主合法性与正当权威要求实行公开原则：个人必须能够确定自己正被合法且有权威地治理。作者认为，唯有当强大行为者——尤其是使用不透明计算系统的那些——能够提供解释，使被治理者能够评估决策的合法性和权威性时，这一要求才能实现，因此解释成为一种民主义务。

ABSTRACT

Increasingly secret, complex and inscrutable computational systems are being used to intensify existing power relations and to create new ones; in particular, they are being used to govern. To be all-things-considered morally permissible new, or newly intense, power relations must meet standards of procedural legitimacy and proper authority. This is necessary for them to protect and realise democratic values of individual liberty, relational equality, and collective self-determination. For governing power in particular to be legitimate and have proper authority, it must meet a publicity requirement: reasonably competent members of the governed community must be able to determine that they are being governed legitimately and with proper authority. The publicity requirement can be satisfied only if the powerful can explain their decision-making to members of their political community. At least some duties of explanation are therefore democratic duties. This paper first sets out the foregoing argument, then applies it to opaque computational systems, and clarifies precisely what kinds of explanations are necessary to fulfil these democratic values.

研究动机与目标

• 确立民主合法性与治理中的正当权威要求一种公开条件：个人必须能够确定自己正被合法地治理。
• 主张这种公开条件唯有在决策者能够向被治理者解释其行为时才能得以满足。
• 表明解释并非仅仅是技术或伦理问题，而是权力体系中的一项民主义务。
• 阐明为维护自由、平等与自决等民主价值而必要的解释规范标准。
• 将这些原则应用于治理中使用的不透明、复杂的计算系统，明确实现民主合法性的最低解释标准。

提出的方法

• 构建一个规范框架，将程序合法性与正当权威与民主治理的公开要求联系起来。
• 将公开要求应用于计算系统，主张不透明性会削弱公民评估合法性的能力。
• 确定解释能够满足公开条件的条件，重点关注对被治理社区中合理胜任成员而言的可及性与可理解性。
• 区分不同类型的解释（如因果性、规范性、程序性解释），并评估其在履行民主义务中的作用。
• 运用对合法性和权威性的哲学分析（借鉴政治学理论与民主理论）将论证建立在民主价值基础之上。
• 分析该框架对现实治理系统（尤其是涉及人工智能与算法决策的系统）的含义。

实验结果

研究问题

• RQ1 治理中的权力关系要被视为合法且具有权威，必须满足哪些条件？
• RQ2 在实践中，如何满足公民必须能够确定自己正被合法治理的公开要求？
• RQ3 公民为评估由不透明计算系统作出的决策的合法性和权威性，需要何种类型的解释？
• RQ4 当前的计算系统在哪些方面未能满足透明性与可辩护性的民主标准？
• RQ5 解释如何成为一项民主义务，而非单纯的技木或伦理责任？

主要发现

• 公开要求对于治理中的民主合法性和正当权威至关重要，因为它使公民能够确定自己是否正被公正地治理。
• 解释并非治理的次要或可选特征，而是一项核心的民主义务，是满足公开条件所必需的。
• 除非能够向被治理社区中合理胜任的成员提供可及且可理解的解释，否则不透明的计算系统无法满足公开要求。
• 本文确定了特定的解释标准（如清晰性、相关性与可追溯性），这些标准对于维护自由与自决等民主价值至关重要。
• 该框架意味着，即使系统在技术上准确，若无法向受影响者有意义地解释，也缺乏民主合法性。
• 该论证确立了对强大行为者提供解释的规范义务，以使公民能够评估决策的合法性和权威性，尤其是在算法治理中。