[论文解读] Outsider Oversight: Designing a Third Party Audit Ecosystem for AI Governance

Inioluwa Deborah Raji, Peggy Xu+2 more|arXiv (Cornell University)|Jun 9, 2022

Ethics and Social Impacts of AI被引用 11

一句话总结

本文通过借鉴金融、环境和健康监管的制度设计，提出了一套第三方审计生态系统，以实现独立、有效的AI治理监督。文章认为，若缺乏制度性改革——如审计师独立性、数据访问权和透明度——仅靠算法审计无法确保问责制，因此必须进行系统性重构，以赋予外部监管者实际监督能力。

ABSTRACT

Much attention has focused on algorithmic audits and impact assessments to hold developers and users of algorithmic systems accountable. But existing algorithmic accountability policy approaches have neglected the lessons from non-algorithmic domains: notably, the importance of interventions that allow for the effective participation of third parties. Our paper synthesizes lessons from other fields on how to craft effective systems of external oversight for algorithmic deployments. First, we discuss the challenges of third party oversight in the current AI landscape. Second, we survey audit systems across domains - e.g., financial, environmental, and health regulation - and show that the institutional design of such audits are far from monolithic. Finally, we survey the evidence base around these design components and spell out the implications for algorithmic auditing. We conclude that the turn toward audits alone is unlikely to achieve actual algorithmic accountability, and sustained focus on institutional design will be required for meaningful third party involvement.

研究动机与目标

• 解决AI政策中忽视有效第三方监督所需制度设计的缺口。
• 分析非算法领域（如金融、环境、健康）的审计制度如何为AI审计设计提供借鉴。
• 识别关键制度要素——如审计师独立性、数据访问权、标准制定与透明度——以确保可信的第三方审计。
• 论证内部审计不足以胜任，必须通过系统性改革来支持对外部AI系统的有效监督。
• 倡导建立成熟的第三方审计者生态系统，使其能够验证企业声明，并保护弱势群体免受AI带来的伤害。

提出的方法

• 对金融、环境监管和医疗保健领域的审计制度开展跨领域比较分析，以提炼制度设计原则。
• 综合现有审计制度中的制度设计要素证据——如审计师独立性、数据访问权和报告透明度——进行系统整合。
• 识别并评估有效审计的核心组成部分：审计范围界定、标准化、数据访问权，以及公众信息披露机制。
• 考察现实案例中第三方审计如何促成政策变革、产品召回或法律行动，例如Facebook广告歧视问题的发现。
• 提出一种以制度设计为核心、而非仅依赖审计指令的AI治理框架，强调其可持续性与可信度。
• 通过对比企业社会责任领域ESG报告失败的教训，揭示‘廉价言论’和审计被削弱的风险。

实验结果

研究问题

• RQ1 哪些非算法审计制度中的制度设计特征可被调整以建立可信的AI第三方审计？
• RQ2 为何当前的AI问责政策尽管强调审计，却仍无法确保有效的第三方监督？
• RQ3 审计师独立性、数据访问权和透明度等因素如何影响算法审计的可信度与实际影响？
• RQ4 存在哪些系统性障碍阻碍第三方有效审计AI系统？这些障碍应如何克服？
• RQ5 重复性、标准化的审计在推动通用AI性能标准与工程实践发展方面可发挥何种作用？

主要发现

• 当缺乏制度性保障（如审计师独立性与数据访问权）时，AI的第三方审计将失效，导致审计结果被削弱或流于表面。
• 现有政策框架（如《算法问责法》和GDPR）严重依赖内部审计，而此类审计缺乏独立监督应有的可信度与实际影响力。
• ESG模型虽常被视为成功的审计框架，但其标准模糊、易受‘廉价言论’影响，且问责度低，因此不适用于AI领域。
• 持续的外部监督至关重要，例如反复发现Facebook持续存在歧视性广告投放行为，表明长期外部审查是实现持续合规的关键。
• 具体标准（如IEEE P7013面部识别标准）直接受益于第三方审计（如Gender Shades研究），证明审计可推动技术与政策改进。
• 审计的有效性并非与生俱来，而取决于制度设计——审计师独立性、数据访问权与透明度必须系统性地构建，方能确保可信度。