[论文解读] Exploring the Relevance of Data Privacy-Enhancing Technologies for AI Governance Use Cases

Emma Bluemke, Tantum Collins+2 more|arXiv (Cornell University)|Mar 15, 2023

Privacy-Preserving Technologies in Data被引用 8

一句话总结

本论文认为隐私增强技术（PETs）通过实现外部审查、审计和源验证，能够支持AI治理，并强调需要可互操作的、系统级的标准与实践。

ABSTRACT

The development of privacy-enhancing technologies has made immense progress in reducing trade-offs between privacy and performance in data exchange and analysis. Similar tools for structured transparency could be useful for AI governance by offering capabilities such as external scrutiny, auditing, and source verification. It is useful to view these different AI governance objectives as a system of information flows in order to avoid partial solutions and significant gaps in governance, as there may be significant overlap in the software stacks needed for the AI governance use cases mentioned in this text. When viewing the system as a whole, the importance of interoperability between these different AI governance solutions becomes clear. Therefore, it is imminently important to look at these problems in AI governance as a system, before these standards, auditing procedures, software, and norms settle into place.

研究动机与目标

• 推动使用隐私增强技术（PETs）以支持AI治理目标。
• 提出将AI治理信息流视为一个系统，以识别重叠与差距。
• 强调互操作性和共享软件栈在治理解决方案中的作用。
• 倡导在形成系统性标准、审计程序与规范之前，先建立规范。

提出的方法

• 将AI治理目标概念性地框定为信息流系统。
• 分析PETs如何在治理情境中支持透明度、审计与源验证。
• 主张在AI治理用例中实现互操作性和软件栈的复用。

实验结果

研究问题

• RQ1 数据隐私增强技术如何在AI治理中促进外部审查、审计与源验证？
• RQ2 将AI治理视为信息流的互联系统在互操作性与差距方面的价值何在？
• RQ3 治理解决方案之间的互操作性为何对有效的AI治理重要？

主要发现

• 隐私增强技术在数据交换与分析中减少隐私与性能之间权衡方面取得了进展。
• 通过类似PETs的工具可以在AI治理中支持外部审查、审计与源验证。
• 将AI治理视为信息流系统可揭示软件栈的重叠与潜在治理差距。
• 治理解决方案之间的互操作性对避免局部性解决方案与差距至关重要。
• 标准、审计程序、软件与规范应在落地前被视为一个系统来考量。