[论文解读] Beyond Privacy Trade-offs with Structured Transparency

Andrew Trask, Emma Bluemke+6 more|arXiv (Cornell University)|Dec 15, 2020

Privacy-Preserving Technologies in Data参考文献 46被引用 16

一句话总结

本文提出了「结构化透明度」——一种五部分框架，旨在解决信息共享中的「复制问题」，即发送方在数据被复制后失去控制的问题。通过整合密码学、访问控制和来源追踪等解决方案，该框架在不依赖隐私权衡的前提下，实现了更具可控性的协作式信息流。

ABSTRACT

Successful collaboration involves sharing information. However, parties may disagree on how the information they need to share should be used. We argue that many of these concerns reduce to 'the copy problem': once a bit of information is copied and shared, the sender can no longer control how the recipient uses it. From the perspective of each collaborator, this presents a dilemma that can inhibit collaboration. The copy problem is often amplified by three related problems which we term the bundling, edit, and recursive enforcement problems. We find that while the copy problem is not solvable, aspects of these amplifying problems have been addressed in a variety of disconnected fields. We observe that combining these efforts could improve the governability of information flows and thereby incentivise collaboration. We propose a five-part framework which groups these efforts into specific capabilities and offers a foundation for their integration into an overarching vision we call "structured transparency". We conclude by surveying an array of use-cases that illustrate the structured transparency principles and their related capabilities.

研究动机与目标

• 解决信息共享后控制权丧失的根本挑战，即所谓的「复制问题」，该问题在协作环境中破坏了信任。
• 识别并解决三种加剧复制问题的实际问题——捆绑问题、编辑问题和递归执行问题。
• 将密码学、访问控制和来源追踪系统中的零散解决方案整合为统一、可扩展的信息治理框架。
• 提出「结构化透明度」的愿景，实现在保留信息使用问责与控制的前提下实现协作。
• 通过展示该框架在多样化用例中的适用性，证明其在复杂系统中实现负责任信息共享的潜力。

提出的方法

• 提出一个五部分框架，将现有技术解决方案归类为核心能力：来源追踪、访问控制、策略执行、数据血缘和可验证执行。
• 整合零知识证明和可验证加密等密码学技术，实现在不泄露敏感数据的前提下建立信任。
• 采用细粒度访问控制机制，根据策略条件定义谁可以访问、修改或重新共享信息。
• 利用数据血缘和来源追踪系统，追踪信息在不同系统和用户之间的来源及转换过程。
• 应用可验证计算和执行日志，确保信息处理符合既定规则和策略。
• 将这些组件整合为一个统一的架构，支持在分布式系统中实现可审计性、问责性和动态策略执行。

实验结果

研究问题

• RQ1 当发送方在数据被复制后失去控制时，如何使信息共享更具可治理性？
• RQ2 哪些技术和组织机制可以缓解加剧复制问题的捆绑、编辑和递归执行问题？
• RQ3 能否将密码学、访问控制和来源追踪系统中的现有解决方案整合为统一的信息治理框架？
• RQ4 结构化透明度对科学、治理和人工智能开发等现实协作系统具有哪些实际影响？
• RQ5 结构化透明度如何在不依赖隐私权衡或中心化信任的前提下实现协作？

主要发现

• 复制问题——即信息共享后控制权丧失——在本质上是固有的且无法彻底解决，但通过结构化透明度可显著减轻其负面影响。
• 捆绑问题、编辑问题和递归执行问题是复制问题的主要放大因素，在信息治理设计中常被忽视。
• 现有的密码学、访问控制和来源追踪解决方案分散且利用不足，但当它们被整合时，可构成可治理信息流的连贯基础。
• 所提出的五部分框架实现了信息使用的可追溯性、策略执行和可验证性，从而提升了信任与协作潜力。
• 在人工智能对齐、科学协作和公共政策等用例中表明，结构化透明度可支持安全、可审计和可问责的信息共享。
• 结构化透明度将关注点从隐私权衡转向设计即治理，实现在不损害控制或问责的前提下实现协作。