[논문 리뷰] Beyond Privacy Trade-offs with Structured Transparency

Andrew Trask, Emma Bluemke외 6명|arXiv (Cornell University)|2020. 12. 15.

Privacy-Preserving Technologies in Data참고 문헌 46인용 수 16

한 줄 요약

이 논문은 정보 공유 시 '복사 문제'(copy problem)를 해결하기 위한 다섯 단계로 구성된 '구조적 투명성(structured transparency)'을 소개한다. 복사 후 발신자가 제어를 상실하는 상황에서, 암호학, 접근 제어, 기원 추적 기술을 통합함으로써 기밀성의 상실 없이도 더 통제 가능하고 협업 가능한 정보 흐름을 가능하게 한다.

ABSTRACT

Successful collaboration involves sharing information. However, parties may disagree on how the information they need to share should be used. We argue that many of these concerns reduce to 'the copy problem': once a bit of information is copied and shared, the sender can no longer control how the recipient uses it. From the perspective of each collaborator, this presents a dilemma that can inhibit collaboration. The copy problem is often amplified by three related problems which we term the bundling, edit, and recursive enforcement problems. We find that while the copy problem is not solvable, aspects of these amplifying problems have been addressed in a variety of disconnected fields. We observe that combining these efforts could improve the governability of information flows and thereby incentivise collaboration. We propose a five-part framework which groups these efforts into specific capabilities and offers a foundation for their integration into an overarching vision we call "structured transparency". We conclude by surveying an array of use-cases that illustrate the structured transparency principles and their related capabilities.

연구 동기 및 목표

• 정보 공유 후 통제력을 상실하는 문제, 즉 '복제 문제'로 알려진 핵심 과제를 해결하기 위해, 협업 환경에서의 신뢰를 약화시키는 문제를 해결한다.
• 실제로 복제 문제를 악화시키는 세 가지 증폭 문제인 '묶음 문제'(bundling), '편집 문제'(edit), '재귀적 시행 문제'(recursive enforcement)를 규명하고 해결한다.
• 암호학, 접근 제어, 기원 추적 시스템에서 유래한 분산된 해결책들을 통합하여 통합적이고 확장 가능한 정보 거버넌스 프레임워크를 제안한다.
• 협업을 가능하게 하면서도 정보 사용에 대한 책임감과 통제력을 유지할 수 있는 '구조적 투명성'의 비전을 제시한다.
• 다양한 사용 사례에 대한 적용 가능성을 입증함으로써, 복잡한 시스템에서 책임감 있는 정보 공유를 가능하게 할 잠재력을 보여준다.

제안 방법

• 기존 기술적 해결책을 핵심 기능으로 묶어 다섯 단계의 프레임워크를 제안한다: 기원 추적, 접근 제어, 정책 시행, 데이터 라인재이, 검증 가능한 실행.
• 제로 지식 증명과 검증 가능한 암호화와 같은 암호학적 기법을 활용하여 민감한 데이터를 드러내지 않으면서도 신뢰를 확보한다.
• 세분화된 접근 제어 메커니즘을 사용하여 정책 조건에 따라 누가 정보에 접근, 수정, 재공유할 수 있는지 정의한다.
• 데이터 라인재이 및 기원 추적 시스템을 활용하여 정보가 시스템과 사용자 간에 어떻게 기원하고 변형되었는지 추적한다.
• 검증 가능한 계산과 실행 로그를 적용하여 정보 처리가 지정된 규칙과 정책을 준수하고 있는지 보장한다.
• 이러한 구성 요소들을 통합하여 분산형 시스템 전반에서 감사 가능성, 책임성, 동적 정책 시행을 지원하는 유기적인 아키텍처를 구성한다.

실험 결과

연구 질문

• RQ1 데이터가 복사된 후 발신자가 제어를 상실하게 되면, 정보 공유를 어떻게 더 통제 가능하게 만들 수 있는가?
• RQ2 복제 문제를 악화시키는 '묶음 문제', '편집 문제', '재귀적 시행 문제'를 완화하기 위해 어떤 기술적 및 조직적 메커니즘이 필요한가?
• RQ3 암호학, 접근 제어, 기원 추적 시스템에서 유래한 기존 해결책들이 통합된 정보 거버넌스 프레임워크로 통합될 수 있는가?
• RQ4 실제 과학, 정책, 인공지능 개발 분야의 협업 시스템에 있어서 구조적 투명성의 실용적 영향은 무엇인가?
• RQ5 구조적 투명성은 기밀성의 상실 없이도 중앙 집중적 신뢰에 의존하지 않고 협업을 가능하게 할 수 있는가?

주요 결과

• 정보 공유 후 제어를 상실하는 '복제 문제'는 본질적으로 해결되지 않지만, 구조적 투명성을 통해 그 부정적인 영향을 크게 줄일 수 있다.
• 묶음 문제, 편집 문제, 재귀적 시행 문제는 복제 문제를 악화시키는 주요 원인이며, 정보 거버넌스 설계에서 자주 간과된다.
• 암호학, 접근 제어, 기원 추적 분야의 기존 해결책들은 분산되어 있으며 활용도가 낮지만, 통합되면 통제 가능한 정보 흐름을 위한 일관된 기반을 형성한다.
• 제안된 다섯 단계의 프레임워크는 정보 사용의 추적 가능성, 정책 시행 가능성, 검증 가능성 향상을 통해 신뢰도와 협업 가능성을 높인다.
• 인공지능 정렬, 과학적 협업, 공공 정책 분야의 사용 사례를 통해 구조적 투명성이 안전하고 감사 가능하며 책임감 있는 정보 공유를 지원할 수 있음을 입증한다.
• 구조적 투명성은 기밀성의 상실을 전제로 하는 대신, 설계 시부터 거버넌스를 고려하는 방식으로 전환하여 통제력과 책임감을 훼손하지 않으면서도 협업을 가능하게 한다.