[논문 리뷰] Correspondences between Privacy and Nondiscrimination: Why They Should Be Studied Together

Anupam Datta, Shayak Sen외 1명|arXiv (Cornell University)|2018. 08. 06.

Ethics and Social Impacts of AI참고 문헌 35인용 수 3

한 줄 요약

이 논문은 개인정보 보호와 차별 금지라는 두 개념이 모두 상관적(통계적 종속성)과 인과적(인과적 영향)이라는 두 형태를 공유하며, 동일한 구조적 형태를 가짐을 보여줌으로써, 개인정보 보호와 차별 금지 간의 형식적 수학적 대응 관계를 수립한다. 이는 차별 금지 검증에 차별적 개인정보 보호 기법을 직접 적용할 수 있고, 반대로 개인정보 보호 기법을 차별 금지 문제에 적용할 수 있음을 의미하며, 두 분야 간 상호 보완적인 방법 공유를 가능하게 한다.

ABSTRACT

Privacy and nondiscrimination are related but different. We make this observation precise in two ways. First, we show that both privacy and nondiscrimination have two versions, a causal version and a statical associative version, with each version corresponding to a competing view of the proper goal of privacy or nondiscrimination. Second, for each version, we show that a difference between the privacy edition of the version and the nondiscrimination edition of the version is related to the difference between Bayesian probabilities and frequentist probabilities. In particular, privacy admits both Bayesian and frequentist interpretations whereas nondiscrimination is limited to the frequentist interpretation. We show how the introduced correspondence allows results from one area of research to be used for the other.

연구 동기 및 목표

• 상관적(통계적 종속성)과 인과적(인과적 영향) 형태를 공유하는 구조적 형태를 식별함으로써, 개인정보 보호와 차별 금지 간의 관계를 형식화하는 것.
• 상관적 개인정보 보호와 상관적 차별 금지의 핵심 수학적 표현이 동일하며, 인과적 개인정보 보호와 인과적 차별 금지의 표현도 동일함을 보여주는 것.
• 이 구조적 대응 관계를 활용해 개인정보 보호와 정당성 연구 간 메서드와 증명을 상호 활용할 수 있도록 하는 것.
• 사회적 목적에서 볼 때 개인정보 보호와 차별 금지는 다를 수 있으나, 그 형식적 모델은 핵심적인 측면에서 동형임을 부각하는 것.
• 알고리즘 기반 정당성과 데이터 보호 분야의 중복된 노력을 피하고 진전을 가속화하기 위해 개인정보 보호와 차별 금지를 통합적으로 연구할 것임을 주장하는 것.

제안 방법

• 각 규범에 대해 두 가지 입장(상관적: 확률적 종속성 기반, 인과적: 인과적 간섭 기반)을 정의하고, 확률 이론을 사용한다.
• 차별적 개인정보 보호(differential privacy, 인과적 개인정보 보호)와 차별적 대우(disparate treatment, 인과적 차별 금지)를 도-계산법(do-calculus)과 간섭 기반 모델로 매핑하며, 페일의 인과적 프레임워크를 영감으로 삼는다.
• 통계적 비노출(상관적 개인정보 보호)과 차별적 영향(disparate impact, 상관적 차별 금지)을 배경 지식 하에서의 확률적 인수성과 조건부 인수성으로 매핑한다.
• 형식적 표기(예: D′ ⊥ X | B)를 사용해 통계적 스크리닝을 표현하며, 여기서 입력은 민감 속성과의 독립성을 확보하도록 변환된다.
• 확률적 쌍대성(probabilistic couplings)과 일반화된 거리 측도를 활용해, 입력 거리 함수 기반으로 근접한 입력으로의 확장된 차별적 개인정보 보호 및 정당성 개념을 도입한다.
• 드워크-나오 불가능성 결과를 적용해, 모든 하위집단에서의 차별적 영향을 완전히 제거하는 것은 본질적으로 불가능하다는 것을 보이며, 개인정보 보호 결과를 정당성 분야로 번역한다.

실험 결과

연구 질문

• RQ1 개인정보 보호와 차별 금지의 상관적 및 인과적 변형이 형식적이고 수학적인 수준에서 어떻게 관련되어 있는가?
• RQ2 차별적 개인정보 보호의 결과를 직접적으로 정당성 문제, 예를 들어 차별적 영향 탐지에 적용할 수 있는가?
• RQ3 베이지안적 해석과 빈도주의적 해석 간의 확률 해석이 개인정보 보호 및 차별 금지 프레임워크를 구분하는 데 어떤 역할을 하는가?
• RQ4 확률적 쌍대성과 통계적 스크리닝 같은 기법들이 개인정보 보호 및 정당성 연구 간 얼마나 공유될 수 있는가?
• RQ5 개인정보 보호와 차별 금지 간의 구조적 대응 관계가 각 분야에서 새로운 증명이나 통찰을 어떻게 가능하게 하는가?

주요 결과

• 상관적 개인정보 보호와 상관적 차별 금지의 수학적 구조는 동일하며, 모두 조건부 인수성으로 축소된다: D′ ⊥ X | B.
• 인과적 개인정보 보호(예: 차별적 개인정보 보호)와 인과적 차별 금지(예: 차별적 대우)의 수학적 구조는 동형이며, 모두 간섭 기반 추론에 의존한다.
• 드워크-나오 불가능성 결과는, 모든 하위집단에서의 차별적 영향을 완전히 제거하는 것이 본질적으로 불가능하다는 것을 의미한다.
• 민감 속성과의 독립성을 확보하기 위해 데이터를 변환하는 통계적 스크리닝은 정당성을 달성하는 데 사용될 수 있으며, 이는 상관적 개인정보 보호의 한 형태와 형식적으로 동일하다.
• 차별적 개인정보 보호에서의 일반화된 거리 측도(예: 입력 거리에 대한 리프시츠 연속성)는 정당성 정의에 직접 적용되어, 유사한 개인이 유사하게 대우받도록 보장한다.
• 차별적 개인정보 보호 검증에 사용되는 확률적 쌍대성은 직접적 차별과 기계학습에서의 구조적 편향과 같은 핵심 정당성 정의의 기초를 형성한다.