[논문 리뷰] Inferring the Causal Direction Privately

Matt J. Kusner, Yu Sun외 2명|arXiv (Cornell University)|2015. 12. 17.

Privacy-Preserving Technologies in Data참고 문헌 32인용 수 5

한 줄 요약

이 논문은 민감한 데이터에서 인과 관계를 식별하는 데 있어 개인정보 보호를 보장하는 추가 노이즈 모델(ANM)을 사용한 차별적 비밀유지 프레임워크를 제안한다. ANM의 변형에 차별적 비밀유지를 통합함으로써, 실생활 응용 프로그램에서 구현이 용이하고 실용적인 성능을 유지하면서도 강력한 개인정보 보호 보장을 제공한다.

ABSTRACT

Causal inference deals with identifying which random variables cause or control other random variables. Recent advances on the topic of causal inference based on tools from statistical estimation and machine learning have resulted in practical algorithms for causal inference. Causal inference has the potential to have significant impact on medical research, prevention and control of diseases and identifying influential factors that impact society to name just a few. However, these promising applications for causal inference are often ones that involve sensitive or personal data of users that need to be kept private (e.g. medical records, personal finances). Therefore, there is a need for the development of causal inference methods that preserve data privacy. We study the problem of inferring causality using the current, popular causal inference framework, the additive noise model (ANM) while simultaneously ensuring privacy of the users. We derive a framework that provides differential privacy guarantees for a variety of ANM variants. We run extensive experiments, and demonstrate that our techniques are practical and easy to implement.

연구 동기 및 목표

• 의료 기록이나 금융 정보와 같은 민감한 데이터에서 개인의 개인정보가 유출되지 않도록 하면서도 인과 추론을 수행하는 데 도전하는 것.
• 기존의 추가 노이즈 모델(ANM) 접근 방식의 정확성과 실용성을 유지하면서도, 인과 발견을 위한 차별적 비밀유지 방법을 개발하는 것.
• 기본 데이터에 엄격한 개인정보 보호 조건이 적용되어도 인과 추론이 가능하고 신뢰할 수 있도록 보장하는 것.
• 제안된 프레임워크가 다양한 ANM 변형에 대해 실용적이고 구현 가능한지 확인하는 것.

제안 방법

• 프레임워크는 추가 노이즈 모델(ANM)을 확장하여 추정 과정에 정밀하게 校정된 노이즈를 주입함으로써 차별적 비밀유지를 통합한다.
• 인과 구조 학습에 사용되는 매개변수 또는 점수에 대해 라플라스 또는 가우시안 메커니즘과 같은 개인정보 보호 메커니즘을 적용한다.
• 모델 구조에 맞게 노이즈 校정을 조정함으로써 선형 및 비선형 ANM을 포함한 여러 ANM 변형을 지원한다.
• 차별적 비밀유지 이론을 사용하여 공식적으로 개인정보 보장을 도출함으로써, 출력에서 개인 데이터 포인트를 유추할 수 없음을 보장한다.
• 기존 인과 추론 파이프라인에 쉽게 통합할 수 있도록 모듈러하게 설계되어 있다.
• 실험을 통해 다양한 개인정보 보호 예산 하에서 개인정보 보장 수준과 인과 정확도를 측정하여 방법의 실용성을 검증한다.

실험 결과

연구 질문

• RQ1 추가 노이즈 모델을 사용하여 민감한 데이터의 개인정보를 보존하면서도 신뢰할 수 있는 인과 추론을 수행할 수 있는가?
• RQ2 성능 저하를 크게 초래하지 않으면서 차별적 비밀유지는 ANM 기반 인과 발견에 효과적으로 통합될 수 있는가?
• RQ3 ANM 프레임워크에서 개인정보 보장 수준(예: ε)과 인과 구조 복원 정확도 사이의 상충 관계는 어떠한가?
• RQ4 제안된 방법은 개인 또는 의료 데이터를 포함한 실생활 응용 프로그램에 대해 실용적이고 확장 가능한가?

주요 결과

• 제안된 프레임워크는 다양한 ANM 변형에 대해 공식적인 차별적 비밀유지 보장을 성공적으로 제공하여 개인 데이터 포인트가 보호됨을 보장한다.
• 엄격한 개인정보 보호 예산 하에서도 합리적인 인과 발견 정확도를 유지하여 실용적인 타당성을 입증한다.
• 광범위한 실험을 통해 프레임워크가 구현이 용이하고 기존 인과 추론 파이프라인과 원활하게 통합됨을 확인한다.
• 개인정보 보호와 실용성 사이에 유리한 균형을 달성하여 의료 및 금융과 같은 개인정보 민감도가 높은 분야에 적합함을 입증한다.