[논문 리뷰] Rank-Based Inference over Web Databases

Farhadur Rahman, Weimo Liu외 3명|arXiv (Cornell University)|2014. 11. 06.

Data Management and Algorithms참고 문헌 32인용 수 3

한 줄 요약

이 논문은 순위 기반 검색을 사용하는 웹 데이터베이스에서 발생하는 심각한 프라이버시 취약점을 드러낸다: 비공개 속성이 쿼리 결과에서 숨겨져 있더라도, 탑-k 쿼리 간의 튜플 순위 변화만으로도 그 값이 유추될 수 있다. 저자들은 공개 속성을 전략적으로 수정하여 순위 함수 설계의 취약점을 악용하는 새로운 공격 프레임워크를 제안하며, 아마존 굿리드스와 레이런닷컴과 같은 실제 웹 플랫폼에서 비공개 값의 유추에 성공했다.

ABSTRACT

In recent years, there has been much research in Ranked Retrieval model in structured databases, especially those in web databases. With this model, a search query returns top-k tuples according to not just exact matches of selection conditions, but a suitable ranking function. This paper studies a novel problem on the privacy implications of database ranking. The motivation is a novel yet serious privacy leakage we found on real-world web databases which is caused by the ranking function design. Many such databases feature private attributes - e.g., a social network allows users to specify certain attributes as only visible to him/herself, but not to others. While these websites generally respect the privacy settings by not directly displaying private attribute values in search query answers, many of them nevertheless take into account such private attributes in the ranking function design. The conventional belief might be that tuple ranks alone are not enough to reveal the private attribute values. Our investigation, however, shows that this is not the case in reality. To address the problem, we introduce a taxonomy of the problem space with two dimensions, (1) the type of query interface and (2) the capability of adversaries. For each subspace, we develop a novel technique which either guarantees the successful inference of private attributes, or does so for a significant portion of real-world tuples. We demonstrate the effectiveness and efficiency of our techniques through theoretical analysis, extensive experiments over real-world datasets, as well as successful online attacks over websites with tens to hundreds of millions of users - e.g., Amazon Goodreads and Renren.com.

연구 동기 및 목표

• 순위 함수가 비공개 속성을 점수에 포함시키지만 쿼리 결과에서 숨기고 있는 웹 데이터베이스에서 발생하는 프라이버시 위험을 조사하는 것.
• 튜플 순위만으로는 비공개 속성 값이 유추될 수 없다는 기존의 믿음을 도전하는 것.
• 질의 인터페이스 설계와 공격자의 능력에 기반한 공격 시나리오의 체계적 분류 체계를 수립하는 것.
• 탑-k 쿼리 응답만을 사용하여도 비공개 속성 값을 성공적으로 복원할 수 있는 실용적 추론 공격을 설계하고 평가하는 것.
• 이러한 공격이 굿리드스와 레이런닷컴과 같은 고용량 플랫폼에서 실현 가능하고 효과적인지 실증적으로 보여주는 것.

제안 방법

• 질의 인터페이스 유형(예: 단일 속성 검색, 다중 속성 검색)과 공격자의 능력(예: 계정 생성 가능 여부, 쿼리 매개변수 제어 능력)을 두 축으로 하여 순위 기반 추론 공격의 분류 체계를 제안하는 것.
• 목표 튜플의 순위 변화를 관찰하기 위해 공개 속성을 조작하는 질의 시퀀스 공격을 설계하며, 상대적 순위 변화에 기반해 비공개 속성 값을 추론하는 것.
• 단일 검색 가능한 공개 속성(예: 굿리드스의 이름)을 가진 데이터베이스의 경우, 공격자 제어 프로필 간의 순위 비교를 바탕으로 후보 비공개 속성 값(예: 우편번호)에 대해 이진 탐색 유사한 추론 기법을 적용하는 것.
• 알 수 없는 또는 기밀로 유지되는 순위 함수를 고려하기 위해 오차 한계를 도입하여, 정확한 거리 측정 기준이 알려지지 않은 상황에서도 강건한 추론을 가능하게 하는 것.
• 수천만에서 수억 명의 사용자를 보유한 실제 웹사이트에서 실시간 실험과 실세계 데이터셋을 활용해 공격를 구현하고 검증하는 것.
• 이론적 분석을 통해 순위 변화에 기반한 비공개 속성 추론이 가능한지의 가능 조건과 실현 조건을 수립하는 것.

실험 결과

연구 질문

• RQ1 비공개 속성 값은 결과에서 직접 노출되지 않더라도, 탑-k 쿼리 결과 내 튜플의 상대적 순위만으로도 추론될 수 있는가?
• RQ2 다양한 질의 인터페이스 설계와 공격자 능력 조건 하에서 순위 기반 추론 공격가 가능한 구조적 및 기능적 조건은 무엇인가?
• RQ3 실제로 복잡하고 기밀로 유지되는 순위 함수를 가진 웹 데이터베이스에서 이러한 공격의 실용성과 효율성은 어느 정도인가?
• RQ4 공격자는 탑-k 쿼리로부터만 제공되는 순위 피드백을 통해 비공개 속성 값을 어느 정도 좁힐 수 있는가?
• RQ5 비공개 속성이 '선호 없음' 또는 특정 기본값으로 설정된 경우, 제안된 추론 기법의 한계와 특수 케이스는 무엇인가?

주요 결과

• 기존의 전제—'튜플 순위만으로는 비공개 속성 값이 노출되지 않는다'—는 근본적으로 잘못되었으며, 쿼리 간 순위 변화가 비공개 데이터를 泄露할 수 있음을 실험적으로 입증했다.
• 저자들은 레이런닷컴과 아마존 굿리드스에서 실시간 공격를 성공적으로 수행하여, 고향지나 우편번호와 같은 비공개 속성 값이 탑-k 쿼리 응답만으로도 높은 정확도로 추론될 수 있음을 확인했다.
• 굿리드스에서는 순위 비교와 추론 기법을 조합해 수백만 가지 가능한 우편번호 후보를 몇 번의 반복만으로 단 한 개의 정확한 값으로 좁혀냈다.
• 정확한 순위 함수가 알려지지 않은 상황에서도 오차 한계를 도입함으로써 기밀 또는 가공된 거리 측정 기준이 존재하더라도 공격가 효과적으로 유지됨을 입증했다.
• 이 방법은 확장성과 효율성이 뛰어나며, 실험 결과 대규모 데이터셋과 복잡한 순위 논리가 존재하는 환경에서도 소수의 쿼리로도 추론이 가능함을 보였다.
• 결과는 점수를 공개하는 시스템 뿐 아니라 상대적 순위만 노출하는 시스템에서도 프라이버시 유출이 발생할 수 있음을 확인했으며, 순위 기반 데이터베이스 시스템에서 이전까지 간과된 위협 표면을 드러냈다.