[논문 리뷰] Digging Deeper into Deep Web Databases by Breaking Through the Top-k Barrier

Saravanan Thirumuruganathan, Nan Zhang외 1명|arXiv (Cornell University)|2012. 08. 19.

Data Management and Algorithms참고 문헌 20인용 수 4

한 줄 요약

이 논문은 랭킹 함수에 대한 사전 지식 없이도 공개된 top-k 인터페이스를 통해 은폐된 웹 데이터베이스에서 (h+1)번째로 랭크된 튜플을 검색할 수 있는 메타알고리즘 GetNext를 제안한다. 반복적으로 재구성된 쿼리를 생성하고 결과 분석을 통해 후보를 테스트함으로써 GetNext는 top-k 장벽을 초월해 k개 이상의 튜플에 접근할 수 있도록 한다. 이는 500회 이내의 쿼리로 아마존의 250개의 DVD 제목을 검색하는 데 성공했으며, 아마존의 2000회/시간/IP 제한 이내에 해당한다.

ABSTRACT

A large number of web databases are only accessible through proprietary form-like interfaces which require users to query the system by entering desired values for a few attributes. A key restriction enforced by such an interface is the top-k output constraint - i.e., when there are a large number of matching tuples, only a few (top-k) of them are preferentially selected and returned by the website, often according to a proprietary ranking function. Since most web database owners set k to be a small value, the top-k output constraint prevents many interesting third-party (e.g., mashup) services from being developed over real-world web databases. In this paper we consider the novel problem of "digging deeper" into such web databases. Our main contribution is the meta-algorithm GetNext that can retrieve the next ranked tuple from the hidden web database using only the restrictive interface of a web database without any prior knowledge of its ranking function. This algorithm can then be called iteratively to retrieve as many top ranked tuples as necessary. We develop principled and efficient algorithms that are based on generating and executing multiple reformulated queries and inferring the next ranked tuple from their returned results. We provide theoretical analysis of our algorithms, as well as extensive experimental results over synthetic and real-world databases that illustrate the effectiveness of our techniques.

연구 동기 및 목표

• 상위-k 웹 데이터베이스 인터페이스가 몇 개의 랭크된 결과만 제한함으로써 마이크로소프트 앱, 데이터 애널리틱스 등의 제3자 애플리케이션에 장애를 주는 한계를 해결하기 위해.
• 데이터베이스 소유자의 비공개 접근 권한이나 협조 없이도 은폐된 웹 데이터베이스에서 k개를 초월하는 상위 랭크된 튜플을 검색할 수 있도록 하기 위해.
• 비용이 많이 들고 쿼리 제한이 있는 크롤링을 피하기 위해 공개 쿼리 인터페이스만을 사용하는 자동화되고 확장 가능한 솔루션을 개발하기 위해.
• 은폐된 데이터베이스에서 랭킹 함수가 알려져 있지 않은 과제를 해결하기 위해, 쿼리 결과 분석을 통해 튜플 순서를 추론함으로써.

제안 방법

• top-k 결과를 초월하는 다음으로 랭크된 튜플을 식별하기 위해 후보 생성 및 후보 테스트의 두 단계 과정을 제안한다.
• 데이터베이스 인터페이스를 탐색하고 결과 집합을 수집하기 위해 속성 값의 변화를 통해 여러 개의 재구성된 쿼리를 생성한다.
• 결과 집합의 겹침과 포함 패턴을 바탕으로, 어떤 튜플이 아직 검색되지 않은 다른 튜플들보다 더 높은 순위에 있을 가능성이 있는지를 판단하기 위해 후보 테스트 단계를 활용한다.
• 쿼리 선택도가 낮아 전체 순서가 불가능한 경우를 다루기 위해 부분 순서 추론 메커니즘을 활용한다.
• 희귀 최소 항목집합 마이닝 원리를 활용하여, top-k를 초월해 랭크될 수 있는 후보 튜플을 효율적으로 식별한다.
• 쿼리 비용과 검색 효율성을 최적화하기 위해 ORDERED-GETNEXT 및 BEYOND-h-GETNEXT 알고리즘을 구현한다.

실험 결과

연구 질문

• RQ1 랭킹 함수를 알지 못하면서도 공개 인터페이스만을 사용해 은폐된 웹 데이터베이스의 top-k 한계를 초월하는 튜플을 검색할 수 있는가?
• RQ2 랭킹 함수가 알려져 있지 않을 때, (h+1)번째로 랭크된 튜플을 신뢰성 있게 식별하기 위해 필요한 최소 쿼리 수는 얼마인가?
• RQ3 확장된 top-h 결과 집합에 포함시키기 위한 후보 튜플을 체계적으로 생성하고 테스트하는 방법은 무엇인가?
• RQ4 쿼리 선택도는 검색 과정의 성능과 완전성에 어떤 영향을 미치는가?
• RQ5 제한된 쿼리 접근과 속도 제한이 있는 실제 웹 데이터베이스에 대해 제안된 방법이 확장 가능한가?

주요 결과

• GetNext 알고리즘은 아마존의 기본 top-100을 초월해 top-250개의 아마존 DVD 제목을 500회 이내의 쿼리로 성공적으로 검색했으며, 아마존의 2000회/시간/IP 제한 이내에 해당한다.
• 알고리즘이 진정한 랭킹 순서를 추론하는 데 높은 정확도를 보였으며, 쿼리 선택도가 낮을수록 켄달-τ 상관계수가 증가함에 따라, 덜 선택적인 쿼리에서 더 나은 성능을 보임을 나타낸다.
• 후보 테스트 단계는 결과 집합 겹침을 활용하여 거짓 양성(false positive)을 효과적으로 줄여 검색 정밀도를 크게 향상시켰다.
• 이 방법은 효율적으로 확장 가능하다: 쿼리 선택도가 낮아질수록 후보 테스트 단계에서 조기 종료가 일어나 쿼리 수가 감소한다.
• ORDERED-GETNEXT는 BEYOND-h-GETNEXT보다 쿼리 효율성이 뛰어나며, 특히 h와 k 값이 클수록 더 넓은 워크로드에 걸쳐 뛰어난 내구성을 보였다.