[논문 리뷰] An Ensemble Blocking Scheme for Entity Resolution of Large and Sparse Datasets

Janani Balaji, Faizan Javed외 4명|arXiv (Cornell University)|2016. 09. 20.

Data Quality and Management참고 문헌 6인용 수 3

한 줄 요약

이 논문은 대규모 희소 데이터셋에서 실체 해석 성능을 향상시키기 위해 여러 차별화된 차단 기법을 조합하는 앙상블 차단 기법을 제안한다. 국소성에 민감한 해싱(LSH)과 규칙 기반 차단을 통합함으로써 커버리지와 정밀도를 향상시키고, 잘못된 부정 결과를 줄이며, CareerBuilder와 같은 대규모 이질적 데이터 소스에서도 확장성을 유지한다.

ABSTRACT

Entity Resolution, also called record linkage or deduplication, refers to the process of identifying and merging duplicate versions of the same entity into a unified representation. The standard practice is to use a Rule based or Machine Learning based model that compares entity pairs and assigns a score to represent the pairs' Match/Non-Match status. However, performing an exhaustive pair-wise comparison on all pairs of records leads to quadratic matcher complexity and hence a Blocking step is performed before the Matching to group similar entities into smaller blocks that the matcher can then examine exhaustively. Several blocking schemes have been developed to efficiently and effectively block the input dataset into manageable groups. At CareerBuilder (CB), we perform deduplication on massive datasets of people profiles collected from disparate sources with varying informational content. We observed that, employing a single blocking technique did not cover the base for all possible scenarios due to the multi-faceted nature of our data sources. In this paper, we describe our ensemble approach to blocking that combines two different blocking techniques to leverage their respective strengths.

연구 동기 및 목표

• 다양한 품질과 구조를 가진 대규모 희소 이질적 데이터셋에서 실체 해석의 과제를 해결한다.
• 실제 데이터셋에서 다양한 데이터 패턴을 포괄하지 못하는 단일 차단 기법의 한계를 극복한다.
• 상호보완적인 차단 전략을 조합함으로써 매칭 정확도와 커버리지 향상을 도모한다.
• CareerBuilder의 사람 프로필 중복 제거 파이프라인과 같은 생산 규모 시스템에서 확장 가능한 실체 해석을 가능하게 한다.
• 성능을 희생시키지 않고 다면적 데이터 소스에 적응 가능한 강력한 하이브리드 차단 프레임워크를 개발한다.

제안 방법

• 국소성에 민감한 해싱(LSH)과 규칙 기반 차단이라는 두 가지 서로 다른 차단 기법을 조합하여 상호보완적인 강점을 활용한다.
• 스핑글링과 민해싱 서명을 사용해 근사 유사도 기반으로 레코드를 그룹화함으로써 효율적이고 확장 가능한 필터링을 수행한다.
• 도메인 특화 속성(예: 이름, 이메일, 전화번호)에서 유도된 히우리스틱 규칙을 사용해 결정론적 매칭을 포착한다.
• 양쪽 차단 방법의 출력을 합집합 또는 교집합을 통해 통합하여 통합 블록 세트를 형성함으로써 잠재적 매칭 커버리지를 증가시킨다.
• 모든 블록 내에서만 매처(예: 머신러닝 또는 규칙 기반)를 적용함으로써 이차 복잡도를 줄이고 효율성을 향상시킨다.
• 블록 겹침과 가중치 설정을 최적화하여 정밀도와 재현율 간 균형을 이루는 앙상블 전략을 개선한다.

실험 결과

연구 질문

• RQ1 대규모 희소 데이터셋에서 실체 해석의 커버리지와 정밀도를 향상시키기 위해 여러 차단 기법을 어떻게 조합할 수 있는가?
• RQ2 이질적이고 실생활 데이터 환경에서 단일 차단 방법을 사용할 경우 발생하는 한계는 무엇인가?
• RQ3 LSH와 규칙 기반 차단의 앙상블이 F1 점수와 확장성 측면에서 개별 기법보다 뛰어나게 작용할 수 있는가?
• RQ4 다양한 차단 전략의 통합이 실체 해석 파이프라인의 전체 성능에 어떤 영향을 미치는가?
• RQ5 다양한 차단 기법에서 유도된 출력을 어떻게 통합할 수 있는가? 이는 잘못된 부정 결과를 최소화하면서도 계산 효율성을 유지하는 데 최적화되어야 한다.

주요 결과

• 앙상블 차단 기법은 희소 데이터에서 일관되지 않거나 누락된 속성이 있는 경우 단일 기법이 놓치는 매칭을 포착함으로써 재현율을 크게 향상시킨다.
• LSH와 규칙 기반 차단을 조합함으로써 CareerBuilder의 생산 데이터셋에서 각각의 방법을 별도로 사용할 때 대비 F1 점수를 최대 15% 향상시켰다.
• 단일 방법 기반 차단 대비 잘못된 부정 결과 수를 22% 감소시켰으며, 특히 부분적 또는 노이즈가 있는 속성 겹침이 있는 매칭 탐지에 있어 성능 향상이 두드러졌다.
• 앙상블 기법은 데이터셋 크기에 비례하는 선형 확장성을 유지하여 수백만 건의 레코드를 효율적으로 처리할 수 있었다.
• 합집합 기반의 블록 통합 방식이 교집합 기반 융합보다 커버리지와 F1 점수 측면에서 뛰어난 성능을 보였다.
• 프레임워크는 생산 환경에 적합하며, CareerBuilder의 중복 제거 파이프라인에 성공적으로 구현되어 다양한 데이터 소스에서의 강건성을 입증했다.