[논문 리뷰] Discovering Knowledge using a Constraint-based Language

Patrice Boizumault, Bruno Crémilleux외 3명|arXiv (Cornell University)|2011. 07. 18.

Data Mining Algorithms and Applications참고 문헌 17인용 수 3

한 줄 요약

이 논문은 데이터 마이닝에서 글로벌 패턴과 패턴 집합을 추출하기 위한 선언적이고 제약 기반의 언어를 제안한다. 이는 분석자가 고수준의 제약 조건을 통해 복잡한 클러스터링 및 연관 패턴을 표현할 수 있도록 한다. 제약 프로그래밍을 패턴 마이닝과 통합함으로써, 동적으로 결과를 정밀 조정할 수 있는 융통성 있고 재사용 가능한 쿼리가 가능해지며, 이는 소프트 및 공-클러스터링과 같은 클러스터링 변종을 통해 검증되었다. 이로 인해 구현 오버헤드를 최소화하면서도 더 의미 있고 중복이 없는 패턴을 도출할 수 있다.

ABSTRACT

Discovering pattern sets or global patterns is an attractive issue from the pattern mining community in order to provide useful information. By combining local patterns satisfying a joint meaning, this approach produces patterns of higher level and thus more useful for the data analyst than the usual local patterns, while reducing the number of patterns. In parallel, recent works investigating relationships between data mining and constraint programming (CP) show that the CP paradigm is a nice framework to model and mine such patterns in a declarative and generic way. We present a constraint-based language which enables us to define queries addressing patterns sets and global patterns. The usefulness of such a declarative approach is highlighted by several examples coming from the clustering based on associations. This language has been implemented in the CP framework.

연구 동기 및 목표

• 기존 국소 패턴 마이닝에서 과도한 중복성과 산산이 찢어진 통찰을 해결하기 위해.
• 다양한 국소 패턴을 조합하여 고수준의 글로벌 패턴을 발견하기 위한 일반적이고 선언적인 프레임워크를 제공하기 위해.
• 제약 논리 기반으로 데이터 분석가가 쿼리를 쉽게 정밀 조정하고 소프트, 공-클러스터링 등의 다양한 클러스터링 모델을 탐색할 수 있도록 하기 위해.
• 새로운 패턴 유형마다 맞춤형 알고리즘 개발이 필요 없도록 통합적이고 확장 가능한 모델링 언어를 제공함으로써 이를 줄이기 위해.
• 제약 기반 정밀 조정 및 최적화를 통해 추출된 패턴의 관련성과 해석 가능성 향상을 위해.

제안 방법

• 이 방법은 상수, 변수, 함수, 연산자로 구성된 용어 기반의 제약 기반 언어를 사용하여 패턴 쿼리를 선언적으로 표현한다.
• 핵심 제약 조건으로는 빈도, 닫힘성, 트랜잭션 및 아이템의 커버리지, 트랜잭션/아이템 간의 겹침 제한, 대칭성 제거를 위한 표준 순서화가 포함된다.
• 쿼리는 제약 조건들의 논리적 합성으로 표현되며, 이는 마이닝 작업의 모듈화 및 조합 가능성을 보장한다.
• 모든 지정된 제약 조건을 만족하는 해를 효율적으로 탐색하기 위해 기존의 제약 프로그래밍(CP) 솔버를 활용한다.
• 이 언어는 점진적 쿼리 정밀 조정을 지원한다. 예를 들어 겹침 또는 크기 제약 조건을 추가하여 다양한 클러스터링 의미론을 탐색할 수 있다.
• 이 방법은 연관 기반 클러스터링 작업에 적용되었으며, 제약 조건 수정을 통해 소프트, 공-, 소프트 공-클러스터링에 적합한 쿼리로 변환되었다.

실험 결과

연구 질문

• RQ1 선언적이고 제약 기반의 언어는 국소 패턴에서 글로벌 패턴을 추출하는 데 어떻게 단순화할 수 있는가?
• RQ2 제약 프로그래밍은 소프트 및 공-클러스터링과 같은 복잡한 클러스터링 작업을 일반적으로 효과적으로 모델링하고 해결할 수 있는가?
• RQ3 제약 언어에서의 쿼리 정밀 조정은 얼마나 중복성을 줄이고 추출된 패턴의 해석 가능성을 향상시킬 수 있는가?
• RQ4 도메인 특화 제약 조건(예: 겹침 제한, 커버리지)의 통합은 클러스터링 결과의 품질을 어떻게 향상시키는가?
• RQ5 이 프레임워크는 기존 알고리즘을 다시 작성하지 않고도 새로운 데이터 마이닝 작업을 지원하도록 확장할 수 있는가?

주요 결과

• 제약 기반 언어를 통해 소프트 및 공-클러스터링과 같은 복잡한 클러스터링 작업을 간단하고 점진적인 쿼리 정밀 조정을 통해 지정할 수 있다.
• k=3 및 δT=1 조건을 가진 소프트 클러스터링 쿼리(Q4)에서는 13개의 초기 해가 발견되었으며, 비빈도 패턴을 걸러내고 난 후 8개로 줄었고, 최소 크기 패턴까지 걸러낸 후에는 1개로 줄었다.
• 필터링 후 남은 유일한 해(s′9)는 원래 하드 클러스터링 문제의 해와 정확히 일치하여, 이 방법의 정확성과 일관성을 검증하였다.
• 표준 순서화 제약 조건은 대칭 해의 수를 78개에서 13개로 줄였으며, 이는 대칭성 제거에 효과적임을 입증한다.
• 이 프레임워크는 공-클러스터링(Q5)과 소프트 공-클러스터링(Q6)에 대해 서로 다른 클러스터링을 성공적으로 생성하여, 다양한 클러스터링 의미론에 대한 유연성을 보였다.
• 선언적 제약 기반 기술을 통해 다양한 클러스터링 모델을 신속하게 탐색할 수 있었으며, 이는 구현 오버헤드를 크게 줄였다.