[논문 리뷰] Constraint-based sequence mining using constraint programming

Benjamin Négrevergne, Tias Guns|arXiv (Cornell University)|2015. 01. 06.

Data Mining Algorithms and Applications참고 문헌 13인용 수 11

한 줄 요약

이 논문은 제약 프로그래밍(CP) 프레임워크를 제안하며, 제약 기반 시퀀스 마이닝을 위한 것으로, 패턴 포함성을 효율적으로 인코딩하고 성능을 향상시키기 위해 새로운 글로벌 제약 'exists-embedding'을 도입한다. 또한 프로젝션 데이터베이스를 지원함으로써 성능을 향상시킨다. 이 방법은 사용자가 정의한 제약 조건 하에 유연하고 확장 가능한 빈도 높은 시퀀스 마이닝을 가능하게 하며, 전문화된 알고리즘보다 유연성은 뛰어나면서도 제약 인식 검색 및 전파를 통해 경쟁적인 효율성을 유지한다.

ABSTRACT

The goal of constraint-based sequence mining is to find sequences of symbols that are included in a large number of input sequences and that satisfy some constraints specified by the user. Many constraints have been proposed in the literature, but a general framework is still missing. We investigate the use of constraint programming as general framework for this task. We first identify four categories of constraints that are applicable to sequence mining. We then propose two constraint programming formulations. The first formulation introduces a new global constraint called exists-embedding. This formulation is the most efficient but does not support one type of constraint. To support such constraints, we develop a second formulation that is more general but incurs more overhead. Both formulations can use the projected database technique used in specialised algorithms. Experiments demonstrate the flexibility towards constraint-based settings and compare the approach to existing methods.

연구 동기 및 목표

• 다양한 사용자 정의 제약 조건을 지원하는 일반적이고 확장 가능한 제약 기반 시퀀스 마이닝 프레임워크의 부족을 해결한다.
• 기존 최적화 및 검색 기법과 원활하게 통합되는 기제적이고 제약 프로그래밍 기반의 접근 방식을 개발한다.
• 저수준 데이터 구조를 수정하지 않고도 복잡한 제약 조건 하에서 빈도 높은 시퀀스를 효율적으로 마이닝할 수 있도록 한다.
• 성능와 표현력의 균형을 이루기 위해 글로벌 제약 조건을 통한 효율적 계산과 분해를 통한 완전한 일반성 모두를 지원한다.
• 최첨단 시퀀스 마이닝 알고리즘과의 경험적 비교를 통해 프레임워크의 유연성과 확장성을 입증한다.

제안 방법

• 패턴 시퀀스가 거래 시퀀스에 포함되어 있는지를 효율적으로 인코딩하기 위해 새로운 글로벌 제약 조건 'exists-embedding'을 도입한다.
• 패턴 기호, 임bedding 위치, 거래 포함 표시자에 대한 CP 변수를 사용하여 시퀀스 마이닝 문제를 수식화한다.
• 'exists-embedding' 제약 조건을 이元 부등식 및 재구성된 제약 조건으로 분해하여, 성능 오버헤드를 감수하면서도 더 복잡한 제약 조건을 지원한다.
• 기존 시퀀스 마이닝에서 사용하는 프로젝션 데이터베이스 기법을 CP 프레임워크에 통합하여 공유 보조 변수를 통해 빈도 수를 가속화한다.
• 각 거래당 유효한 임bedding을 별도로 확인하는 서브-검색 브랜치 기법을 구현하여, 마스터 문제에 결과를 전파함으로써 중복 검색을 방지한다.
• 보조 변수와 요소 제약 조건을 사용하여 빈도 제약 조건을 재구성하여, 거래 간 프로젝션 발생 횟수를 효율적으로 수치화한다.

실험 결과

연구 질문

• RQ1 제약 프로그래밍이 다양한 제약 유형에 걸쳐 일반적이고 확장 가능한 제약 기반 시퀀스 마이닝 프레임워크로 기능할 수 있는가?
• RQ2 전용 글로벌 'exists-embedding' 제약 조건을 사용한 CP 공식화 방식이 분해 기반 접근 방식과 비교해 효율성과 확장성 측면에서 어떻게 성능을 내는가?
• RQ3 CP 기반 시퀀스 마이닝 파이프라인에 프로젝션 데이터베이스 기법을 효과적으로 통합할 수 있는가?
• RQ4 기존 전문화된 알고리즘에서 네이티브로 지원하지 않는 복잡한 제약 조건은 제안된 CP 프레임워크가 어떻게 처리하는가?
• RQ5 분해 기반 공식화 방식과 글로벌 제약 조건 공식화 방식을 비교할 때 표현력과 성능 사이의 상충 관계는 어떠한가?

주요 결과

• 글로벌 제약 조건 공식화 방식이 'exists-embedding'을 사용할 경우, 런타임과 검색 노력 측면에서 분해 기반 접근 방식을 크게 앞서는 최고의 효율성을 달성한다.
• 분해 기반 공식화 방식은 글로벌 제약 조건과 호환되지 않는 모든 제약 유형을 지원하지만, 계산 오버헤드가 증가하는 비용이 수반된다.
• CP 프레임워크에 프로젝션 데이터베이스를 통합함으로써 효율적인 빈도 수를 계산할 수 있었으며, 기존 프로젝션 데이터베이스 방법과 동등하거나 이를 초월하는 성능을 보였다.
• 서브-검색 브랜치 기법은 각 거래당 임bedding을 성공적으로 분리하고 검증하여 검색 공간을 줄이고 확장성을 향상시켰다.
• 경험적 평가 결과, cSpade와 같은 최첨단 알고리즘과 비교해 런타임과 확장성 측면에서 CP 기반 접근 방식이 동등하거나 이를 초월하는 성능을 보였다.
• 프레임워크는 핵심 데이터 구조를 수정하지 않고도 길이, 갭, 특성 강도 제약 조건 등 다양한 사용자 제약 조건을 효과적으로 처리함으로써 뛰어난 유연성을 입증했다.