[논문 리뷰] A Constraint Programming Approach for Mining Sequential Patterns in a Sequence Database

Jean-Philippe Métivier, Samir Loudni외 1명|arXiv (Cornell University)|2013. 11. 27.

Data Mining Algorithms and Applications참고 문헌 23인용 수 18

한 줄 요약

이 논문은 다양한 복잡한 제약 조건—빈도, 닫힘성, 정규 표현식, 항목별 조건 등—하에 순차적 패턴을 통합적으로 모델링하고 효율적으로 탐색할 수 있는 제약 프로그래밍(CP) 프레임워크를 제안한다. 이 방법은 PubMed 논문에서 임상적으로 유의미한 유전자-질병 관계 패턴을 추출하는 데 있어 타당성과 효과성을 입증하며, 유연성과 표현력을 갖춘 기존의 특수화된 방법들보다 뛰어나며, 타당성과 완전성을 유지한다.

ABSTRACT

Constraint-based pattern discovery is at the core of numerous data mining tasks. Patterns are extracted with respect to a given set of constraints (frequency, closedness, size, etc). In the context of sequential pattern mining, a large number of devoted techniques have been developed for solving particular classes of constraints. The aim of this paper is to investigate the use of Constraint Programming (CP) to model and mine sequential patterns in a sequence database. Our CP approach offers a natural way to simultaneously combine in a same framework a large set of constraints coming from various origins. Experiments show the feasibility and the interest of our approach.

연구 동기 및 목표

• 복잡하고 이질적인 제약 조건 하에서 순차적 패턴을 탐색하기 위한 일반적이고 확장 가능한 방법의 부족을 해결하기 위해.
• 단조성, 반단조성, 비단조성 제약 조건(예: 정규 표현식, 집계)을 하나의 프레임워크 내에서 통합적으로 다루기 위해.
• 사용자가 알고리즘 재설계 없이도 여러 제약 유형을 동시에 조합할 수 있도록 하기 위해.
• 실제 생물의학 사례 연구를 통해 CP가 순차적 패턴 탐색에 타당성과 실용적 가치를 지닌다는 것을 입증하기 위해.
• 기존의 특수화된 알고리즘들이 확장성 부족을 겪는 점을 감안해, 확장 가능한 선언적 대안을 제공하기 위해.

제안 방법

• 패턴을 사용자가 정의한 제약 조건을 모두 만족하는 해로 간주하는 제약 만족 문제(CSP)로 순차적 패턴 탐색을 모델링한다.
• 시퀀스를 항목의 순서 있는 리스트로 표현하고, 인덱스 기반 임bedding($s_1 \preceq s_2$)을 사용해 부분수열 포함 관계를 정의한다.
• 최소 지지도, 닫힘성, 간격 제약, 정규 표현식, 항목별 조건 등의 제약 조건을 직접 CP 모델에 인코딩한다.
• CP 솔버를 사용해 전체 제약 조건 집합을 만족하는 모든 유효한 순차적 패턴을 타당하고 완전하게 열거한다.
• 제약 조건 전파와 탐색 공간 단순화를 활용해 중복 패턴 생성을 방지하는 CP 모델을 구성한다.
• PubMed 기반 사례 연구에 모델을 적용하여 언어적 및 의미적 제약 조건을 통해 유전자-RD(희귀질환) 관계와 관련된 패턴을 추출한다.

실험 결과

연구 질문

• RQ1 제약 프로그래밍이 다양한 제약 조건 하에서 순차적 패턴을 통합적이고 확장 가능한 프레임워크로 제공할 수 있는가?
• RQ2 기존의 특수화된 알고리즘에 비해 CP 기반 접근법은 표현력과 유연성 면에서 어떻게 비교되는가?
• RQ3 CP 모델이 실제 생물의학 텍스트에서 의미적으로 유의미한 순차적 패턴을 얼마나 효과적으로 추출할 수 있는가?
• RQ4 낮은 지지도 임계값과 함께 큰 시퀀스 데이터베이스를 처리할 때 CP 접근법의 계산적 확장성은 어떠한가?
• RQ5 비단조성 제약 조건(예: 정규 표현식)을 빈도 및 닫힘성 제약 조건과 동시에 하나의 일관된 프레임워크 내에서 성공적으로 통합할 수 있는가?

주요 결과

• CP 기반 접근법은 주어진 제약 조건을 만족하는 모든 닫힘 순차적 패턴을 성공적으로 탐색하였으며, 기준 방법과 결과가 일치하여 타당성과 완전성을 확인하였다.
• 200개 문장의 PubMed 데이터셋에서 최소 지지도 2% 조건 하에 129개의 닫힘 패턴을 추출하였으며, 총 소요 시간은 1,105초였다.
• 세 가지 임상적으로 유의미한 언어적 패턴을 식별하였으며, 그 중 하나는 인과 관계를 전달하는 패턴으로, $\langle(DISEASE)~{}(be)~{}(cause)~{}(by)~{}(mutation)~{}(in)~{}(the)~{}(GENE)\rangle$였다.
• 2% 최소 지지도 임계값에서 300개 문장 이상의 데이터셋에서는 10시간 이내에 완료되지 않아, 저빈도 제약 조건 하에서 확장성에 한계가 있음을 시사했다.
• 기존 알고리즘들이 통합적으로 지원하지 못하는 빈도, 닫힘성, 정규 표현식, 간격 제약 조건을 동시에 처리할 수 있는 데서 뛰어난 표현력을 입증하였다.
• 지지도 임계값이 낮아질수록 특히 큰 데이터셋에서 탐색 공간의 지수적 증가와 첫 번째 해를 찾는 데 소요되는 시간 증가로 인해 런타임이 크게 증가하였다.