[논문 리뷰] Revisiting Numerical Pattern Mining with Formal Concept Analysis

Mehdi Kaytoue, Sergei O. Kuznetsov외 1명|arXiv (Cornell University)|2011. 11. 24.

Rough Sets and Fuzzy Logic참고 문헌 12인용 수 27

한 줄 요약

이 논문은 전통적인 이진 데이터 스케일링에 의존하지 않고 간격 패턴을 직접 다루는 방식으로 형식개념분석(FCA)을 활용한 수치 데이터 채굴을 위한 새로운 프레임워크를 제안한다. 닫힌 간격 패턴과 생성자(generator)를 도입하고, 효율적인 알고리즘(MinIntChange-h 및 MinIntChange-t)을 설계하며, 실제 데이터를 통해 이 접근법이 패턴의 중복을 크게 줄이고 계산 시간을 단축함을 입증한다. 특히 낮은 지지도 기준에서 검색 공간의 압축 비율이 10⁻⁷에서 10⁻⁹ 수준에 이르며, 성능 향상이 두드러진다.

ABSTRACT

In this paper, we investigate the problem of mining numerical data in the framework of Formal Concept Analysis. The usual way is to use a scaling procedure --transforming numerical attributes into binary ones-- leading either to a loss of information or of efficiency, in particular w.r.t. the volume of extracted patterns. By contrast, we propose to directly work on numerical data in a more precise and efficient way, and we prove it. For that, the notions of closed patterns, generators and equivalent classes are revisited in the numerical context. Moreover, two original algorithms are proposed and used in an evaluation involving real-world data, showing the predominance of the present approach.

연구 동기 및 목표

• 전통적인 이진 데이터 스케일링에 의존함으로써 발생하는 비효율성과 정보 손실 문제를 해결하기 위해.
• 형식개념분석의 패턴 구조를 활용하여 수치 데이터에서 닫힌 간격 패턴과 생성자를 체계화하기 위해.
• 빈번한 닫힌 간격 패턴과 그 생성자를 효율적으로 채굴하기 위한 알고리즘 설계 및 평가를 위해.
• 이진 인코딩 방식에 비해 직접적인 수치 채굴이 계산 효율성과 패턴 중복 측면에서 뛰어나다는 것을 입증하기 위해.
• 유클리드 공간에서 간격 패턴의 기하학적 및 의미론적 해석을 제공하여 수치 데이터 채굴의 정확성을 향상시키기 위해.

제안 방법

• 각 속성에 대해 유한한 간격의 벡터로 수치 데이터를 간격 패턴으로 표현한다.
• 지지도를 패턴의 모든 간격에 속하는 객체 수로 정의한다.
• 등가 클래스, 닫힌 패턴, 생성자를 정의하기 위해 간격 패턴 간의 포함관계(subsumption relation)를 도입한다.
• 등가 클래스 내 최대 원소로 닫힌 간격 패턴을 유도하기 위해 클로처 연산자를 적용한다.
• 닫힌 간격 패턴과 그 생성자를 효율적으로 채굴하기 위해 MinIntChange-h 및 MinIntChange-t라는 두 가지 알고리즘을 제안한다.
• MinIntChange-t에서 트라이 기반 데이터 구조를 사용하여 닫힌 집합을 저장하고 생성자와 연계함으로써 빠른 검색과 압축을 가능하게 한다.

실험 결과

연구 질문

• RQ1 이진 스케일링에 의존하지 않고 형식개념분석을 활용해 수치 패턴 채굴을 어떻게 체계화할 수 있는가?
• RQ2 간격 패턴의 맥락에서 등가 클래스, 닫힌 패턴, 생성자의 구조적 성질은 무엇인가?
• RQ3 이진 인코딩에 비해 간격 패턴의 직접적 채굴 방식은 계산 효율성과 중복 측면에서 어떻게 비교되는가?
• RQ4 닫힌 간격 패턴과 생성자의 압축 비율은 전체 검색 공간 대비 얼마나 되는가?
• RQ5 기존의 아이템셋에 비해 간격 패턴이 수치 데이터 채굴에서 더 효과적이고 의미적으로 더 풍부한 표현을 제공할 수 있는가?

주요 결과

• 제안된 방법은 전체 검색 공간 대비 패턴 수를 10⁷에서 10⁹ 배로 줄여 강력한 압축 능력을 입증한다.
• 낮은 지지도 기준(예: 10% 또는 25%)에서 MinIntChange-t 알고리즘이 이진 기반 방법보다 실행 시간에서 뛰어난 성능을 보이며, 특히 AP 및 BK와 같은 대용량 데이터셋에서 두드러진다.
• BL 데이터셋에서 지지도 1%일 경우, 빈번한 아이템셋 생성자(FISG)의 약 1.6%만 빈번한 간격 패턴 생성자(FIPG)에 해당함을 확인하여 이진 인코딩에서의 막대한 중복이 있음을 시사한다.
• MinIntChange-t 알고리즘이 최고의 성능을 기록하지만, 닫힌 집합을 트라이에 단어로 저장하고 생성자와 연계함으로써 메모리 소비가 더 크다.
• FIPG 대비 FCIP(frequent closed interval patterns) 비율이 항상 1.5 이상이므로, 생성자는 닫힌 패턴 자체보다 더 정보가 풍부하고 압축성이 뛰어나다는 점을 확인한다.
• 기존의 집합 포함 관계보다 더 강력한 부분 순서를 제공함으로써 생성자 수를 줄이고 수치 데이터 채굴에서 패턴 의미론을 향상시킨다.