[논문 리뷰] FUIM: Fuzzy Utility Itemset Mining

Shicheng Wan, Wensheng Gan외 3명|arXiv (Cornell University)|2021. 10. 30.

Data Mining Algorithms and Applications참고 문헌 40인용 수 7

한 줄 요약

이 논문은 새로운 퍼지리스트 데이터 구조와 날카운 상한 모델을 사용하여 높은 퍼지 유틸리티 아이템세트(HFUIs)를 효율적으로 탐지하는 일단계 퍼지 유틸리티 아이템세트 마이닝 알고리즘인 FUIM을 제안한다. 퍼지 집합 이론과 최적화된 가지치기를 활용함으로써, TPFU와 같은 최신 기술 대비 최대 세 개의 지수 차수 빠른 성능을 달성하였으며, 메모리 사용량은 현저히 감소하고 확장성은 뛰어나다.

ABSTRACT

Because of usefulness and comprehensibility, fuzzy data mining has been extensively studied and is an emerging topic in recent years. Compared with utility-driven itemset mining technologies, fuzzy utility mining not only takes utilities (e.g., profits) into account, but also considers quantities of items in each transaction for discovering high fuzzy utility itemsets (HFUIs). Thus, fuzziness can be regard as a key criterion to select high-utility itemsets, while the exiting algorithms are not efficient enough. In this paper, an efficient one-phase algorithm named Fuzzy-driven Utility Itemset Miner (FUIM) is proposed to find out a complete set of HFUIs effectively. In addition, a novel compact data structure named fuzzy-list keeps the key information from quantitative transaction databases. Using fuzzy-list, FUIM can discover HFUIs from transaction databases efficiently and effectively. Both completeness and correctness of the FUIM algorithm are proved by five theorems. At last, substantial experiments test three terms (runtime cost, memory consumption, and scalability) to confirm that FUIM considerably outperforms the state-of-the-art algorithms.

연구 동기 및 목표

• 기존의 두 단계 퍼지 유틸리티 마이닝 알고리즘이 생성하는 과도한 후보 아이템세트로 인한 비효율성을 해결하기 위해.
• 퍼지 유틸리티 마이닝에서 내림값 폐쇄 성질의 부재로 인해 가지치기와 계산 비용이 증가하는 문제를 해결하기 위해.
• 정량적 거래 데이터베이스로부터 핵심 정보를 유지하는 효율적인 마이닝을 위한 컴act하고 효과적인 데이터 구조인 퍼지리스트를 개발하기 위해.
• 퍼지 집합 이론에 기반한 새로운 상한 모델을 설계하여 검색 공간을 줄이고 깊은 DFS 탐색을 피하기 위해.
• 기존 방법들에 비해 뛰어난 런타임, 메모리 효율성 및 확장성으로 고유의 퍼지 유틸리티 아이템세트(HFUIs)를 완전하고 정확하게 탐지하기 위해.

제안 방법

• FUIM은 수준 기반 알고리즘의 메모리 집약적인 후보 생성 단계를 피하기 위해 마이닝과 데이터 구조 구축을 통합한 한 단계 마이닝 전략을 사용한다.
• 퍼지리스트 데이터 구조를 도입하여 아이템세트 정보를 압축 저장함으로써, 효율적인 가지치기와 탐색을 가능하게 한다.
• 퍼지 집합 이론의 최소 연산을 사용해 아이템세트의 퍼지 유틸리티를 계산하고, 최대 연산을 사용해 가지치기용 날카운 상한을 유도한다.
• 남은 퍼지 유틸리티에 기반한 새로운 상한 모델을 제안하여 불리한 아이템세트를 조기에 제거함으로써 검색 공간을 크게 줄였다.
• 아이템 처리 순서로 FUUB-오름차순을 적용하여 런타임과 방문 노드 수를 경험적으로 감소시켰고, 성능 향상을 이뤘다.
• 이론적 증명을 통해 다섯 개의 정리로 FUIM의 완전성과 정확성을 입증하여 타당한 HFUI가 누락되지 않음을 보장한다.

실험 결과

연구 질문

• RQ1 두 단계 알고리즘의 후보 생성 오버헤드를 피함으로써 퍼지 유틸리티 마이닝의 효율성을 어떻게 향상시킬 수 있는가?
• RQ2 빠른 가지치기와 탐색을 가능하게 하면서도 퍼지 유틸리티 정보를 압축적으로 표현할 수 있는 데이터 구조는 무엇인가?
• RQ3 퍼지 집합 이론에 기반한 더 날카운 상한 모델이 퍼지 유틸리티 마이닝의 검색 공간을 현저히 줄일 수 있는가?
• RQ4 아이템의 처리 순서가 FUIM과 같은 퍼지 유틸리티 마이닝 알고리즘의 성능에 어떻게 영향을 미치는가?
• RQ5 실제 및 합성 데이터셋에서 FUIM이 기존 알고리즘에 비해 런타임, 메모리 소비 및 확장성 측면에서 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• FUIM은 TPFU 알고리즘 대비 최대 세 개의 지수 차수 빠른 실행 속도를 기록했으며, 가장 빠른 변종(FUIM 3)은 FUIM 2의 런타임의 약 1/3에 불과했다.
• foodmart 데이터셋에서 FUIM은 51.84 MB의 메모리를 사용한 반면, TPFU는 698.96 MB를 소비하여 뚜렷한 메모리 효율성 우위를 보였다.
• retail 데이터셋에서 γ = 0.1‰일 때, FUUB-오름차순 처리 순서는 내림차순 대비 런타임을 300초 이상 감소시켰다.
• 더 날카운 상한을 사용하는 FUIM 3는 런타임과 메모리 소비 모두에서 FUIM 2를 능가하여 개선된 상한의 효과를 확인했다.
• 데이터셋 크기가 40k에서 100k 거래로 증가함에 따라 런타임과 메모리 사용량이 부드럽고 선형적으로 증가하는 것으로 나타나 강력한 확장성을 보였다.
• 남은 퍼지 유틸리티 가지치기 전략이 없을 경우, 희박한(kosarak) 및 조밀한(mushroom) 데이터셋에서 FUIM은 10,000초 이내에 마이닝을 완료할 수 없었으며, 제안된 가지치기 메커니즘이 반드시 필요함을 시사했다.