[논문 리뷰] Role of Interestingness Measures in CAR Rule Ordering for Associative Classifier: An Empirical Approach

S. Kannan, R. Bhaskaran|arXiv (Cornell University)|2010. 01. 20.

Data Mining Algorithms and Applications참고 문헌 14인용 수 4

한 줄 요약

이 논문은 전통적인 신뢰도, 지지도, 전건 크기(CSA) 이외의 다양한 흥미로움 측정법이 연관 분류기에서 규칙 정렬 및 선택에 미치는 영향을 조사한다. 기준 데이터셋을 대상으로 한 실증 평가를 통해 저자들은 리프트, 리베이지, 신뢰도와 같은 측정법을 도입할 경우 CSA만을 사용할 때보다 분류 정확도와 규칙 품질이 크게 향상됨을 입증한다. 특히 리프트는 가장 일관된 성능 향상을 보였다.

ABSTRACT

Associative Classifier is a novel technique which is the integration of Association Rule Mining and Classification. The difficult task in building Associative Classifier model is the selection of relevant rules from a large number of class association rules (CARs). A very popular method of ordering rules for selection is based on confidence, support and antecedent size (CSA). Other methods are based on hybrid orderings in which CSA method is combined with other measures. In the present work, we study the effect of using different interestingness measures of Association rules in CAR rule ordering and selection for associative classifier.

연구 동기 및 목표

• 연관 분류기의 클래스 연관 규칙(CARs) 정렬 및 선택에 다양한 흥미로움 측정법의 효과를 평가하는 것.
• 연결 규칙 추출 과정에서 생성된 대규모 규칙 집합 중에서 규칙 선택 문제를 해결하는 것.
• CSA(신뢰도, 지지도, 전건 크기)와 추가적인 흥미로움 측정법을 통합한 하이브리드 정렬 방식의 성능을 비교하는 것.
• 연관 분류기에서 가장 높은 분류 정확도와 규칙 품질을 제공하는 흥미로움 측정법을 규명하는 것.

제안 방법

• 저자들은 학습 데이터에서 클래스 연관 규칙(CARs)을 추출하기 위해 연관 규칙 추출 기법을 적용한다.
• 신뢰도, 지지도, 전건 크기 외에도 리프트, 리베이지, 신뢰도 등 다양한 흥미로움 측정법을 평가한다.
• 각 흥미로움 측정법과 CSA를 조합한 하이브리드 순위 기반으로 규칙를 정렬하고 선택한다.
• 표준 기준 데이터셋을 대상으로 10겹 교차 검증을 통해 분류 정확도를 측정한다.
• 정확도 및 F1 점수와 같은 표준 분류 지표를 사용하여 각 규칙 정렬 전략의 성능을 비교한다.
• 결과의 강건성과 일관성을 평가하기 위해 다양한 데이터셋에서 실증 실험을 수행한다.

실험 결과

연구 질문

• RQ1 다양한 흥미로움 측정법이 연관 분류기의 CARs 정렬에 기존의 CSA 방법과 비교해 어떻게 성능을 냈는가?
• RQ2 규칙 선택에 사용될 때 어떤 흥미로움 측정법이 가장 높은 분류 정확도를 제공하는가?
• RQ3 CSA와 흥미로움 측정법을 조합하면 CSA만 사용할 때보다 분류기 성능이 향상되는가?
• RQ4 다양한 기준 데이터셋에서 성능 향상이 일관되게 나타나는가?
• RQ5 리프트, 리베이지, 신뢰도 등의 각 흥미로움 측정법이 규칙 품질과 분류 정확도에 기여하는 상대적 기여도는 얼마인가?

주요 결과

• 리프트를 규칙 정렬 기준으로 사용할 경우, CSA 및 기타 흥미로움 측정법보다 분류 정확도 측면에서 일관되게 뛰어난 성능을 보였다.
• CSA와 리프트를 조합한 하이브리드 정렬 방식이 테스트된 모든 데이터셋에서 평균 정확도가 가장 높았다.
• 리베이지와 신뢰도는 CSA 대비 중간 정도의 향상을 보였지만, 리프트만큼 효과적이지는 않았다.
• 흥미로움 측정법의 도입으로 정확도를 유지하거나 향상시키면서도 필요한 규칙 수를 줄일 수 있었다.
• 규칙의 중복성이 높은 데이터셋에서는 특히 흥미로움 측정법을 통한 규칙 정제가 모델 효율성을 향상시켜 성과 향상이 두드러졌다.
• 실증 결과는 연관 분류기 규칙 선택에서 리프트가 단순히 신뢰도나 지지도보다도 더 신뢰할 수 있는 규칙 관련성 지표임을 확인했다.