[논문 리뷰] Enabling Incrementality in the Implicit Hitting Set Approach to MaxSAT Under Changing Weights

Yu, Jinqiang, Ignatiev, Alexey외 2명|arXiv (Cornell University)|2020. 10. 19.

Data Mining Algorithms and Applications참고 문헌 24인용 수 4

한 줄 요약

이 논문은 새로운 점진적 MaxSAT 접근법을 사용하여, 모든 훈련 데이터를 완벽하게 분류하는 최적의 완전 결정 리스트(최소 크기의 모델)를 구성하는 데 있어 첫 번째 SAT 기반 방법을 제안한다. 또한 기존 최고 수준의 방법들보다 높은 테스트 정확도를 달성하면서도 모델과 설명의 크기를 작게 유지하는 최적의 희소 결정 리스트를 위한 새로운 방법을 제안한다.

ABSTRACT

Decision lists are one of the most easily explainable machine learning models. Given the renewed emphasis on explainable machine learning decisions, this machine learning model is increasingly attractive, combining small size and clear explainability. In this paper, we show for the first time how to construct optimal "perfect" decision lists which are perfectly accurate on the training data, and minimal in size, making use of modern SAT solving technology. We also give a new method for determining optimal sparse decision lists, which trade off size and accuracy. We contrast the size and test accuracy of optimal decisions lists versus optimal decision sets, as well as other state-of-the-art methods for determining optimal decision lists. We also examine the size of average explanations generated by decision sets and decision lists.

연구 동기 및 목표

• 모든 훈련 데이터를 완벽하게 분류하는 최초의 최적 완전 결정 리스트를 구성하는 것.
• 모델 크기와 테스트 정확도 사이의 균형을 고려한 최적의 희소 결정 리스트를 위한 새로운 접근법을 설계하는 것.
• 모델 크기와 평균 설명 길이 측면에서 결정 리스트와 결정 집합을 비교하는 것.
• 해석 가능한 AI에서 모델 크기, 정확도, 설명의 간결성 간의 상호 상충 관계를 평가하는 것.

제안 방법

• 결정 리스트 구성 문제를 최적화 문제로 포장하기 위해 SAT 기반 MaxSAT 공식화를 사용한다.
• 변경되는 가중치 하에서 결정 리스트의 구조를 효율적으로 탐색하고 개선하기 위해 점진적 MaxSAT 해결 기법을 활용한다.
• 규칙를 사전에 추출하지 않고도 결정 리스트 내에서의 위치를 고려하여 직접 규칙를 구성하는 새로운 인코딩 기법을 도입한다.
• 최적성 보장을 위해 대칭성 제거 및 경계 기법을 활용한 브랜치 앤 바운드 기법을 적용한다.
• 규칙 수와 리터럴 수 양쪽 모두에 페널티를 가하는 세밀한 크기 측정 기법을 활용하여 컴act하고 정확한 모델을 선호한다.
• 확장성과 해의 품질 향상을 위해 클래스 순서 결정 히وري스틱(예: i↑)을 활용한다.

실험 결과

연구 질문

• RQ1 SAT 기술을 활용하여 최적의 완전 결정 리스트를 효율적으로 구성할 수 있는가?
• RQ2 최적의 결정 리스트와 최적의 결정 집합 간의 모델 크기와 설명 길이를 비교하면 어떻게 되는가?
• RQ3 희소 결정 리스트 최적화에서 세밀한 크기 측정 기법이 기존 방법보다 더 높은 테스트 정확도를 달성하는가?
• RQ4 최적의 결정 리스트와 결정 집합 간에 모델 크기, 설명 길이, 테스트 정확도 사이의 상호 상충 관계는 어떠한가?
• RQ5 점진적 MaxSAT 기법은 결정 리스트 최적화에서 변화하는 가중치에 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 최적의 완전 결정 리스트 방법은 최적의 결정 집합보다 모델당 평균 11.1개의 리터럴로 훨씬 작다.
• 완전 모델의 경우, 결정 집합은 설명 길이에서 명백한 이점(1개 설명당 3.3개 대비 9.3개 리터럴)을 지닌 반면, 결정 리스트는 크기 측면에서 더 컴팩트하다.
• 희소 모델의 경우, 제안된 방법(sdl[λ2]i↑)은 69.9%의 테스트 정확도를 달성하여 핵심 방법(corels[λ2])의 40.2%를 크게 앞서며 성능을 뛰어넘는다.
• 제안된 방법으로 생성된 희소 결정 리스트의 평균 설명 크기는 2.1개 리터럴로, 희소 결정 집합(3.4개)보다 작고, corels[λ2](2.3개)와 경쟁 가능하다.
• 희소 결정 리스트의 평균 모델 크기는 단지 2.4개 리터럴에 불과하며, 희소 결정 집합의 6.9개에 비해 뛰어난 컴팩트함을 보여준다.
• 점진적 MaxSAT 접근법은 변화하는 가중치 하에서도 효율적인 최적화를 가능하게 하여, 결정 리스트의 동적 재최적화를 지원한다.