[논문 리뷰] Natively Interpretable Machine Learning and Artificial Intelligence: Preliminary Results and Future Directions

Christopher J. Hazard, Christopher Winter Fusting외 4명|arXiv (Cornell University)|2019. 01. 02.

Explainable Artificial Intelligence (XAI)참고 문헌 51인용 수 11

한 줄 요약

이 논문은 정보 이론을 k-최근접 이웃(kNN)과 융합하여 원천적으로 해석 가능한 기계학습 프레임워크를 제안한다. 이는 데이터 기반 추론을 통해 추적 가능하고 감사 가능한 의사결정을 가능하게 한다. 불확실성 인식 거리 측도를 위해 분수형 및 0에 가까운 p-값을 도입함으로써, 분류(최대 AUC 0.78)와 회귀(r-제곱 최대 0.66)에서 kNN의 정확도를 향상시키며, 동시에 해석 가능성 손실 없이 온라인 학습, 데이터 보정, 합성 데이터 생성을 지원한다.

ABSTRACT

Machine learning models have become more and more complex in order to better approximate complex functions. Although fruitful in many domains, the added complexity has come at the cost of model interpretability. The once popular k-nearest neighbors (kNN) approach, which finds and uses the most similar data for reasoning, has received much less attention in recent decades due to numerous problems when compared to other techniques. We show that many of these historical problems with kNN can be overcome, and our contribution has applications not only in machine learning but also in online learning, data synthesis, anomaly detection, model compression, and reinforcement learning, without sacrificing interpretability. We introduce a synthesis between kNN and information theory that we hope will provide a clear path towards models that are innately interpretable and auditable. Through this work we hope to gather interest in combining kNN with information theory as a promising path to fully auditable machine learning and artificial intelligence.

연구 동기 및 목표

• 본질적으로 해석 가능하고, 훈련 데이터로 추적 가능한, 최소한의 가정을 수반하는 기계학습 프레임워크를 개발하는 것.
• 기존 kNN의 계산 비용, 차원의 저주, 특성 스케일링에 대한 민감성 등의 역사적 한계를 정보 이론과의 융합을 통해 극복하는 것.
• 목표 없는 kNN 아키텍처를 통해 온라인 학습, 데이터 보정, 합성 데이터 생성(exputation)을 가능하게 하는 것.
• 최소한의 가정과 직접적인 데이터 추적 가능성을 바탕으로 완전히 감사 가능하고 해석 가능한 인공지능의 기반을 마련하는 것.

제안 방법

• 모든 특성을 나머지 특성들을 사용해 예측할 수 있는 목표 없는 kNN 모델을 제안하여, 융통성 있고 맥락 인식 가능한 추론을 가능하게 한다.
• 거리 측도의 불확실성을 표현하기 위해 분수형 및 0에 가까운 p-값을 도입하여, 데이터 스케일링 없이도 확률 기반 추론이 가능하도록 한다.
• 최대 엔트로피 원리 적용을 통해 국소적 데이터 영역을 모델링함으로써, 해석 가능성 향상과 가정 최소화를 달성한다.
• 계층적 클러스터링과 프로토타입 선택을 활용해 차원 축소 및 모델 복잡도 감소를 이루면서도 해석 가능성은 유지한다.
• 0에 가까운 p-값을 사용한 르베그 공간을 활용해 극단적 데이터 영역을 모델링하고 외삽(예측)을 지원한다.
• kNN를 정보 이론 원리와 융합하여 엔트로피 플럭스를 계산하고, 계층적 모델 설명을 지원한다.

실험 결과

연구 질문

• RQ1 정보 이론적 강화를 통해 kNN의 정확도와 확장성을 높이면서도 원천적 해석 가능성을 유지할 수 있는가?
• RQ2 분수형 및 0에 가까운 p-값을 사용해 거리 측도의 불확실성을 어떻게 모델링할 수 있으며, 이는 예측 신뢰도 향상에 어떻게 기여하는가?
• RQ3 목표 없는 kNN이 온라인 학습, 데이터 보정, 합성 데이터 생성(exputation)을 어느 정도 지원할 수 있는가?
• RQ4 kNN를 최대 엔트로피 원리와 융합함으로써 정확도와 감사 가능성을 동시에 확보한 모델을 도출할 수 있는가?
• RQ5 르베그 공간에서 0에 가까운 p-값 사용이 계층적 모델 아키텍처와 성능에 어떤 영향을 미치는가?

주요 결과

• 분수형 및 0에 가까운 p-값을 적용한 kNN 분류 정확도가 0.76에서 0.78로 향상되었으며, 통계적으로 유의미한 향상(\(p \ll .001\))을 보였다.
• 불확실성 인식 p-값을 통합한 kNN 회귀 성능이 r-제곱 0.53에서 0.66으로 향상되었으며, 유의미한 향상(\(p \ll .001\))을 보였다.
• 의사결정이 훈련 데이터 포인트로 직접 추적 가능하여, 완전한 감사 가능성과 설명 가능성 확보가 가능했다.
• 목표 없는 kNN는 명확한 기원을 가진 데이터 보정을 가능하게 하며, 훈련 데이터 범위를 초월한 합성 데이터 생성(exputation)을 지원한다.
• kNN와 정보 이론의 융합은 추가적인 가정 없이도 계층적 모델링과 엔트로피 기반 설명을 지원한다.
• 이 접근법은 kNN가 최첨단 모델과 경쟁할 수 있도록 향상시키면서도 해석 가능성과 최소한의 가정을 유지함을 입증했다.