[논문 리뷰] NLS: an accurate and yet easy-to-interpret regression method

Victor Coscrato, Marco Henrique de Almeida Inácio외 2명|arXiv (Cornell University)|2019. 10. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 30인용 수 5

한 줄 요약

NLS는 출력층에서 局소 선형 구조를 강제함으로써 높은 예측 정확도와 내재된 해석 가능성(해석 가능성)을 동시에 달성하는 신경망 기반 회귀 방법이다. 모델 무관 해석기와 달리 NLS는 학습 과정에서 직접 해석 가능한 계수를 제공하여 최첨단 모델과 유사한 성능을 달성하면서도, 국소 선형 계수를 통해 즉각적인 해석이 가능하다.

ABSTRACT

An important feature of successful supervised machine learning applications is to be able to explain the predictions given by the regression or classification model being used. However, most state-of-the-art models that have good predictive power lead to predictions that are hard to interpret. Thus, several model-agnostic interpreters have been developed recently as a way of explaining black-box classifiers. In practice, using these methods is a slow process because a novel fitting is required for each new testing instance, and several non-trivial choices must be made. We develop NLS (neural local smoother), a method that is complex enough to give good predictions, and yet gives solutions that are easy to be interpreted without the need of using a separate interpreter. The key idea is to use a neural network that imposes a local linear shape to the output layer. We show that NLS leads to predictive power that is comparable to state-of-the-art machine learning models, and yet is easier to interpret.

연구 동기 및 목표

• 기계학습 모델에서 예측 정확도와 해석 가능성 사이의 상충 관계를 해결하기 위해.
• LIME와 같은 별도로 계산 비용이 큰 해석기를 필요로 하지 않도록, 해석 가능성을 모델 자체에 직접 통합하기 위해.
• 높은 정확도를 유지하면서도 예측을 직접적으로 해석할 수 있도록 학습된 계수를 통해 즉각적인 설명을 제공하는 일괄 처리 회귀 방법을 개발하기 위해.
• 강력한 성능를 보이지만 해석이 어려운 블랙박스 모델에 대한 강건하고 확장 가능한 대안을 제공하기 위해.

제안 방법

• NLS는 국소 선형 예측을 위한 절편 항(θ₀)과 특징별 가중치(θ₁(x), ..., θ_d(x))를 출력하는 신경망 아키텍처를 사용한다.
• 최종 예측은 G_Θ(x) = θ₀ + Σ θ_i(x) * x_i로 계산되어 국소 선형 형태를 보장한다.
• 학습은 표준 제곱 손실 함수를 사용하여 훈련 데이터의 예측 오차를 최소화한다.
• 스pars티를 제어하고 해석 가능성을 향상시키기 위해 비용 항(λ)을 도입하여 비스퍼스 해를 방지한다.
• 충분한 용량이 있으면 NLS가 임의 정밀도로 연속 회귀 함수를 근사할 수 있음을 보여주는 정리에 기반한 이론적 기반을 확보한다.
• 예측에 대한 해석은 주어진 입력에서 네트워크 출력 가중치에서 직접 유도되므로, 추가적인 피팅 없이도 즉각적인 국소 선형 설명이 가능하다.

실험 결과

연구 질문

• RQ1 예측 정확도와 내재된 해석 가능성이 모두 높은 신경망을 설계할 수 있는가?
• RQ2 SVM 및 딥 네트워크와 같은 최첨단 모델과 비교해 NLS의 예측 성능는 어떠한가?
• RQ3 LIME에서 얻는 해석과 유사한 의미 있는 해석을 제공할 수는 있는가, 그러나 각 인스턴스별 별도의 피팅 단계가 필요로 하지 않는가?
• RQ4 정규화(λ)는 NLS에서 예측 정확도와 해석 가능성 사이의 상충 관계에 어떤 영향을 미치는가?
• RQ5 NLS는 고차원 및 실제 세계 데이터셋으로 일반화될 수 있으며, 해석 가능성은 유지되는가?

주요 결과

• NLS는 Ribeiro 등(2016)에서 보고한 RBF 커널을 사용한 SVM(94%)보다 약간 높은 95.6%의 테스트 정확도를 달성했다.
• 이 방법은 LIME에서 도출된 해석과 정량적으로 유사한 결과를 도출하여 동일한 중요한 특징(예: 이메일 헤더의 단어)을 가장 영향력 있는 특징으로 식별했다.
• 벌점 강도 λ는 예측 정확도와 해석 가능성 사이의 상충 관계를 조절하며, 높은 λ 값은 예측 복제 오차를 감소시킨다.
• NLS는 계산적으로 효율적이며, 각 인스턴스별 추가 피팅 없이도 모델 출력에서 바로 해석을 도출할 수 있다.
• 이론적 분석을 통해 충분한 네트워크 용량이 있으면 NLS가 임의의 연속 회귀 함수를 ε 오차 이내로 근사할 수 있음을 확인했다.
• NLS는 불필요한 특징에 대해 강건하며, 학습 및 추론 모두에 낮은 계산 비용을 유지한다.