[논문 리뷰] Enhancing Explainability of Neural Networks through Architecture Constraints

Zebin Yang, Aijun Zhang외 1명|arXiv (Cornell University)|2019. 01. 12.

Machine Learning and ELM참고 문헌 36인용 수 8

한 줄 요약

이 논문은 해석 가능성 있는 신경망(xNN)을 제안하며, 희박성, 직교성, 매끄러움성 등의 구조적 제약을 통해 모델의 해석 가능성을 향상시킨다: 희박한 가산 부분망, 직교 프로젝션 인덱스, 매끄러운 함수 근사. 희박성, 직교성, 매끄러움성을 강제로 적용함으로써 xNN는 예측 정확도가 경쟁력 있는 동시에 특성 효과의 명확한 해석을 가능하게 하며, 이론적 식별 가능성과 시뮬레이션 및 실제 데이터에서의 실증적 검증을 통해 검증된다.

ABSTRACT

Prediction accuracy and model explainability are the two most important objectives when developing machine learning algorithms to solve real-world problems. The neural networks are known to possess good prediction performance, but lack of sufficient model interpretability. In this paper, we propose to enhance the explainability of neural networks through the following architecture constraints: a) sparse additive subnetworks; b) projection pursuit with orthogonality constraint; and c) smooth function approximation. It leads to an explainable neural network (xNN) with the superior balance between prediction performance and model interpretability. We derive the necessary and sufficient identifiability conditions for the proposed xNN model. The multiple parameters are simultaneously estimated by a modified mini-batch gradient descent method based on the backpropagation algorithm for calculating the derivatives and the Cayley transform for preserving the projection orthogonality. Through simulation study under six different scenarios, we compare the proposed method to several benchmarks including least absolute shrinkage and selection operator, support vector machine, random forest, extreme learning machine, and multi-layer perceptron. It is shown that the proposed xNN model keeps the flexibility of pursuing high prediction accuracy while attaining improved interpretability. Finally, a real data example is employed as a showcase application.

연구 동기 및 목표

• 딥 뉘런 워크의 높은 예측 정확도와 모델의 해석 가능성 간의 갈등을 해결한다.
• 후행 해석 방법을 피하는 내재적 해석 가능성을 갖춘 신경망 아키텍처를 개발한다.
• 희박성, 직교성, 매끄러움성 등의 구조적 제약을 신경망 설계에 통합하여 투명성을 향상시킨다.
• 제안된 아키텍처 하에서 모델 구성 요소의 이론적 식별 가능성을 확보한다.
• 다양한 데이터 시나리오에서 예측 정확도 경쟁력과 해석 가능성의 균형을 유지하는 xNN의 성능을 입증한다.

제안 방법

• 각 은닉 유닛이 부분망을 통해 표현되는 릿지 함수에 해당하는 피드포워드 네트워크로 xNN를 구축하여 전체 함수의 가산 분해를 가능하게 한다.
• L1 정규화를 통해 프로젝션 가중치에 희박성을 적용하여 특성 선택을 촉진하고 해석을 단순화한다.
• 최적화 중 케일리 변환을 사용하여 프로젝션 벡터 간의 직교성을 강제로 유지함으로써 부분망 간 혼동을 줄인다.
• 정규화를 통해 릿지 함수에 매끄러움 제약을 적용하여 안정적이고 해석 가능한 기능적 관계를 보장한다.
• 백프로파게이션와 케일리 변환을 통한 직교성 유지 기법을 적용한 수정된 미니배치 경사하강법을 동시에 사용하여 모든 파라미터를 추정한다.
• 제안된 제약 조건 하에서 모델 구성 요소의 필요 및 충분한 식별 조건을 유도한다.

실험 결과

연구 질문

• RQ1 희박성, 직교성, 매끄러움성 등의 아키텍처 제약이 내재적 해석 가능성을 향상시키기 위해 효과적으로 신경망에 통합될 수 있는가?
• RQ2 제안된 xNN 모델은 다층퍼셉트론(MLP) 및 극한학습기계(ELM)와 같은 표준 딥러닝 모델과 비교해도 예측 성능이 경쟁력 있는가?
• RQ3 이러한 제약 조건이 복잡한 고차원 데이터에서 특성 효과의 해석 가능성에 얼마나 기여하는가?
• RQ4 제안된 아키텍처와 제약 조건 하에서 모델 구성 요소(릿지 함수 및 프로젝션 벡터)는 식별 가능한가?
• RQ5 실제 세계 데이터에서 복잡한 비선형 관계를 대체할 수 있는 해석 가능한 서rogate 모델로서 xNN의 성능은 어느 정도인가?

주요 결과

• 제안된 xNN 모델은 6개의 시뮬레이션 시나리오에서 다층퍼셉트론, 극한학습기계, 랜덤 포레스트와 같은 최첨단 모델들과 경쟁하는 예측 정확도를 달성한다.
• 희박하고 직교적이며 매끄러운 구성 요소를 갖춘 모델의 가산적 구조는 고차원 환경에서도 개별 특성 기여도를 명확히 해석할 수 있도록 한다.
• 고유값 조건이 별개로 설정된 조건 하에서 릿지 함수와 프로젝션 벡터의 이론적 식별 가능성이 확립되어 모델 구성 요소의 유일한 복원이 보장된다.
• 실증 결과는 xNN가 진짜 데이터 생성 과정이 대략적으로 가산적일 경우 주효과를 효과적으로 포착하며, 복잡한 경우에도 신뢰할 수 있는 해석 가능한 서rogate로 기능함을 보여준다.
• 최적화 과정에서 케일리 변환을 사용함으로써 프로젝션 벡터의 직교성이 성공적으로 유지되어 모델의 안정성과 해석 가능성 향상에 기여한다.
• 실제 세계 데이터 예제에서 xNN는 뛰어난 성능과 해석 가능성을 보여주어 금융 및 헬스케어와 같은 규제가 엄격한 분야에서의 적용 가능성을 뒷받침한다.