[논문 리뷰] ProtoMIL: Multiple Instance Learning with Prototypical Parts for Fine-Grained Interpretability

Dawid Rymarczyk, Aneta Kaczyńska외 3명|arXiv (Cornell University)|2021. 08. 24.

Explainable Artificial Intelligence (XAI)참고 문헌 46인용 수 4

한 줄 요약

ProtoMIL은 시각적 프로토타입을 활용하여 모델 정확도와 세밀한 해석 가능성 모두를 향상시키는 자기 설명 가능한 다중 예비 학습(MIL) 프레임워크를 제안한다. 사례 기반 추론 과정을 통해 프로토타입 부분을 모델링함으로써, 상태의 성능을 달성하면서도 개별 인스턴스 수준의 상세한 설명을 가능하게 한다. 이는 다섯 개인 MIL 기준 데이터셋에서 최고 성능을 기록한다.

ABSTRACT

Multiple Instance Learning (MIL) gains popularity in many real-life machine learning applications due to its weakly supervised nature. However, the corresponding effort on explaining MIL lags behind, and it is usually limited to presenting instances of a bag that are crucial for a particular prediction. In this paper, we fill this gap by introducing ProtoMIL, a novel self-explainable MIL method inspired by the case-based reasoning process that operates on visual prototypes. Thanks to incorporating prototypical features into objects description, ProtoMIL unprecedentedly joins the model accuracy and fine-grained interpretability, which we present with the experiments on five recognized MIL datasets.

연구 동기 및 목표

• 다중 예비 학습(MIL) 모델에서 세밀한 해석 가능성의 부족을 해결하기 위해.
• 의미 있는 개별 인스턴스 수준의 설명을 제공하는 자기 설명 가능한 MIL 프레임워크를 개발하기 위해.
• 모델의 해석 가능성 향상과 성능 손실 없이 시각적 프로토타입을 MIL에 통합하기 위해.
• 약한 지도 학습에서 모델 정확도와 해석 가능성 간 격차를 해소하기 위해.

제안 방법

• ProtoMIL은 백에 포함된 인스턴스의 핵심 부분을 나타내는 시각적 프로토타입을 학습하는 프로토타입 기반 어텐션 메커니즘을 사용한다.
• 예측 및 설명을 위해 입력 인스턴스를 학습된 프로토타입과 비교하는 사례 기반 추론 접근법을 사용한다.
• 대비 학습 목표를 통해 분류 정확도와 프로토타입 정렬을 동시에 최적화한다.
• 학습 중에 프로토타입을 업데이트하여 데이터의 분류에 유의미한 의미를 가진 부분을 대표하도록 한다.
• 어텐션 가중치는 인스턴스와 프로토타입 간의 유사도 기반으로 계산되며, 이는 인스턴스 수준의 해석 가능성을 가능하게 한다.
• 백 수준 레이블만을 사용하여 약한 지도 학습을 통해 엔드 투 엔드로 모델을 훈련한다.

실험 결과

연구 질문

• RQ1 프로토타입 기반 추론을 통해 MIL 모델이 높은 정확도와 세밀한 해석 가능성을 동시에 달성할 수 있는가?
• RQ2 시각적 프로토타입은 예측을 개별 인스턴스 수준에서 어떻게 설명할 수 있는가?
• RQ3 프로토타입을 통합할 경우 약한 지도 학습에서 일반화 능력과 강건성에 어떤 정도 향상이 이루어지는가?
• RQ4 사례 기반 추론 메커니즘은 기존의 표준 어텐션과 비교하여 어떻게 다를까?

주요 결과

• ProtoMIL은 다섯 개인 인식된 MIL 기준 데이터셋에서 최고 성능을 기록한다.
• 학습된 프로토타입과 가장 유사한 인스턴스의 특정 부분을 강조함으로써 세밀한 해석 가능성을 제공한다.
• 기존의 기준 MIL 방법에 비해 프로토타입 통합으로 인해 모델 정확도와 설명 품질이 모두 향상된다.
• 표준 어텐션 메커니즘에 비해 ProtoMIL이 생성하는 설명은 더 의미가 명확하고 국소화되어 있다.