[논문 리뷰] Attention-based Deep Multiple Instance Learning

Maximilian Ilse, Jakub M. Tomczak외 1명|arXiv (Cornell University)|2018. 02. 13.

Image Retrieval and Classification Techniques참고 문헌 36인용 수 671

한 줄 요약

신경망 기반의 순열-불변 MIL 프레임워크와 학습 가능한 어텐션 풀링 연산자를 도입; 경쟁력 있는 결과를 달성하고 여러 데이터셋에서 해석 가능한 인스턴스 수준 중요도(ROI)를 제공합니다.

ABSTRACT

Multiple instance learning (MIL) is a variation of supervised learning where a single class label is assigned to a bag of instances. In this paper, we state the MIL problem as learning the Bernoulli distribution of the bag label where the bag label probability is fully parameterized by neural networks. Furthermore, we propose a neural network-based permutation-invariant aggregation operator that corresponds to the attention mechanism. Notably, an application of the proposed attention-based operator provides insight into the contribution of each instance to the bag label. We show empirically that our approach achieves comparable performance to the best MIL methods on benchmark MIL datasets and it outperforms other methods on a MNIST-based MIL dataset and two real-life histopathology datasets without sacrificing interpretability.

연구 동기 및 목표

• MIL을 신경망으로 매개변수화된 Bernoulli 가방 라벨 분포를 학습하는 문제로 재정식화한다.
• 훈련 가능하고 순열-불변인 집계 연산자(어텐션 기반)를 개발한다.
• 어텐션 가중치를 통해 가방 라벨에 대한 해석 가능한 인스턴스 기여를 제공한다.
• 인스턴스 변환, 풀링 및 가방 수준 예측을 신경망으로 엔드-투-엔드로 학습 가능하게 한다.

제안 방법

• bag 확률을 대칭 함수 S(X)=g( sum_x f(x) )로 모델링한다.
• 각 인스턴스를 신경망 f_ψ를 통해 저차원 임베딩 h_k로 변환한다.
• 학습 가능한 어텐션 기반 풀링 z = sum_k a_k h_k으로 임베딩을 집계하며, 여기서 a_k는 학습된 어텐션 가중치이다.
• 어텐션 가중치 (a_k)의 표현력을 향상시키기 위해 게이팅 메커니즘(tanh 및 sigmoid)을 사용한다.
• bag X가 주어졌을 때 Bernoulli 가방 라벨 Y의 로그 가능도를 최대화하여 엔드-투-엔드로 학습한다.
• 어텐션 가중치가 이미지의 핵심 인스턴스/ROI를 강조한다는 것을 보여 주어 해석 가능성을 입증한다.

실험 결과

연구 질문

• RQ1 신경 네트워크 어텐션 기반 MIL 풀링이 표준 MIL 벤치마크에서 가방 수준의 정확도에 경쟁력을 가질 수 있는가?
• RQ2 제안된 풀링이 의사 결정의 타당성을 위한 해석 가능한 인스턴스 수준 기여(주요 인스턴스/ROI)를 제공하는가?
• RQ3 임베딩 기반 MIL과 어텐션이 다양한 데이터셋에서 인스턴스 기반 MIL 풀링(평균/최대)과 어떻게 비교되는가?
• RQ4 픽셀/패치 주석이 약하거나 희박한 소규모 의료 영상 설정에서 이 접근법이 효과적인가?

주요 결과

• The attention-based deep MIL 접근법은 벤치마크 데이터셋에서 최상급 전통 MIL 방법들과 동등한 성능을 달성하고, MNIST 기반 MIL과 두 개의 조직병리 데이터셋에서는 다른 방법들보다 우수한 성능을 보인다.
• 어텐션 가중치는 핵심 인스턴스를 식별하게 해주어 의료 영상 작업에서 해석 가능한 ROI를 제공한다.
• 임베딩 기반 모델이 일반적으로 인스턴스 기반 모델보다 성능이 우수하며, 게이티드 어텐션은 적어도 일부 데이터셋에서 일반 어텐션보다 성능을 향상시킨다.
• MNIST-bags 실험에서 mean pooling은 max pooling보다 성능이 떨어진 반면, gated-attention 변형은 데이터셋 전반에 걸쳐 강건성을 보인다.