[논문 리뷰] Studying The Effect of MIL Pooling Filters on MIL Tasks

Mustafa Ümit Öner, Jared Marc Song Kye-Jet외 2명|arXiv (Cornell University)|2020. 06. 02.

Image Retrieval and Classification Techniques참고 문헌 45인용 수 6

한 줄 요약

이 논문은 림프절 전이 데이터셋을 사용하여 다섯 가지 실세계 MIL 작업에서 신경망 프레임워크 내에서 다섯 가지 MIL 풀링 필터—최대값, 평균, 어텐션, 분포, 분포와 어テン션을 함께 적용한 필터—를 평가한다. '분포' 및 '분포와 어텐션' 필터는 전체 분포 정보를 포착함으로써 다른 필터들을 뛰어넘는 일관된 성능을 보였으며, 제안된 Distribution-Net 모델은 고전적 MIL 데이터셋에서 최신 기술을 초월하는 성능을 달성하였다.

ABSTRACT

There are different multiple instance learning (MIL) pooling filters used in MIL models. In this paper, we study the effect of different MIL pooling filters on the performance of MIL models in real world MIL tasks. We designed a neural network based MIL framework with 5 different MIL pooling filters: `max', `mean', `attention', `distribution' and `distribution with attention'. We also formulated 5 different MIL tasks on a real world lymph node metastases dataset. We found that the performance of our framework in a task is different for different filters. We also observed that the performances of the five pooling filters are also different from task to task. Hence, the selection of a correct MIL pooling filter for each MIL task is crucial for better performance. Furthermore, we noticed that models with `distribution' and `distribution with attention' pooling filters consistently perform well in almost all of the tasks. We attribute this phenomena to the amount of information captured by `distribution' based pooling filters. While point estimate based pooling filters, like `max' and `mean', produce point estimates of distributions, `distribution' based pooling filters capture the full information in distributions. Lastly, we compared the performance of our neural network model with `distribution' pooling filter with the performance of the best MIL methods in the literature on classical MIL datasets and our model outperformed the others.

연구 동기 및 목표

• 다양한 실세계 MIL 작업에서 다양한 MIL 풀링 필터가 모델 성능에 미치는 영향을 조사하기 위해.
• 기존의 점추정 필터(예: 최대값, 평균)와 비교하여 분포 기반 풀링 필터의 효과성을 평가하기 위해.
• 분포 학습과 어텐션 메커니즘을 통합한 새로운 '분포와 어텐션' 풀링 메커니즘을 개발하고 테스트하기 위해.
• 고전적 데이터셋에서 제안된 프레임워크를 최신 기술 수준의 MIL 방법과 비교하여 일반화 능력과 성능을 검증하기 위해.
• 전체 분포 정보를 포착함으로써 다양한 MIL 작업에서 더 높은 견고성과 정확도를 달성할 수 있음을 입증하기 위해.

제안 방법

• 최대값, 평균, 어텐션, 분포, 분포와 어텐션을 포함한 다섯 가지 별도의 풀링 필터를 갖춘 신경망 기반 MIL 프레임워크를 설계하였다.
• 림프절 전이 데이터셋을 기반으로 다섯 가지 별도의 MIL 작업을 설정하였다: 양성 대 음성 분류, 고유 클래스 수 예측, 다중 클래스 분류, 다중 작업 분류, 회귀.
• 분포 풀링을 통해 인스턴스 점수를 박스와 표준편차를 사용하여 확률 분포로 모델링하여 전체 분포 표현을 가능하게 하였다.
• 분포 박스에 대한 어텐션 가중치를 학습시켜 분포 풀링을 개선함으로써 '분포와 어텐션' 필터를 구현하였다.
• 모델 성능 평가의 신뢰성을 확보하기 위해 각 작업당 5회 반복된 10겹 교차검증을 적용하였다.
• 고전적 MIL 데이터셋(MUSK1, MUSK2, FOX, TIGER, ELEPHANT)에서 '분포' 풀링 모델을 평가하고 최신 기술 수준의 방법들과 비교하였다.

실험 결과

연구 질문

• RQ1 다양한 실세계 MIL 작업에서 최대값, 평균, 어텐션, 분포, 분포와 어텐션을 포함한 다양한 MIL 풀링 필터의 성능은 어떻게 되는가?
• RQ2 분포 풀링을 통해 인스턴스 점수의 전체 분포를 포착하면, 최대값이나 평균과 같은 점추정 방식보다 성능이 향상되는가?
• RQ3 분포 풀링에 어텐션을 통합하면 다양한 MIL 작업에서 성능 향상이 더해지는가?
• RQ4 제안된 '분포와 어텐션' 풀링 필터는 고전적 벤치마크 데이터셋에서 기존 최신 기술 수준의 MIL 방법과 비교해 어떻게 되는가?
• RQ5 분포 기반 풀링의 우수성은 분류, 회귀, 수량 예측을 포함한 다양한 유형의 MIL 작업에서 일관되게 유지되는가?

주요 결과

• '분포' 및 '분포와 어텐션' 풀링 필터는 림프절 전이 데이터셋의 다섯 가지 모든 MIL 작업에서 가장 뛰어난 전체 성능를 기록하였다.
• '분포' 풀링을 사용한 모델는 금속 볼의 백에서의 분류 실험에서 '최대값' 및 '평균' 풀링을 사용한 모델보다 뛰어난 성능를 보였으며, 전체 분포 표현의 이점이 입증되었다.
• 제안된 Distribution-Net 모델은 '분포' 풀링을 사용하여 고전적 MIL 데이터셋에서 최신 기술 수준의 성능를 달성하였으며, MUSK1(92.3% ± 7.1%), MUSK2(93.2% ± 6.7%), ELEPHANT(90.0% ± 7.7%)에서 모든 전통적 및 신경망 기반 기준 모델을 압도하였다.
• 풀링 필터에 따라 작업 간 성능 격차가 뚜렷하게 나타나, 최적의 결과를 얻기 위해서는 작업에 맞는 필터 선택이 필수적임을 시사하였다.
• '분포와 어텐션' 필터는 다양한 작업에서 뛰어나고 일관된 성능를 보였으며, 일반적인 목적의 MIL 응용 분야에서 강력한 선택지로 제안된다.
• 연구 결과는 분포 기반 풀링이 점추정 방법보다 더 풍부한 정보를 포착할 수 있음을 확인하였으며, 이는 복잡하고 다양한 MIL 작업에서 뛰어난 성능를 달성하는 데 기여함을 뒷받침한다.