[논문 리뷰] Incremental Learning for Multi-organ Segmentation with Partially Labeled Datasets

Pengbo Liu, Li Xiao외 1명|arXiv (Cornell University)|2021. 03. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 27인용 수 5

한 줄 요약

이 논문은 순차적으로 구성된 부분적으로 레이블이 붙은 의료 데이터셋을 사용하여 다기관 분할을 위한 새로운 인크리멘탈 러닝(IL) 프레임워크를 제안한다. 분포 이탈을 치명적 망각의 근본 원인으로 간주하고, 신뢰도 기반 보정 손실(CORR)을 도입함으로써 최소한의 망각으로 최신 기술 성능을 달성하며, 해부학적 구조의 일관성 덕분에 의료 영상 분할에 있어 IL의 강력한 적합성을 입증한다.

ABSTRACT

There exists a large number of datasets for organ segmentation, which are partially annotated, and sequentially constructed. A typical dataset is constructed at a certain time by curating medical images and annotating the organs of interest. In other words, new datasets with annotations of new organ categories are built over time. To unleash the potential behind these partially labeled, sequentially-constructed datasets, we propose to learn a multi-organ segmentation model through incremental learning (IL). In each IL stage, we lose access to the previous annotations, whose knowledge is assumingly captured by the current model, and gain the access to a new dataset with annotations of new organ categories, from which we learn to update the organ segmentation model to include the new organs. We give the first attempt to conjecture that the different distribution is the key reason for 'catastrophic forgetting' that commonly exists in IL methods, and verify that IL has the natural adaptability to medical image scenarios. Extensive experiments on five open-sourced datasets are conducted to prove the effectiveness of our method and the conjecture mentioned above.

연구 동기 및 목표

• 기존 데이터를 다시 학습하지 않고 순차적으로 구성된 부분적으로 레이블이 붙은 의료 영상 데이터셋을 효율적으로 활용하는 데 도전한다.
• 인간 장기의 본질적인 해부학적 일관성으로 인해 다기관 분할에 대해 인크리멘탈 러닝(IL)이 실현 가능한지 조사한다.
• 의료 영상 분할에서 치명적 망각의 주요 원인으로서 인크리멘탈 러닝 단계 간의 분포 이탈을 규명하고 검증한다.
• 불일치하는 레이블(예: 간을 전경으로 표시한 데이터셋 vs. 배경으로 표시한 데이터셋)을 가진 데이터셋 간의 '지식 갈등'을 해결함으로써 IL 성능을 향상시킨다.
• 모든 단계에서 모델 파라미터만 공유함으로써 전체 재학습에 비해 확장 가능하고 효율적이며 윤리적인 대안을 개발한다.

제안 방법

• 모든 새로운 데이터셋이 순차적으로 처리되며, 이전 데이터에 접근할 수 없는 단계적 인크리멘탈 러닝 프레임워크를 사용한다.
• 기존에 학습된 장기의 성능 유지를 위해 지식 정착 손실을 적용하지만, 이는 단계 간 데이터 분포가 일관되다는 가정 하에만 유효하다.
• 제안된 CORR 손실은 학습 중 저신뢰도 예측을 제거함으로써 가짜 양성 결과를 감소시키고 하우스도르프 거리 지표를 향상시킨다.
• 불일치하는 레이블을 가진 데이터셋 간의 '지식 갈등'을 해결하기 위해 손실 함수에서 배경을 재정의함으로써 이전 및 새로운 카테고리를 명시적으로 모델링한다.
• 교차 엔트로피 손실, 지식 정착, 그리고 CORR 손실의 조합을 통해 종단 간 엔드포인트 학습을 수행함으로써 새로운 장기 학습과 이전 지식 유지 간 균형을 이룬다.
• 실제 데이터 누적 과정을 시뮬레이션하기 위해 다섯 개의 오픈소스 부분적으로 레이블이 붙은 데이터셋에서 프레임워크를 검증한다.

실험 결과

연구 질문

• RQ1 부분적으로 레이블이 붙은 순차적 데이터셋을 사용할 때, 인크리멘탈 러닝이 다기관 분할에서 치명적 망각을 효과적으로 완화하는가?
• RQ2 인크리멘탈 러닝 단계 간의 분포 이탈이 의료 영상 분할에서 성능 저하의 주요 원인인가?
• RQ3 불일치하는 레이블(예: 한 데이터셋에서는 간을 전경으로, 다른 데이터셋에서는 배경으로 표시)을 가진 데이터셋 간의 '지식 갈등'을 해결하면 IL 성능이 향상되는가?
• RQ4 저신뢰도 예측을 필터링하는 CORR 손실은 분할 정확도와 내구성에 어떤 영향을 미치는가?
• RQ5 모든 데이터를 동시에 접근하지 않아도, 인크리멘탈 러닝이 모든 데이터를 동시에 학습한 경우의 완전 지도 학습 성능과 유사한 성능을 달성할 수 있는가?

주요 결과

• 지식 정착과 배경 인식 손실 재가중을 조합한 MiBOrgan 방법은 LwF 및 ILT 대비 HD95 지표에서 9% 향상되어 가짜 양성 결과 감소를 입증한다.
• CORR 손실을 추가하면 DICE 계수는 0.1% 감소하지만, HD95 지표는 9% 향상되어 고거리 오류 감소 효과를 입증한다.
• 이전에 학습된 장기에서 유의미한 망각이 관찰되지 않아, 의료 영상의 해부학적 일관성이 IL 단계 간 분포 안정성을 유지함을 지지한다.
• 기존 및 신규 카테고리 모두를 고려할 때, 표준 미세조정(FT)보다 성능이 뛰어나 효과적인 지식 유지가 이루어짐을 시사한다.
• 모든 데이터를 동시에 접근하지 않음에도 불구하고, 전체 데이터를 한 번에 학습한 경우의 상한선 성능(예: MargExc MIA)에 근접한 성능을 달성한다.
• 결과는 분포 이탈이 IL에서 치명적 망각의 핵심 원인임을 확인하며, 의료 영상의 해부학적 일관성이 IL이 이 분야에 자연스럽게 적합함을 입증한다.