[논문 리뷰] ACCL: Adversarial constrained-CNN loss for weakly supervised medical image segmentation

Pengyi Zhang, Yunxin Zhong외 1명|arXiv (Cornell University)|2020. 05. 01.

Adversarial Robustness in Machine Learning인용 수 11

한 줄 요약

이 논문은 참조 마스크를 활용한 적대적 학습을 통해 사전 지식을 고차원 분포 제약 조건으로 강제하는 새로운 약한 지도 학습 의료 영상 분할 방법인 ACCL을 제안한다. 분할 출력이 아닌 참조 마스크에 기반해 디스criminator를 훈련시킴으로써 ACCL은 최신 기술 수준의 성능을 달성하여 단지 0.65%의 표기 비율에서 평균 Dice 점수 75.4%를 기록했으며, 이는 이전 최신 기술 수준 대비 11.4% 높은 성능이다.

ABSTRACT

We propose adversarial constrained-CNN loss, a new paradigm of constrained-CNN loss methods, for weakly supervised medical image segmentation. In the new paradigm, prior knowledge is encoded and depicted by reference masks, and is further employed to impose constraints on segmentation outputs through adversarial learning with reference masks. Unlike pseudo label methods for weakly supervised segmentation, such reference masks are used to train a discriminator rather than a segmentation network, and thus are not required to be paired with specific images. Our new paradigm not only greatly facilitates imposing prior knowledge on network's outputs, but also provides stronger and higher-order constraints, i.e., distribution approximation, through adversarial learning. Extensive experiments involving different medical modalities, different anatomical structures, different topologies of the object of interest, different levels of prior knowledge and weakly supervised annotations with different annotation ratios is conducted to evaluate our ACCL method. Consistently superior segmentation results over the size constrained-CNN loss method have been achieved, some of which are close to the results of full supervision, thus fully verifying the effectiveness and generalization of our method. Specifically, we report an average Dice score of 75.4% with an average annotation ratio of 0.65%, surpassing the prior art, i.e., the size constrained-CNN loss method, by a large margin of 11.4%. Our codes are made publicly available at https://github.com/PengyiZhang/ACCL.

연구 동기 및 목표

• 최소한의 인간 표기로 약한 지도 학습 의료 영상 분할 문제를 해결하기 위해.
• 참조 마스크를 통한 사전 지식의 통합을 통해 분할 성능을 향상시키기 위해.
• 분할 출력에 대한 분포 수준의 제약 조건을 강제하기 위해 적대적 학습을 활용하는 새로운 패러다임을 개발하기 위해.
• 다양한 의료 영상 모odalities, 해부학적 구조, 표기 비율에 걸쳐 뛰어난 일반화 성능를 달성하기 위해.
• 특히 낮은 표기 비율 환경에서 기존의 제약-CNN 방법들을 능가하기 위해.

제안 방법

• ACCL은 사전 지식이 참조 마스크에 통합되어 디스criminator 네트워크를 훈련시키는 데 사용되는 새로운 손실 프레임워크를 도입한다.
• 디스criminator는 진짜 참조 마스크와 위조된 분할 출력을 구분함으로써 분포 수준의 일치를 강제한다.
• 가짜 레이블 방법과 달리, 참조 마스크는 특정 이미지와 쌍을 이루지 않으며, 분할 네트워크를 직접 훈련시키는 데도 사용되지 않는다.
• 분할 네트워크는 디스criminator를 속이도록 훈련되어, 참조 마스크의 통계적 분포와 일치하는 출력을 학습하게 된다.
• 이 방법은 적대적 학습과 제약-CNN 원칙을 결합하여 고차원의 분포 수준 제약 조건을 도입한다.
• 이 프레임워크는 다양한 네트워크 아키텍처와 호환되며, 쌍화된 이미지-마스크 표기 데이터를 필요로 하지 않는다.

실험 결과

연구 질문

• RQ1 참조 마스크를 활용한 적대적 학습이 가짜 레이블 방법을 초월해 약한 지도 학습 의료 영상 분할 성능을 향상시킬 수 있는가?
• RQ2 참조 마스크에 기반한 디스criminator가 기존의 크기 기반 제약 조건보다 더 강력하고 고차원의 제약 조건을 강제할 수 있는가?
• RQ3 ACCL은 다양한 의료 영상 모달리티와 해부학적 구조, 다양한 수준의 사전 지식에서 어떻게 성능을 발휘하는가?
• RQ4 ACCL은 얼마나 낮은 표기 비율에서도 거의 전지식 학습 기준 성능에 도달할 수 있는가?
• RQ5 기존의 제약-CNN 방법들과 비교해 ACCL은 다양한 구조와 표기 비율에서 얼마나 잘 일반화되는가?

주요 결과

• ACCL은 단지 0.65%의 표기 비율로도 평균 Dice 점수 75.4%를 기록하여 이전 최신 기술 수준의 방법을 크게 능가한다.
• 크기 제약-CNN 손실 방법 대비 평균 Dice 점수에서 11.4%포인트 향상되어 뚜렷한 성능 향상을 입증한다.
• 이 방법은 다양한 의료 영상 모달리티, 해부학적 구조, 객체 토폴로지에 걸쳐 일반화 성능가능성을 보였다.
• 모든 테스트된 표기 비율과 사전 지식 수준에서 일관된 열세를 보였다.
• 극히 적은 표기에도 불구하고 전지식 학습 기준 모델에 근접한 분할 성능를 달성하였다.
• 코드의 공개로 재현 가능성과 약한 지도 학습 의료 분할 분야의 향후 연구를 가능하게 하였다.