[논문 리뷰] Unsupervised domain adaptation in brain lesion segmentation with adversarial networks

Konstantinos Kamnitsas, Christian F. Baumgartner외 9명|arXiv (Cornell University)|2016. 12. 28.

Domain Adaptation and Few-Shot Learning참고 문헌 18인용 수 7

한 줄 요약

이 논문은 뇌 병변 분할을 위한 비지도 도메인 적응 방법을 제안하며, 타겟 도메인의 애너테이션 없이 도메인 불변 특징을 학습하기 위해 적대적 신경망을 사용한다. 데이터 소스(원천 또는 타겟 도메인)를 분류하는 도메인 구분자에 대해 분할 네트워크를 적대적으로 훈련시키고, 다중 연결 적대적 훈련을 도입함으로써, 다중 스캐너 MRI 데이터셋에서 지도 학습 기반의 도메인 적응 베이스라인에 근접한 분할 정확도를 달성한다.

ABSTRACT

Significant advances have been made towards building accurate automatic segmentation systems for a variety of biomedical applications using machine learning. However, the performance of these systems often degrades when they are applied on new data that differ from the training data, for example, due to variations in imaging protocols. Manually annotating new data for each test domain is not a feasible solution. In this work we investigate unsupervised domain adaptation using adversarial neural networks to train a segmentation method which is more invariant to differences in the input data, and which does not require any annotations on the test domain. Specifically, we learn domain-invariant features by learning to counter an adversarial network, which attempts to classify the domain of the input data by observing the activations of the segmentation network. Furthermore, we propose a multi-connected domain discriminator for improved adversarial training. Our system is evaluated using two MR databases of subjects with traumatic brain injuries, acquired using different scanners and imaging protocols. Using our unsupervised approach, we obtain segmentation accuracies which are close to the upper bound of supervised domain adaptation.

연구 동기 및 목표

• 다른 영상 촬영 프로토콜이나 스캐너에서 데이터를 배포할 때 생기는 생물의학 영상 분할 성능 저하 문제를 해결하기 위해.
• 타겟 도메인에서 수동 애너테이션을 필요로 하지 않고도 도메인 간 일반화가 가능한 방법을 개발하기 위해.
• 3D 의료 영상 분할에서 도메인 불변 표현 학습을 위한 적대적 훈련을 조사하기 위해.
• 적응 깊이와 적응 강도가 분할 성능에 미치는 영향을 평가하기 위해.

제안 방법

• 원천 또는 타겟 도메인에서 유래한 입력 특징을 구분하는 도메인 구분자에 대해 3D U-Net 기반 분할 네트워크를 적대적으로 훈련시킨다.
• 도메인 구분자는 분할 네트워크의 여러 층에 연결되어 있어(다중 연결 적대적 훈련), 계층적 특징 표현 전반에 걸쳐 도메인 불변성을 강제한다.
• 도메인 구분자의 반대 방향으로 기울기를 역전파하여 적대적 훈련을 수행하며, 점차 증가하는 가중치 요소 α를 사용한 도메인 적대적 손실을 적용한다.
• 기울기 반전 레이어를 사용하여 분할 네트워크가 도메인 분류 정확도를 최소화하면서도 분할 성능를 최대화하는 특징을 학습할 수 있도록 한다.
• 다른 스캐너와 프로토콜을 가진 두 개의 다중 센터 MRI 데이터셋에서 시스템을 평가하며, Dice 점수 및 기타 분할 메트릭을 사용한다.
• 실제 다중 센터 연구 환경을 시뮬레이션하기 위해 원천 레이블 데이터와 타겟 비라벨 데이터만을 사용해 종합적으로 훈련한다.

실험 결과

연구 질문

• RQ1 타겟 도메인 애너테이션이 없이도 적대적 훈련이 뇌 병변 분할에서 도메인 이동을 효과적으로 줄일 수 있는가?
• RQ2 특징 적응 깊이(즉, 도메인 구분자에 연결되는 네트워크 레이어)가 분할 성능에 어떤 영향을 미치는가?
• RQ3 적응 강도의 최적 수준(α_max로 제어됨)은 도메인 불변성과 정보 유지 간의 균형을 위해 무엇인가?
• RQ4 단일 레이어 적응 대비 다중 연결 적대적 훈련은 분할 정확도와 강건성 측면에서 어떻게 비교되는가?
• RQ5 비지도 도메인 적응이 다중 스캐너 신경영상 환경에서 지도 학습 기반의 도메인 적응 성능에 얼마나 근접할 수 있는가?

주요 결과

• 제안된 비지도 도메인 적응 방법은 타겟 도메인에서 Dice 점수 62.7%를 달성하였으며, 이는 이 연구에서의 지도 학습 기반 도메인 적응의 상한선(63.2%)과 매우 유사하다.
• 특히 더 깊은 레이어(예: L(2,4,6,8,10))에 연결된 다중 연결 적대적 훈련은 조기 레이어 적응 대비 과다 분할을 크게 줄이고 정밀도와 Dice 점수를 향상시킨다.
• 적응 강도 범위(α_max ∈ [0.05, 1.0])가 넓은 범위에서 성능이 안정적이므로, 중간에서 강한 적응이 성능 저하를 유발하지 않음을 시사한다.
• 조기 레이어 적응은 과다 분할을 유발하며(재현율은 증가하지만 정밀도는 감소함) 조기 특징이 원천에 더 특화되어 있어 도메인 불변 학습에 적합하지 않다는 것을 시사한다.
• 비적응 모델과 단일 레이어 적대적 기반 모델보다 성능이 뛰어나며, 계층적이고 다중 연결된 도메인 적응의 이점이 입증된다.
• 결과적으로 타겟 도메인에서 레이블이 없더라도 도메인 불변성이 효과적으로 학습될 수 있음을 시사하며, 이는 다중 센터 신경영상 연구에 매우 적합한 방법임을 나타낸다.