[논문 리뷰] Searching Collaborative Agents for Multi-plane Localization in 3D Ultrasound

Yuhao Huang, Xin Yang외 11명|arXiv (Cornell University)|2020. 07. 30.

Face recognition and analysis참고 문헌 26인용 수 4

한 줄 요약

이 논문은 3D 초음파에서 다중 표준 평면(중앙 sagittal, 횡단, coronal)을 동시에 국소화하기 위한 다중 에이전트 강화학습(MARL) 프레임워크를 제안한다. 한 번의 검색을 통한 신경망 아키텍처 검색(NAS)과 RNN 기반 협업 전략을 활용하여, Gradient-based Differentiable Architecture Search(GDAS)를 통해 개별 에이전트 네트워크를 최적화하고 평면 간 공간적 관계를 모델링한다. 이로 인해 관절 평면 국소화에 대해 최신 기술 수준의 정확도 5.93°/0.89 mm를 달성하면서 모델 크기와 계산 비용을 감소시켰다.

ABSTRACT

3D ultrasound (US) is widely used due to its rich diagnostic information, portability and low cost. Automated standard plane (SP) localization in US volume not only improves efficiency and reduces user-dependence, but also boosts 3D US interpretation. In this study, we propose a novel Multi-Agent Reinforcement Learning (MARL) framework to localize multiple uterine SPs in 3D US simultaneously. Our contribution is two-fold. First, we equip the MARL with a one-shot neural architecture search (NAS) module to obtain the optimal agent for each plane. Specifically, Gradient-based search using Differentiable Architecture Sampler (GDAS) is employed to accelerate and stabilize the training process. Second, we propose a novel collaborative strategy to strengthen agents' communication. Our strategy uses recurrent neural network (RNN) to learn the spatial relationship among SPs effectively. Extensively validated on a large dataset, our approach achieves the accuracy of 7.05 degree/2.21mm, 8.62 degree/2.36mm and 5.93 degree/0.89mm for the mid-sagittal, transverse and coronal plane localization, respectively. The proposed MARL framework can significantly increase the plane localization accuracy and reduce the computational cost and model size.

연구 동기 및 목표

• 3D 초음파 영상에서 다중 표준 평면을 자동으로 동시에 국소화하는 과제를 해결하기 위해.
• 단일 에이전트 RL의 한계를 극복하기 위해 평면 간 공간적 관계를 모델링할 수 있도록 에이전트 간 상호작용을 가능하게 하기 위해.
• 각 평면 전용 에이전트에 대해 자동화된 신경망 아키텍처 검색(NAS)을 통해 모델 복잡성과 계산 비용을 감소시키기 위해.
• 특히 자궁 영상에서 흔히 발생하는 노이즈와 다양한 해부학적 환경에서도 강건성을 향상시키기 위해.
• 다중 평면 국소화에 적용 가능한 일반화 능력을 갖춘 프레임워크를 개발하기 위해.

제안 방법

• 중간 sagittal, 횡단, 그리고 관절 평면을 각각 국소화하는 데 전용된 세 개의 독립된 에이전트를 담당하는 다중 에이전트 강화학습(MARL) 프레임워크를 설계하였다.
• 각 평면 전용 에이전트의 최적 신경망 아키텍처를 자동으로 탐색하기 위해 한 번의 검색을 통한 기울기 기반 미분 가능 아키텍처 검색(GDAS)을 사용하여 성능 향상과 모델 크기 감소를 달성하였다.
• 세 평면 간 공간적 관계를 모델링하기 위해 RNN 기반 협업 전략을 도입하여 에이전트 간 정보 교환을 가능하게 하여 공동 국소화 정확도를 향상시켰다.
• 에이전트의 훈련 안정성과 수렴성을 향상시키기 위해 랜드마크 기반 정렬 모듈을 제공하여 온전한 시작 상태를 확보하였다.
• 예측된 평면과 진짜 평면 간 기하학적 유사도(이면각 및 원점까지의 거리)와 콘텐츠 유사도(SSIM)를 기반으로 보상 함수를 정의하였다.
• 공식 3D 초음파 데이터셋(1,000개의 볼륨)을 사용하여 프레임워크를 훈련하였으며, 공간적 및 콘텐츠 기반 지표를 통해 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 다중 에이전트 강화학습 프레임워크는 3D 초음파에서 다중 표준 평면을 국소화하는 데 단일 에이전트 접근 방식을 능가할 수 있는가?
• RQ2 각 평면 전용 에이전트에 대해 미분 가능 아키텍처 검색(GDAS)을 통합하면 국소화 정확도 향상과 함께 모델 복잡성 감소에 기여하는가?
• RQ3 RNN 기반의 통신 메커니즘은 3D 초음파에서 해부학적으로 구별되는 세 평면 간 공간적 관계를 효과적으로 모델링할 수 있는가?
• RQ4 기존 최신 기술 수준의 방법들과 비교해 볼 때, 제안된 프레임워크는 정확도, 계산 비용, 모델 크기 측면에서 어떤가?
• RQ5 자궁 내 장치(IUD), 임신, 선천성 기형 등 해부학적 변형에 대해 제안된 방법이 강건한가?

주요 결과

• 제안된 G-MARL-R 방법은 관절 평면 국소화에서 평균 오차 5.93°/0.89 mm, 중간 sagittal 평면에서 7.05°/2.21 mm, 횡단 평면에서 8.62°/2.36 mm를 기록하여 최고의 종합 성능를 달성하였다.
• VGG 기반 MARL 베이스라인 대비 FLOPs는 63% 감소하고 파라미터 수는 70% 감소시켜 계산 비용을 크게 낮췄다.
• DARTS 대비 GDAS 기반 NAS 접근 방식은 훈련 시간과 메모리 사용량을 감소시켰으며, G-MARL-R는 0.04일/에포크, D-MARL-R는 0.12일/에포크를 기록하였다.
• RNN 기반 협업 전략을 통합함으로써 각도 및 거리의 합(SAD)이 감소하고 Q-값 곡선이 안정화되어 수렴성과 정확도 향상을 확인하였다.
• 제거 분석 결과, NAS와 RNN 협업 전략이 성능 향상에 독립적이고 상호 보완적으로 기여하며, G-MARL-R가 모든 베이스라인을 능가함을 확인하였다.
• 대규모 내부 데이터셋에서 높은 SSIM(0.80)과 평균 이동 거리 1.82 mm를 기록하여 강력한 일반화 능력을 입증하였다.