[논문 리뷰] Efficient Lung Cancer Image Classification and Segmentation Algorithm Based on Improved Swin Transformer

Ruina Sun, Yuexin Pang|arXiv (Cornell University)|2022. 07. 04.

Radiomics and Machine Learning in Medical Imaging인용 수 5

한 줄 요약

이 논문은 효율적인 폐암 영상 분류 및 분할을 위한 향상된 스위니 트랜스포머 아키텍처를 제안하며, 자기주의 메커니즘과 계층적 특징 학습을 활용하여 정확도와 계산 효율성을 향상시킨다. 사전 훈련을 통해 최대 82.3%의 분류 정확도와 95% 이상의 분할 정확도를 달성하여 실제 진료 환경에서 뛰어난 성능을 보인다.

ABSTRACT

With the development of computer technology, various models have emerged in artificial intelligence. The transformer model has been applied to the field of computer vision (CV) after its success in natural language processing (NLP). Radiologists continue to face multiple challenges in today's rapidly evolving medical field, such as increased workload and increased diagnostic demands. Although there are some conventional methods for lung cancer detection before, their accuracy still needs to be improved, especially in realistic diagnostic scenarios. This paper creatively proposes a segmentation method based on efficient transformer and applies it to medical image analysis. The algorithm completes the task of lung cancer classification and segmentation by analyzing lung cancer data, and aims to provide efficient technical support for medical staff. In addition, we evaluated and compared the results in various aspects. For the classification mission, the max accuracy of Swin-T by regular training and Swin-B in two resolutions by pre-training can be up to 82.3%. For the segmentation mission, we use pre-training to help the model improve the accuracy of our experiments. The accuracy of the three models reaches over 95%. The experiments demonstrate that the algorithm can be well applied to lung cancer classification and segmentation missions.

연구 동기 및 목표

• 영상의학자들이 겪는 증가하는 진료 부담을 해결하기 위해 자동화되고 정확한 폐암 검출 시스템을 개발하는 것.
• 기존 방법을 초월하여 폐암 영상에서의 분류 및 분할 정확도를 향상시키는 것.
• 스위니 트랜스포머 아키텍처의 개선을 통해 모델의 효율성과 성능을 향상시키는 것.
• 다양한 평가 지표를 통한 복잡한 다중 지표 평가를 포함한 실제 의료 영상 데이터에서의 방법 검증

제안 방법

• 장거리 상관관계를 유지하면서도 계산 효율성을 확보하기 위해 이동 윈도우 자기주의를 적용한 향상된 스위니 트랜스포머 아키텍처를 설계하였다.
• 폐 CT 영상에서 다중 척도 표현을 캡처하기 위해 계층적 특징 추출 기법을 적용하였다.
• 대규모 의료 영상 데이터셋에서의 사전 훈련을 통해 모델의 일반화 능력과 성능을 향상시켰다.
• 교차 엔트로피 손실과 딱스 손실을 사용하여 분류 및 인스턴스 분할 작업을 종합적으로 최적화하였다.
• 과적합을 줄이고 강건성을 향상시키기 위해 데이터 증강 및 정규화 기법을 적용하였다.
• 통합된 추론을 통해 임상 의사결정 지원을 가능하게 하는 분류 및 분할의 통합 프레임워크를 지원한다.

실험 결과

연구 질문

• RQ1 향상된 스위니 트랜스포머 아키텍처는 기존 표준 모델 대비 폐암 분류 정확도를 더 높일 수 있는가?
• RQ2 사전 훈련은 폐 CT 영상에서 트랜스포머 기반 모델의 분할 성능에 어떤 영향을 미치는가?
• RQ3 제안된 방법은 높은 진단 정확도를 유지하면서도 계산 비용을 얼마나 줄일 수 있는가?
• RQ4 모델은 다양한 실제 폐암 영상 데이터셋에 대해 잘 일반화되는가?

주요 결과

• 제안된 방법은 정규 훈련 시 스위니-T를, 사전 훈련 시 두 가지 해상도에서 스위니-B를 사용하여 최대 82.3%의 분류 정확도를 달성하였다.
• 폐암 분할 작업에서는 스위니-T, 스위니-S, 스위니-B의 세 모델 모두 사전 훈련을 거친 경우 95% 이상의 정확도를 기록하였다.
• 사전 훈련은 분할 성능을 크게 향상시켜 의료 영상에서 흔한 소규모 데이터 환경에서의 가치를 입증하였다.
• 다양한 해상도와 데이터 분포에서 모델의 강건성과 일반화 능력이 뛰어나다는 것이 확인되었다.