[논문 리뷰] On Deep Neural Networks for Detecting Heart Disease

Nathalie-Sofia Tomov, Stanimire Tomov|arXiv (Cornell University)|2018. 01. 01.

Artificial Intelligence in Healthcare참고 문헌 8인용 수 20

한 줄 요약

이 논문은 일반 임상 데이터를 사용하여 심장병을 탐지하기 위해 최적화된 새로운 다섯 층의 딥 네ural 네트워크(DNN) 아키텍처인 HEARO-5를 제안한다. 초모수 튜닝, L2 정규화, 그리고 결측치와 이방값에 대한 견고한 처리를 통해 HEARO-5는 클리블랜드 심장병 데이터셋에서 99%의 정확도와 0.98의 매튜스 상관계수(MCC)를 달성하였으며, 기존 방법들보다 뚜렷이 뛰어나다.

ABSTRACT

Heart disease is the leading cause of death, and experts estimate that approximately half of all heart attacks and strokes occur in people who have not been flagged as "at risk." Thus, there is an urgent need to improve the accuracy of heart disease diagnosis. To this end, we investigate the potential of using data analysis, and in particular the design and use of deep neural networks (DNNs) for detecting heart disease based on routine clinical data. Our main contribution is the design, evaluation, and optimization of DNN architectures of increasing depth for heart disease diagnosis. This work led to the discovery of a novel five layer DNN architecture - named Heart Evaluation for Algorithmic Risk-reduction and Optimization Five (HEARO-5) -- that yields best prediction accuracy. HEARO-5's design employs regularization optimization and automatically deals with missing data and/or data outliers. To evaluate and tune the architectures we use k-way cross-validation as well as Matthews correlation coefficient (MCC) to measure the quality of our classifications. The study is performed on the publicly available Cleveland dataset of medical information, and we are making our developments open source, to further facilitate openness and research on the use of DNNs in medicine. The HEARO-5 architecture, yielding 99% accuracy and 0.98 MCC, significantly outperforms currently published research in the area.

연구 동기 및 목표

• 증상이 없는 또는 잘못 진단된 환자에게도 정확도를 향상시키기 위해 심장병 진단 정확도를 향상시키는 것.
• AHA 지침과 같은 선형 위험 모델의 한계를 해결하기 위해, 위험 요소 간의 복잡한 비선형 상호작용을 과소평가하는 것.
• 임상 데이터의 복잡한 비선형 관계를 학습할 수 있도록 최적화된 딥 네ural 네트워크 아키텍처를 설계하고 최적화하는 것.
• 결측치와 이방값을 효과적으로 처리할 수 있는 견고한 오픈소스 DNN 프레임워크(HEARO)를 개발하여 일반화 능력과 임상 적용 가능성을 향상시키는 것.

제안 방법

• 연구는 깊이를 다양하게 설정할 수 있는 유연한 완전 연결 DNN 프레임워크를 사용하며, 초모수를 철저히 최적화한다.
• 과적합을 줄이고 일반화 능력을 향상시키기 위해 L2 정규화를 사용하며, 초모수 α ∈ {0, 0.7, 1}을 적용한다.
• 층 크기(1–13개 뉴런), 학습률(λ ∈ {0.001, 0.01, 0.1}), L2 정규화 강도(α), 배치 크기(nb), 학습 에포크 수(6000)를 포함한 포괄적인 초모수 검색 공간을 정의한다.
• 모델은 k-웨이 교차검증을 사용하여 훈련 및 검증하고, 균형 잡힌 성능 평가를 위해 매튜스 상관계수(MCC)를 사용하여 평가한다.
• 프레임워크는 파이썬으로 구현되었으며, 선형 대수 연산을 위해 NumPy를 사용하여 최적화된 BLAS/GEMM 백엔드로의 이식성을 확보한다.
• 최종 HEARO-5 아키텍처는 경험적 최적화를 통해 선택되었으며, 구성 [5, 9, 7, 5, 3, 1, 1, 1, 1, 1, 2, 0.01, 0.7, 200, 6000] 가 최적의 성능을 내는 것으로 확인되었다.

실험 결과

연구 질문

• RQ1 딥 네럴 네트워크는 기존 선형 위험 모델을 뛰어넘어 일반 임상 데이터를 사용하여 심장병 진단 정확도를 크게 향상시킬 수 있는가?
• RQ2 작고 노이즈가 많은 의료 데이터셋에서 정규화는 일반화 능력과 테스트 데이터 성능에 어떤 영향을 미치는가?
• RQ3 클리블랜드 데이터셋에서 심장병 탐지에 최적의 DNN 아키텍처 깊이와 너비는 무엇인가?
• RQ4 초모수 튜닝과 결측치/이방값에 대한 견고한 처리가 진단 예측에서 최첨단 성능을 이끌 수 있는가?
• RQ5 제안된 HEARO-5 모델은 교차검증과 MCC를 통해 확인된 바와 같이 다양한 데이터 분할에 대해 잘 일반화되는가?

주요 결과

• HEARO-5는 테스트 정확도 99%와 매튜스 상관계수(MCC) 0.98를 달성하여 균형 잡히고 정확한 분류를 나타낸다.
• 이전에 발표된 방법들, 즉 76% 정확도의 신경망과 95.4% 정확도의 랜덤 포레스트를 크게 앞서는 성능을 보였다.
• α = 0.7로 정규화를 적용함으로써 과적합이 감소하여, 정규화되지 않은 경우의 93%에서 향상된 99%의 테스트 정확도를 달성하였으며, 일반화 능력 향상이 확인되었다.
• 정규화되지 않은 모델는 훈련 정확도가 99%였지만 테스트 정확도는 93%에 머물러, 노이즈와 이방값에 과적합된 것으로 나타났다.
• K-폴드 교차검증을 통해 HEARO-5의 성능이 안정적이고 일관되며, 교차검증 정확도가 테스트 정확도와 매우 유사하게 유지됨을 확인하였다.
• HEARO-5 아키텍처는 정규화를 통해 결측치와 이방값을 효과적으로 처리하여, 데이터 보간 없이도 높은 성능을 유지하였다.