[论文解读] On Deep Neural Networks for Detecting Heart Disease

Nathalie-Sofia Tomov, Stanimire Tomov|arXiv (Cornell University)|Jan 1, 2018

Artificial Intelligence in Healthcare参考文献 8被引用 20

一句话总结

本文提出 HEARO-5，一种专为利用常规临床数据检测心脏病而优化的新型五层深度神经网络（DNN）架构。通过应用超参数调优、L2 正则化以及对缺失数据和异常值的稳健处理，HEARO-5 在克利夫兰心脏病数据集上实现了 99% 的准确率和 0.98 的 Matthews 相关系数（MCC），显著优于现有方法。

ABSTRACT

Heart disease is the leading cause of death, and experts estimate that approximately half of all heart attacks and strokes occur in people who have not been flagged as "at risk." Thus, there is an urgent need to improve the accuracy of heart disease diagnosis. To this end, we investigate the potential of using data analysis, and in particular the design and use of deep neural networks (DNNs) for detecting heart disease based on routine clinical data. Our main contribution is the design, evaluation, and optimization of DNN architectures of increasing depth for heart disease diagnosis. This work led to the discovery of a novel five layer DNN architecture - named Heart Evaluation for Algorithmic Risk-reduction and Optimization Five (HEARO-5) -- that yields best prediction accuracy. HEARO-5's design employs regularization optimization and automatically deals with missing data and/or data outliers. To evaluate and tune the architectures we use k-way cross-validation as well as Matthews correlation coefficient (MCC) to measure the quality of our classifications. The study is performed on the publicly available Cleveland dataset of medical information, and we are making our developments open source, to further facilitate openness and research on the use of DNNs in medicine. The HEARO-5 architecture, yielding 99% accuracy and 0.98 MCC, significantly outperforms currently published research in the area.

研究动机与目标

• 提高心脏病诊断的准确性，特别是针对无症状或误诊患者。
• 解决 AHA 指南等线性风险模型的局限性，这些模型过于简化了风险因素之间的复杂非线性相互作用。
• 设计并优化能够学习临床数据中复杂非线性关系的深度神经网络架构，以提升诊断预测性能。
• 开发一个稳健的开源 DNN 框架（HEARO），能有效处理缺失数据和异常值，增强泛化能力和临床适用性。

提出的方法

• 本研究采用灵活的全连接 DNN 框架，深度可变（2 至 10 层），并通过穷举式超参数搜索进行优化。
• 该架构使用 L2 正则化，超参数 α ∈ {0, 0.7, 1}，以减少过拟合并提高泛化能力。
• 在层大小（1–13 个神经元）、学习率（λ ∈ {0.001, 0.01, 0.1}）、L2 正则化强度（α）、批量大小（nb）和训练轮数（6000）上定义了全面的搜索空间。
• 模型通过 k 折交叉验证进行训练和验证，并使用 Matthews 相关系数（MCC）进行评估，以实现性能的平衡评估。
• 该框架使用 Python 实现，结合 NumPy 进行线性代数运算，可轻松移植至优化的 BLAS/GEMM 后端。
• 最终的 HEARO-5 架构基于经验优化选定，其配置 [5, 9, 7, 5, 3, 1, 1, 1, 1, 1, 2, 0.01, 0.7, 200, 6000] 产生了最优结果。

实验结果

研究问题

• RQ1 深度神经网络能否在使用常规临床数据的情况下，显著提升心脏病诊断的准确性，超越传统线性风险模型？
• RQ2 在小规模、噪声较多的医疗数据集中，正则化如何影响泛化能力和测试数据上的性能？
• RQ3 在克利夫兰数据集上，心脏病检测的最优 DNN 架构深度和宽度分别是多少？
• RQ4 超参数调优以及对缺失数据/异常值的稳健处理能否带来诊断预测的最先进性能？
• RQ5 所提出的 HEARO-5 模型是否在不同数据划分上具有良好的泛化能力，经由交叉验证和 MCC 得到验证？

主要发现

• HEARO-5 实现了 99% 的测试准确率和 0.98 的 Matthews 相关系数（MCC），表明分类结果高度平衡且准确。
• 该模型显著优于先前发表的方法，包括准确率为 76% 的神经网络和准确率为 95.4% 的随机森林。
• 使用 α = 0.7 的正则化将过拟合程度降低，使测试准确率从无正则化时的 93% 提升至 99%，表明泛化能力得到改善。
• 无正则化的模型在训练集上达到 99% 的准确率，但测试集上仅为 93%，表明其对噪声和异常值存在过拟合。
• K 折交叉验证证实，HEARO-5 的性能稳定且一致，交叉验证准确率与测试准确率非常接近。
• HEARO-5 架构通过正则化有效处理了缺失数据和异常值，在无需数据插补的情况下维持了高性能。