[论文解读] Prediction of the facial growth direction with Machine Learning methods

Stanisław Kaźmierczak, Zofia Juszka+2 more|arXiv (Cornell University)|Jun 19, 2021

Orthodontics and Dentofacial Orthopedics参考文献 15被引用 5

一句话总结

本研究首次提出一种基于机器学习的方法，利用9岁和12岁患者头影测量X光片的2D影像预测面部生长方向。研究评估了多种算法——包括逻辑回归、随机森林和神经网络——分类准确率达到71–75%，其中最具信息量的特征是9至12岁之间的生长变化，凸显了不同发育阶段间相关性较低及数据局限性带来的挑战。

ABSTRACT

First attempts of prediction of the facial growth (FG) direction were made over half of a century ago. Despite numerous attempts and elapsed time, a satisfactory method has not been established yet and the problem still poses a challenge for medical experts. To our knowledge, this paper is the first Machine Learning approach to the prediction of FG direction. Conducted data analysis reveals the inherent complexity of the problem and explains the reasons of difficulty in FG direction prediction based on 2D X-ray images. To perform growth forecasting, we employ a wide range of algorithms, from logistic regression, through tree ensembles to neural networks and consider three, slightly different, problem formulations. The resulting classification accuracy varies between 71% and 75%.

研究动机与目标

• 为解决正畸学中长期存在的临床难题：利用机器学习预测面部生长方向。
• 探究机器学习是否能够克服传统2D头影测量分析的局限性，后者因可重复性差且缺乏标准化参考系统而受限。
• 评估多种机器学习模型在9岁和12岁患者纵向头影测量数据上的预测能力。
• 识别哪些特征（如标志性点坐标、Procrustes变换坐标或生长变化）最显著提升预测性能。
• 探索原始图像处理与表格特征工程在生长方向预测中的表现孰优。

提出的方法

• 本研究使用202名患者在9岁和12岁时采集的纵向2D头影测量X光片，通过三项形态学测量评估生长方向：SN-MP(18-9)、FA(18-9) 和 PN-AN(18-9)。
• 测试了五种不同的问题设定，输入特征包括：原始标志性点坐标（ceph）、Procrustes对齐坐标（proc）、变换后坐标（trans），以及9至12岁之间的差异（如SN-MP(18-9)）。
• 应用多种机器学习模型，包括逻辑回归、支持向量机（SVM）、随机森林（RF）、XGBoost 和多层感知机（MLP），并通过交叉验证进行超参数调优。
• 特征工程包括归一化、数据增强，以及比较不同坐标系以评估对尺度和方向变化的鲁棒性。
• 通过10折交叉验证评估模型性能，报告准确率、标准差及统计显著性（p值）；以多数类基准（MFC）作为性能参照。
• 为评估模型鲁棒性，通过将数据重标记为三个相等类别，构建平衡数据集，从而与33.3%的MFC基准进行比较。

实验结果

研究问题

• RQ1 在颅面生长固有的复杂性与变异性背景下，机器学习模型能否有效从2D头影测量X光片中预测面部生长方向？
• RQ2 哪些输入特征——单个标志性点位置、Procrustes对齐坐标，或9至12岁间的生长变化——能带来最高的预测准确率？
• RQ3 不同机器学习算法在此任务中的表现如何比较？哪些模型架构（如树集成、神经网络）最具前景？
• RQ4 类别不平衡在多大程度上影响模型性能？数据增强或特征选择能否提升预测稳定性？
• RQ5 2D头影测量是否存在根本性的信息限制，导致难以实现高精度预测，从而暗示需要3D成像或原始图像处理？

主要发现

• 表现最佳的模型在SN-MP(18-9)上达到74.80% ± 0.30%的分类准确率，在FA(18-9)上为74.82% ± 2.05%，在PN-AN(18-9)上为75.25% ± 1.14%，均显著高于多数类基准（MFC）。
• 最具预测力的特征集是9至12岁间测量值的差异（如SN-MP(18-9)），因为使用这些变化量的模型优于使用单一时点绝对值的模型。
• 所有在统计上显著优于MFC的模型均使用了头影测量或Procrustes对齐的特征；基于变换后坐标的模型表现更差，可能因图像缩放不一致所致。
• 逻辑回归、随机森林和XGBoost为表现最佳的模型，无深度神经网络超越它们，可能因训练数据有限。
• 该预测任务本质上具有挑战性：9–12、12–15和15–18岁区间的生长方向表现出极低的统计相关性，表明早期生长模式难以预测后期趋势。
• 在平衡数据设置下，模型准确率达到51–55%，显著高于33.3%的MFC基准，证实模型学习到了超越随机猜测的有意义模式。