[论文解读] Acute Lymphoblastic Leukemia Detection Using Hypercomplex-Valued Convolutional Neural Networks

Guilherme Vieira, Marcos Eduardo Valle|arXiv (Cornell University)|May 26, 2022

Digital Imaging for Blood Diseases参考文献 34被引用 5

一句话总结

该论文提出了一种基于八种四维结合代数（包括四元数、共四元数、双复数和克利福德代数）的超复数卷积神经网络（HvCNNs），用于在血涂片图像中检测急性淋巴细胞白血病（ALL）。使用HSV编码图像，HvCNNs在仅36,000个参数的情况下实现了高达96.6%的平均准确率，显著优于实数模型，并接近当前最先进水平，同时模型架构小得多。

ABSTRACT

This paper features convolutional neural networks defined on hypercomplex algebras applied to classify lymphocytes in blood smear digital microscopic images. Such classification is helpful for the diagnosis of acute lymphoblast leukemia (ALL), a type of blood cancer. We perform the classification task using eight hypercomplex-valued convolutional neural networks (HvCNNs) along with real-valued convolutional networks. Our results show that HvCNNs perform better than the real-valued model, showcasing higher accuracy with a much smaller number of parameters. Moreover, we found that HvCNNs based on Clifford algebras processing HSV-encoded images attained the highest observed accuracies. Precisely, our HvCNN yielded an average accuracy rate of 96.6% using the ALL-IDB2 dataset with a 50% train-test split, a value extremely close to the state-of-the-art models but using a much simpler architecture with significantly fewer parameters.

研究动机与目标

• 研究超复数卷积神经网络（HvCNNs）在分类血涂片图像中淋巴母细胞以实现急性淋巴细胞白血病（ALL）诊断的有效性。
• 在医学图像分类背景下，比较八种四维结合超复数代数（如四元数、共四元数、双复数和克利福德代数）与实数模型的性能。
• 评估超复数网络是否能比实数模型更有效地利用HSV编码图像的结构一致性。
• 确定基于非四元数超复数代数（如双复数和共四元数）的HvCNN是否能在ALL检测中优于标准四元数网络。
• 证明HvCNN可在远少于深度实数模型（如ResNet18）的参数量下实现最先进水平的准确率。

提出的方法

• 本研究采用基于四维结合代数的八种超复数卷积神经网络（HvCNNs），其来源于Kantor和Solodovnikov框架，包括四元数、共四元数、双复数和Klein四元组代数。
• 每个HvCNN均基于实数卷积网络架构实现，通过参数共享和结构化权矩阵模拟超复数运算，从而实现高效训练与推理。
• 所有模型在ALL-IDB2数据集上进行训练与评估，使用RGB和HSV编码图像，采用50%的训练-测试划分以确保可复现性与公平性。
• 性能通过准确率、中位准确率及学生t检验的统计显著性进行评估，同时使用哈塞图（Hasse diagram）可视化各模型间的性能排名。
• 所选超复数代数具备数学特性，如结合律及与知名代数（如克利福德代数和Cayley-Dickson代数）的同构性，确保其理论与实际相关性。
• 实数基线模型在相同条件下训练，以确保公平比较，所有模型均在相同的图像预处理与增强流程下进行评估。

实验结果

研究问题

• RQ1 超复数卷积神经网络（HvCNNs）是否能在血涂片图像中分类淋巴母细胞以实现ALL检测方面优于实数CNN？
• RQ2 基于非四元数超复数代数（如双复数和共四元数）的HvCNN是否在性能上优于标准四元数网络？
• RQ3 使用HSV编码图像是否能提升HvCNN的性能，相较于RGB编码图像？如果是，原因是什么？
• RQ4 HvCNN在远少于深度实数模型（如ResNet18）的参数量下，能在多大程度上实现最先进水平的准确率？
• RQ5 在医学图像分类任务中，使用具有特定代数性质（如交换性、与克利福德代数同构）的超复数代数是否具有可测量的性能优势？

主要发现

• 基于共四元数代数且使用HSV编码图像的最优HvCNN实现了96.51%的平均准确率，与使用迁移学习的ResNet18（准确率为97.92%）非常接近。
• 使用HSV编码图像的HvCNN优于所有实数模型，后者在HSV数据上的中位准确率仅为91.5%，为所有配置中最低。
• 基于代数 $ A[+1,+1] $（同构于Klein四元组）的HvCNN在所有测试配置中实现了最高的中位准确率96.9%。
• 基于双复数代数（$ B[-1,+1] $）和共四元数代数（$ A[-1,+1] $）的HvCNN均实现了96.2%的中位准确率，优于标准四元数模型。
• 表现最佳的HvCNN仅使用了36,000个可训练参数，仅占用于最先进比较的ResNet18模型（1140万个参数）的0.3%。
• 哈塞图确认，所有基于HSV编码图像的HvCNN在RGB和HSV上的表现均显著优于实数模型，所有成对比较的置信水平均为99%。