[论文解读] Another Use of SMOTE for Interpretable Data Collaboration Analysis

Akira Imakura, Masateru Kihira+2 more|arXiv (Cornell University)|Aug 26, 2022

Statistical Methods and Inference被引用 4

一句话总结

本文提出了一种基于SMOTE的新型锚点数据构建方法，用于可解释性数据协作（DC）分析，可在不增加数据泄露风险的前提下提升识别性能。通过将SMOTE扩展至使用大k值和α值以实现外推，该方法在收入数据集上相比现有方法，使准确率提升9个百分点，关键特征选择性能提升38个百分点。

ABSTRACT

Recently, data collaboration (DC) analysis has been developed for privacy-preserving integrated analysis across multiple institutions. DC analysis centralizes individually constructed dimensionality-reduced intermediate representations and realizes integrated analysis via collaboration representations without sharing the original data. To construct the collaboration representations, each institution generates and shares a shareable anchor dataset and centralizes its intermediate representation. Although, random anchor dataset functions well for DC analysis in general, using an anchor dataset whose distribution is close to that of the raw dataset is expected to improve the recognition performance, particularly for the interpretable DC analysis. Based on an extension of the synthetic minority over-sampling technique (SMOTE), this study proposes an anchor data construction technique to improve the recognition performance without increasing the risk of data leakage. Numerical results demonstrate the efficiency of the proposed SMOTE-based method over the existing anchor data constructions for artificial and real-world datasets. Specifically, the proposed method achieves 9 percentage point and 38 percentage point performance improvements regarding accuracy and essential feature selection, respectively, over existing methods for an income dataset. The proposed method provides another use of SMOTE not for imbalanced data classifications but for a key technology of privacy-preserving integrated analysis.

研究动机与目标

• 为解决由于锚点数据不理想而导致可解释性数据协作（DC）分析中识别性能较低的挑战。
• 在不增加数据泄露风险的前提下，提升多机构间隐私保护型集成分析的性能。
• 探索SMOTE在不平衡分类之外的新应用，具体为在联邦式数据协作中构建代表性锚点数据集。
• 开发一种方法，通过合成数据增强提升DC框架中模型的准确率与可解释性。

提出的方法

• 将合成少数类过采样技术（SMOTE）扩展，以生成更匹配原始数据分布的锚点数据，从而提升DC表示质量。
• 在k近邻算法中使用较大的k值（k=50），以实现对原始数据流形之外的外推，增强合成样本的多样性与覆盖范围。
• 在合成样本生成过程中应用较大的α=1.5，对特征向量进行缩放，以促进生成更具代表性与鲁棒性的锚点数据。
• 将SMOTE生成的锚点数据集成至DC框架中，利用降维后的中间表示构建协作表示。
• 采用岭回归与决策树进行下游分析，并通过在协作表示上进行特征选择，保持可解释性。
• 采用五折交叉验证设置，固定超参数（如r=2500个锚点、15维中间表示）以评估性能。

实验结果

研究问题

• RQ1 SMOTE能否被有效重用于提升数据协作分析中锚点数据的质量，同时不损害隐私？
• RQ2 与随机或TSVD基方法相比，基于SMOTE的锚点构建方法在识别准确率与特征选择方面表现如何？
• RQ3 通过大k值与α值扩展SMOTE以实现外推，是否能带来可测量的DC分析结果改进？
• RQ4 所提出方法在保持数据机密性的同时，能在多大程度上增强数据协作中的可解释性？

主要发现

• 所提出的基于SMOTE的方法在收入数据集上相比基线方法，分类准确率提升了9个百分点。
• 在相同收入数据集上，该方法使关键特征选择性能提升了38个百分点，表明其可解释性更强。
• 在Prostate_GE数据集上，该方法将准确率从31.00%（DC(TSVD)）提升至58.00%，表明在真实世界数据中具有持续的性能增益。
• 该方法在全部十个评估数据集上均优于本地与集中式基线方法，涵盖二分类与多分类任务。
• 在SMOTE扩展中使用大k值与α值对性能提升至关重要，尤其在捕捉原始样本范围之外的数据分布方面表现突出。
• 该方法通过避免直接共享数据来维持隐私，在评估框架中未发现任何数据泄露的证据。