[논문 리뷰] Another Use of SMOTE for Interpretable Data Collaboration Analysis

Akira Imakura, Masateru Kihira외 2명|arXiv (Cornell University)|2022. 08. 26.

Statistical Methods and Inference인용 수 4

한 줄 요약

이 논문은 해석 가능한 데이터 협업(DC) 분석을 위한 새로운 SMOTE 기반 앵커 데이터 구축 방법을 제안하며, 데이터 泄露 위험을 증가시키지 않고도 인식 성능을 향상시킨다. 기존 방법과 비교해 소득 데이터셋에서 정확도를 9个百分点 향상시키고 핵심 특성 선택 성능을 38个百分点 향상시키기 위해 SMOTE를 확장하여 큰 k와 α를 통해 외삽을 가능하게 한다.

ABSTRACT

Recently, data collaboration (DC) analysis has been developed for privacy-preserving integrated analysis across multiple institutions. DC analysis centralizes individually constructed dimensionality-reduced intermediate representations and realizes integrated analysis via collaboration representations without sharing the original data. To construct the collaboration representations, each institution generates and shares a shareable anchor dataset and centralizes its intermediate representation. Although, random anchor dataset functions well for DC analysis in general, using an anchor dataset whose distribution is close to that of the raw dataset is expected to improve the recognition performance, particularly for the interpretable DC analysis. Based on an extension of the synthetic minority over-sampling technique (SMOTE), this study proposes an anchor data construction technique to improve the recognition performance without increasing the risk of data leakage. Numerical results demonstrate the efficiency of the proposed SMOTE-based method over the existing anchor data constructions for artificial and real-world datasets. Specifically, the proposed method achieves 9 percentage point and 38 percentage point performance improvements regarding accuracy and essential feature selection, respectively, over existing methods for an income dataset. The proposed method provides another use of SMOTE not for imbalanced data classifications but for a key technology of privacy-preserving integrated analysis.

연구 동기 및 목표

• 기본적으로 최적화되지 않은 앵커 데이터로 인해 해석 가능한 데이터 협업(DC) 분석에서 낮은 인식 성능을 겪는 문제를 해결하기 위해.
• 다양한 기관 간 통합 분석에서 데이터 泄露 위험을 증가시키지 않고 성능을 향상시키기 위해.
• 불균형 분류를 넘어서 SMOTE의 새로운 응용을 탐색하기 위해, 특히 피 Vick-스타일 데이터 협업에서 대표성 있는 앵커 데이터셋을 구성하기 위해.
• 합성 데이터 증강을 통해 DC 프레임워크에서 모델 정확도와 해석 가능성을 동시에 향상시키는 방법을 개발하기 위해.

제안 방법

• 합성 소수 과잉 샘플링 기법(SMOTE)을 확장하여 원본 데이터 분포와 더 잘 일치하는 앵커 데이터를 생성함으로써, DC 표현 품질을 향상시킨다.
• k-최근접 이웃에서 큰 k(k=50)를 사용하여 원래 데이터 다양성의 범위를 초월한 외삽을 가능하게 하여, 합성 샘플의 다양성과 커버리지가 향상된다.
• 합성 샘플 생성 과정에서 기능 벡터를 스케일링하기 위해 큰 α=1.5를 적용하여 보다 대표적이고 강건한 앵커 데이터를 촉진한다.
• SMOTE로 생성된 앵커 데이터를 DC 프레임워크에 통합하여 차원 축소된 중간 표현에서 협업 표현을 구성한다.
• 리지 회귀와 결정 트리를 후행 분석에 사용하며, 협업 표현에 대한 특성 선택을 통해 해석 가능성을 유지한다.
• 고정된 초모수(예: r=2500개의 앵커 포인트, 15차원의 중간 표현)를 사용한 다섯 번의 교차 검증 설정을 통해 성능을 평가한다.

실험 결과

연구 질문

• RQ1 SMOTE를 데이터 협업 분석에서 앵커 데이터 품질을 향상시키기 위해 효과적으로 재활용할 수 있는가, 이 과정에서 기밀성이 손상되지 않는가?
• RQ2 큰 k와 α를 통해 SMOTE를 확장한 방법이 랜덤 또는 TSVD 기반 방법과 비교해 인식 정확도와 특성 선택 성능에서 어떻게 다른가?
• RQ3 큰 k와 α를 통해 SMOTE의 외삽 기능을 확장함으로써 DC 분석 결과에 측정 가능한 향상이 이루어지는가?
• RQ4 제안된 방법이 데이터 기밀성을 유지하면서 데이터 협업에서의 해석 가능성을 얼마나 향상시키는가?

주요 결과

• 제안된 SMOTE 기반 방법은 소득 데이터셋에서 기준 방법 대비 분류 정확도를 9个百分点 향상시켰다.
• 동일한 소득 데이터셋에서 핵심 특성 선택 성능이 38个百分点 향상되어 더 강력한 해석 가능성을 나타낸다.
• 프로스타트_GE 데이터셋에서 제안된 방법은 정확도를 31.00%(DC(TSVD))에서 58.00%로 끌어올려 실제 세계 데이터에서의 일관된 성능 향상을 입증했다.
• 이 방법은 이진 분류와 다중 분류 작업을 포함한 10개의 평가 데이터셋에서 모두 현지 기반 및 중심화 기반 기준보다 뛰어난 성능을 보였다.
• SMOTE 확장에서 큰 k와 α의 사용은 성능 향상에 핵심적이었으며, 특히 원래 샘플 범위를 초월한 데이터 분포를 포착하는 데 기여했다.
• 직접 데이터 공유를 방지함으로써 기밀성을 유지하였으며, 평가 프레임워크 내에서 데이터 泄露의 증거가 없었다.