[論文レビュー] DP-SGD vs PATE: Which Has Less Disparate Impact on Model Accuracy?

Archit Uniyal, Rakshit Naidu+5 more|arXiv (Cornell University)|Jun 22, 2021

Privacy-Preserving Technologies in Data参考文献 24被引用数 5

ひとこと要約

この論文は、不均衡データセットにおける2つの異なるプライバシー保護付き深層学習手法、DP-SGD と PATE を比較し、PATE が少数クラスに対して DP-SGD より著しく低い差別の影響を示すことを発見した。両手法ともに少数派のグループにおけるモデルの有用性を低下させるが、PATE はアンサンブルベースの学習と、学生モデルの集約時でのみノイズを追加するという特徴により、これらのクラスに対してははるかに高い精度を維持する。その結果、サブグループ全体にわたる性能がより強固で公平になる。

ABSTRACT

Recent advances in differentially private deep learning have demonstrated that application of differential privacy, specifically the DP-SGD algorithm, has a disparate impact on different sub-groups in the population, which leads to a significantly high drop-in model utility for sub-populations that are under-represented (minorities), compared to well-represented ones. In this work, we aim to compare PATE, another mechanism for training deep learning models using differential privacy, with DP-SGD in terms of fairness. We show that PATE does have a disparate impact too, however, it is much less severe than DP-SGD. We draw insights from this observation on what might be promising directions in achieving better fairness-privacy trade-offs.

研究の動機と目的

• 不均衡データセットにおける少数派と代表的でないサブグループの間で、PATE も DP-SGD と同様にモデルの精度に差別の的影響を示すかどうかを調査すること。
• 少数クラスにおける有用性損失という観点から、DP-SGD と PATE の間の公平性とプライバシーのトレードオフを比較すること。
• PATE の教師モデル数が、不均衡クラスにおけるモデルの精度と公平性に与える影響を分析すること。
• PATE が少数サブグループの有用性を維持する点で DP-SGD を上回る条件を同定すること。

提案手法

• 著者たちは、さまざまなプライバシー予算（ε）を用いた MNIST および SVHN データセットの不均衡版を用いて、DP-SGD および PATE でモデルを学習した。
• DP-SGD では、勾配をクリッピングした後、各重み更新時にノイズを追加し、モーメンツ会計士を用いてプライバシーを追跡した。
• PATE では、データの不重複な部分集合を用いて 50 個の教師モデルを学習し、学生モデルは教師たちのノイズ付き集約予測を用いて学習した。
• 教師モデルの数を（1, 10, 50, 100, 250）と変化させ、その影響を調査した。
• モデルの性能は 5 個の異なるランダムシードで評価され、特に少数クラス（数字 8）の平均精度と標準偏差が報告された。
• ResNet-18 を SVHN に、MNIST には小さな CNN を使用して、アーキテクチャを統一した比較を確保した。

実験結果

リサーチクエスチョン

• RQ1 PATE は、DP-SGD と同様に、代表的でないサブグループのモデル精度に差別の的影響を示すか？
• RQ2 さまざまなプライバシー予算（ε）において、PATE の少数クラスに対する有用性は DP-SGD よりも高いか？
• RQ3 教師モデル数が、不均衡データにおける PATE の公平性と精度に与える影響は何か？
• RQ4 なぜ PATE は DP-SGD よりも少数クラスに対してより安定的かつ高い精度を示すのか？

主な発見

• MNIST において ε = 0.5 のとき、PATE は DP-SGD よりも少数クラス（8）で2倍以上の精度を達成した。
• ε を 0.5 から 15 に増加させた際、DP-SGD の少数クラス（8）の精度は著しく低下したが、PATE は安定的かつ高い性能を維持した。
• SVHN では、両手法とも少数クラスの平均精度が 5% 未満にとどまったが、PATE は実行間の標準偏差がはるかに低く、より高いロバストネスを示した。
• アブレーションスタディの結果、10 個の教師モデルが最適なバランスを提供したことが判明。1（n=1）の場合はデータ不足、50, 100, 250（n=50, 100, 250）の場合は過学習のため、性能が低下した。
• PATE の性能は実行間でより一貫しており、特に少数クラスにおいて精度の標準偏差が低く、安定性に優れた結果を示した。
• 本研究は、DP-SGD で見られる「貧困なグループはさらに悪化する」現象を PATE が軽減することを確認した。したがって、不均衡データに対するプライバシー保護学習の文脈では、PATE がより公平な選択肢であると結論づけた。