[論文レビュー] LEACE: Perfect linear concept erasure in closed form

Nora Belrose, David Schneider-Joseph+4 more|arXiv (Cornell University)|Jun 6, 2023

Topic Modeling被引用数 12

ひとこと要約

LEACE は、ターゲット概念を消去する閉形式の最小二乗法を提供し、すべての線形分類器がそれを検出できないようにしつつ、データ表現をできるだけ保持します。深層ネットワークには概念スクラブを介して拡張され、言語モデルにおける性別バイアスと品詞情報を対象に評価されます。

ABSTRACT

Concept erasure aims to remove specified features from an embedding. It can improve fairness (e.g. preventing a classifier from using gender or race) and interpretability (e.g. removing a concept to observe changes in model behavior). We introduce LEAst-squares Concept Erasure (LEACE), a closed-form method which provably prevents all linear classifiers from detecting a concept while changing the embedding as little as possible, as measured by a broad class of norms. We apply LEACE to large language models with a novel procedure called "concept scrubbing," which erases target concept information from every layer in the network. We demonstrate our method on two tasks: measuring the reliance of language models on part-of-speech information, and reducing gender bias in BERT embeddings. Code is available at https://github.com/EleutherAI/concept-erasure.

研究の動機と目的

• 表現からターゲット概念に関する情報を除去することで、公平性と解釈性を高めるための概念消去を動機づける。
• 表現品質を保ちながら線形ガードを保証する閉形式の消去演算子を開発する。
• 連続的な層ごとの適用（概念スクラブ）を介して深層ネットワークへ消去を拡張し、偏見と言語情報を評価する。
• 線形ガードとゼロ交差共分散および等しいクラスのセントロイドを結ぶ理論的保証を提供する。
• 内在的および下流タスクにおける既存手法との実用的で効率的な比較を提供する。

提案手法

• 線形ガードを定義し、線形予測子の下で等しいクラスセントロイドおよびゼロ交差共分散と同値であることを示す。
• LEAst-squares Concept Erasure（LEACE）を、Cov(PX+ b, Z)=0を満たすようにXの平均二乗変化を最小化するアファイン変換として導出する。
• LEACE が内積により誘導されるノルム（例：ユークリッド、マハラノビス）を最小化する唯一の消去器であることを示す。
• LEACE を r_LEACE(x)= x − W^+ P_{W Σ_{XZ}} W (x − E[X]) として特徴づけ、ホワイトニング W と colsp(W Σ_{XZ}) への射影を用いる。
• センタリングされていない X にも拡張し、最適なバイアス b* を導出して最終の LEACE 形式に結合する。
• 深層ネットワークの各層で順次 LEACE を適用する概念スクラブを導入する。

Figure 1: LEACE projection in 3 steps. First the data is whitened, ensuring equal variance in all directions. It is then orthogonally projected onto $\mathrm{colsp}(\mathbf{W}\mathbf{\Sigma}_{{\mathrm{X}}{\mathrm{Z}}})^{\perp}$ , guaranteeing linear guardedness. Finally, we unwhiten the data so that

実験結果

リサーチクエスチョン

• RQ1 すべての線形予測子に対して線形ガードを保証しつつ、ターゲット概念を閉形式のアフィン変換で消去できるか。
• RQ2 線形ガードを達成する最小限の崩壊で消去演算子とは何か（一般的なノルムで）？
• RQ3 深層ネットワークで層ごとに LEACE（概念スクラブ）を適用すると、下流タスクへの副作用を最小限に抑えつつ概念情報を効果的に消去できるか。
• RQ4 性別バイアスを消去し、タスク性能を維持する点で LEACE は従来法（ SAL、Mean Projection、Fair PCA、RLACE、INLP など）とどう比較されるか。
• RQ5 連続ターゲット Z および非センタリングの場合にも同等の最適な消去を持つように LEACE を拡張できるか。

主な発見

• LEACE は凍結された BERT の最終層表現で小さな平均二乗誤差の編集でランダムな性別予測を達成し、消去品質と速度で RLACE を上回る。
• 概念スクラブは主タスクの性能を維持しつつバイアスを低減させる。例として職業予測の正解率は高水準を維持しつつ TP R-GAP バイアスが大幅に低減（0.198→0.084）。
• 消去後、主タスク分類器を再適合すると精度がわずかに変動（例：77.3%→78.1）、保護属性間のバイアスが顕著に減少。
• LEACE は内在的な性別消去実験で勾配ベースの RLACE より最大約100倍高速で、ほぼランダムな消去を達成する点で INLP を上回る。
• 理論的結果は、線形ガード、等しいクラスセントロイド、ゼロ交差共分散、および Z 全体のパリティの間の同等性を確立し、原理的な消去構築を可能にする。

(a)