[논문 리뷰] Discriminatory Transfer

Chao Lan, Jun Huan|arXiv (Cornell University)|2017. 07. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 8인용 수 8

한 줄 요약

이 논문은 표준 전이 학습이 사전에 학습된 모델이 공정하더라도 예측 정확도는 향상시키지만 공정성은 감소시키는 '차별적 전이(discriminatory transfer)'라는 현상을 소개한다. Communities and Crime 데이터셋에서 가설 전이와 다중 작업 학습을 활용하여, 정규화를 통한 정보 전이량 증가가 등등의 공정성 기준으로 측정된 공정성을 체계적으로 악화시킴을 입증함으로써, 전이 학습에서 정확도와 공정성 사이의 새로운 상충 관계를 드러낸다.

ABSTRACT

We observe standard transfer learning can improve prediction accuracies of target tasks at the cost of lowering their prediction fairness -- a phenomenon we named discriminatory transfer. We examine prediction fairness of a standard hypothesis transfer algorithm and a standard multi-task learning algorithm, and show they both suffer discriminatory transfer on the real-world Communities and Crime data set. The presented case study introduces an interaction between fairness and transfer learning, as an extension of existing fairness studies that focus on single task learning.

연구 동기 및 목표

• 공정성과 전이 학습 간의 상호작용을 조사하며, 특히 전이 학습이 예측의 공정성을 떨어뜨릴 수 있는지 여부를 탐구한다.
• 표준 전이 학습 알고리즘인 가설 전이와 다중 작업 학습이 사전에 공정한 소스 모델을 사용하더라도 불공정성을 유도하는지 검토한다.
• 정보 전이의 영향을 등등의 공정성 지표 및 차별적 영향 비율과 같은 공정성 지표에 대해 정량화한다.
• 전이 과정에서 정확도 향상을 유지하면서 공정성 악화를 최소화할 수 있는 완화 전략이 존재하는지 탐색한다.
• 단일 작업 학습을 넘어서 다중 작업 및 전이 학습 환경으로 공정성 연구를 확장한다.

제안 방법

• 가설 전이에 대해 정규화된 최소 제곱법(Regularized Least Squares, RLS)을 적용하여, 정규화 계수 λ를 통해 사전에 학습된 소스 모델에 대해 타겟 모델을 정규화한다.
• 벡터 값 Representer 정리 기반의 다중 작업 학습 알고리즘을 사용하며, 작업 간 유사성을 커널 행렬 A와 노름 ||f̲||_H² 정규화 항을 통해 강제한다.
• 등등의 공정성 비율(E.O.R)과 차별적 영향 비율(D.I.R)을 사용해 공정성을 측정하며, 공정성은 예측이 민감 속성에서 조건부 독립일 때 정의된다.
• 정보 전이 강도를 제어하기 위해 λ를 변화시키며 Communities and Crime 데이터셋에서 실험을 수행하고, 다양한 전이 설정에서 정확도와 공정성을 측정한다.
• 전이 학습의 강건성을 평가하기 위해 네 가지의 구체적인 전이 학습 설정을 분석한다.
• α를 통해 사전에 학습된 가설의 공정성을 제어함으로써, 소스의 공정성이 전이 과정에서 타겟의 공정성에 미치는 영향을 분석할 수 있다.

실험 결과

연구 질문

• RQ1 소스 모델이 공정한 경우에도 표준 전이 학습이 예측의 공정성을 떨어뜨리는가?
• RQ2 정보 전이 강도(λ로 제어)가 전이 학습에서 정확도-공정성 상충 관계에 어떻게 영향을 미치는가?
• RQ3 정확도의 이점을 유지하면서도 차별적 전이를 완화할 수 있는가?
• RQ4 공정성 악화의 원인이 전이 과정 자체인지, 아니면 데이터 내재적 편향 때문인가?
• RQ5 다양한 작업 유사도 수준에서 가설 전이와 다중 작업 학습이라는 서로 다른 전이 학습 파라다임이 공정성 측면에서 어떻게 행동하는가?

주요 결과

• 차별적 전이 현상은 가설 전이와 다중 작업 학습 모두에서 발생한다: λ 증가 시 정확도는 향상되지만 공정성은 감소하며, 사전에 학습된 모델이 공정하더라도(α = 1e-4) 마찬가지다.
• α = 1e-4(공정한 사전에 학습된 모델)일 때, E.O.R는 λ = 1e-7일 때 0.9787에서 λ = 1e-6일 때 0.9370으로 감소하며, 정확도는 0.6068에서 0.6277로 향상된다.
• λ = 1e-5일 때 공정성이 회복되기 시작함(0.9729 E.O.R), 이는 공정성을 유지하거나 복원할 수 있는 잠재적 완화 창이 존재함을 시사한다.
• α = 1(불공정한 사전에 학습된 모델)일 경우, 모든 λ 값에서 공정성이 낮게 유지됨(0.2908 E.O.R), 불공정한 소스 모델이 편향을 전파함을 나타낸다.
• 모든 네 가지 전이 설정에서 가설 전이와 다중 작업 학습 모두가 차별적 전이를 보이며, λ 증가에 따라 정확도는 증가하고 공정성은 감소한다.
• 이 현상은 다양한 전이 설정과 커널 모달리티에 걸쳐 일관되며, 프로베니우스 및 기타 커널 기반 다중 작업 학습 설정 모두에서 유사한 경향을 보였다.