[논문 리뷰] Noise Induces Loss Discrepancy Across Groups for Linear Regression.

Fereshte Khani, Percy Liang|arXiv (Cornell University)|2019. 11. 22.

Explainable Artificial Intelligence (XAI)참고 문헌 23인용 수 5

한 줄 요약

이 논문은 선형 회귀에서 특성 노이즈(측정 오차)가 일률적으로 적용되더라도, 인구집단 집단 간 손실 불일치에 비례적으로 영향을 미치는 방식을 조사한다. 노이즈가 동일하게 적용되더라도 특성 모멘트의 집단 간 차이로 인해 모델 성능이 비균형적으로 영향을 받으며, 추정기의 집단 이동에 대한 적응 조건을 유도하고, 실제 데이터셋을 통해 검증한다.

ABSTRACT

We study the effect of feature noise (measurement error) on the discrepancy between losses across two groups (e.g., men and women) in the context of linear regression. Our main finding is that adding even the same amount of noise on all individuals impacts groups differently. We characterize several forms of loss discrepancy in terms of the amount of noise and difference between moments of the two groups, for estimators that either do or do not use group membership information. We then study how long it takes for an estimator to adapt to a shift in the population that makes the groups have the same mean. We finally validate our results on three real-world datasets.

연구 동기 및 목표

• 특성의 측정 오차가 선형 회귀에서 인구집단 집단 간 모델 성능의 불균형을 유도하는 방식을 이해하는 것.
• 노이즈 수준과 집단별 특성 모멘트 차이의 함수로서 손실 불일치를 특성화하는 것.
• 손실 불균형을 완화하거나 악화시키는 데 집단 정보를 사용하거나 무시하는 추정기들을 비교하는 것.
• 집단 평균이 이동 후 동일해지는 인구집단 이동 상황에서 추정기가 적응하는 데 소요되는 시간을 분석하는 것.
• 다양한 집단 분포를 가진 실제 데이터셋을 통해 이론적 결과를 검증하는 것.

제안 방법

• 특성의 집단별 일차 및 이차 모멘트를 바탕으로, 특성 노이즈 하에서 선형 회귀의 손실 불일치에 대한 분석적 표현을 유도한다.
• 모든 개인에 동일한 노이즈 분산을 적용하는 노이즈 모델을 사용하지만, 모멘트의 격차로 인해 집단 수준의 영향은 다름을 분석한다.
• 노이즈에 의한 손실 이동에 대한 민감도를 비교하기 위해 집단 인식 추정기와 집단 무시 추정기를 분석한다.
• 집단 평균이 이동 후 동일해지는 인구집단 이동을 모델링하고, 추정기가 적응하는 수렴 속도를 유도한다.
• 이론적 예측이 손실 불일치와 적응 속도에 대해 실제 데이터에서 어떻게 작동하는지 테스트하기 위해 세 개의 실제 데이터셋을 활용한 실증 검증을 수행한다.

실험 결과

연구 질문

• RQ1 일률적인 특성 노이즈가 선형 회귀에서 인구집단 집단 간 손실 불균형을 어떻게 유도하는가?
• RQ2 특성 모멘트의 차이(예: 평균과 분산)가 노이즈 하에서 손실 불균형을 증폭하거나 감소시키는 데 어떤 역할을 하는가?
• RQ3 집단 인식 추정기와 집단 무시 추정기는 노이즈에 의한 손실 불균형에 어떻게 반응하는가?
• RQ4 집단 평균이 동일해지는 인구집단 이동 후 선형 회귀 추정기가 얼마나 오랜 시간 동안 적응하는가?
• RQ5 손실 불균형에 대한 이론적 예측이 실제 데이터셋에서 얼마나 정확하게 유지되는가?

주요 결과

• 개인 간 동일한 노이즈 수준이 적용되더라도 특성 모멘트의 차이로 인해 집단 간 손실 불균형이 발생한다.
• 손실 불균형은 노이즈의 크기와 집단 간 특성 평균 및 분산의 격차가 클수록 증가한다.
• 집단 인식 추정기는 손실 불균형을 감소시키지만 완전히 제거하지 못하며, 집단 무시 추정기는 더 높은 민감도를 보인다.
• 집단 평균이 동일해지는 이동 후 추정기가 복구하는 데 소요되는 시간은 노이즈 수준과 이동 전의 집단 모멘트 차이에 따라 달라진다.
• 세 개의 실제 데이터셋에 대한 실증 결과는 노이즈가 인구집단 간 측정 가능한 손실 불균형을 유도함을 확인한다.
• 손실 불균형과 적응 속도에 대한 이론적 예측은 실제 데이터에서 관찰된 패턴과 밀도로 일치한다.