[논문 리뷰] Can Model Compression Improve NLP Fairness

Guangxuan Xu, Qingyuan Hu|arXiv (Cornell University)|2022. 01. 21.

Topic Modeling인용 수 15

한 줄 요약

이 논문은 모델 압축—특히 지식 정복과 프루닝—이 생성형 언어 모델의 공정성에 영향을 미치는지 조사한다. 연구 결과, 지식 정복은 GPT-2 및 Blenderbot 모델에서 독성과 편향을 일관되게 감소시키는 것으로 나타났으며, 이는 압축이 공정성을 향상시키는 정규화 기법으로 작용할 수 있음을 시사한다. 이는 더 안전한 NLP 시스템을 구축하는 데 있어 새로운 길을 제시한다.

ABSTRACT

Model compression techniques are receiving increasing attention; however, the effect of compression on model fairness is still under explored. This is the first paper to examine the effect of distillation and pruning on the toxicity and bias of generative language models. We test Knowledge Distillation and Pruning methods on the GPT2 model and found a consistent pattern of toxicity and bias reduction after model distillation; this result can be potentially interpreted by existing line of research which describes model compression as a regularization technique; our work not only serves as a reference for safe deployment of compressed models, but also extends the discussion of "compression as regularization" into the setting of neural LMs, and hints at the possibility of using compression to develop fairer models.

연구 동기 및 목표

• 생성형 언어 모델에서 독성과 편향과 같은 공정성 지표에 대해 지식 정복과 프루닝을 포함한 모델 압축 기법의 영향을 조사하기.
• 관찰된 공정성 향상 요인이 압축 모델의 기억력 감소 때문인지, 아니면 구조적 단순화 때문인지 확인하기.
• 모델 압축이 공정성을 향상시키는 정규화 메커니즘으로 작용할 수 있는지 탐색하며, '압축은 정규화이다'는 가설을 신경망 언어 모델으로 확장하기.
• 압축 모델에서 관찰된 공정성 향상 요인이 모델 크기 자체 때문인지, 아니면 지식 정복 때문인지 평가하기.
• 자원 제약이 있는 장치에 배포하기에 적합한 압축 기반의 보편적인 공정성 향상 기법을 NLP 분야에서 식별하기.

제안 방법

• 더 큰 교사 모델(GPT-2 및 Blenderbot 3B)을 사용하여 지식 정복을 적용해 더 작은 학생 모델을 미세조정함으로써 지식을 전이하면서 모델 크기를 줄임.
• 프루닝 기법을 사용해 모델 파라미터를 감소시키고, 공정성 지표에 미치는 영향을 평가함. 다만 결과는 지식 정복만큼 명확하지는 않았음.
• 표준화된 벤치마크를 사용해 모델의 공정성을 평가함: 독성에 대해서는 RealToxicityPrompts, 성별 및 사회적 편향에 대해서는 Winogrande/StereoSet.
• 지식 정복의 영향을 모델 크기 감소와 분리하여 평가하기 위해 아블레이션 스터디를 수행함. 결과적으로 지식 정복—단지 크기 감소가 아니라—공정성 향상의 주요 원인임을 확인함.
• 생성 품질을 평가하기 위해 퍼플렉서티(PPL)를 모델 간에 측정하고, 성능 저하 또는 향상 여부가 공정성 변화와 관련이 있는지 분석함.
• 다양한 프롬프트 샘플링 전략(독성, 안전, 무작위)과 데이터셋(RealToxicityPrompts 및 TCCC)을 사용해, 다양한 입력과 데이터 분포에서 공정성 경향의 강건성을 테스트함.

실험 결과

연구 질문

• RQ1 지식 정복은 전체 크기의 모델 대비 생성형 언어 모델의 독성과 편향을 줄이는가?
• RQ2 관찰된 공정성 향상 요인이 모델 압축 자체 때문인지, 아니면 크기와 무관하게 지식 정복 과정 때문인가?
• RQ3 모델 압축은 신경망 언어 모델에서 독성과 편향을 감소시키는 정규화의 한 형태로 간주될 수 있는가?
• RQ4 다른 압축 기법—지식 정복 대비 프루닝—은 공정성 지표에 어떤 영향을 미치며, 왜 지식 정복이 더 강한 효과를 보일 수 있는가?
• RQ5 TCCC 데이터셋처럼 훈련 중에 볼 수 없었던 분포 외 데이터에 대해서도 공정성 향상 효과가 얼마나 지속되는가?

주요 결과

• 지식 정복은 다양한 데이터셋과 샘플링 전략에서 일관되게 모델의 독성을 감소시키며, GPT-2 모델이 훈련 중에 볼 수 없었던 TCCC 데이터셋에서도 동일한 경향을 보임.
• Winogrande 벤치마크로 측정한 성별 편향은 지식 정복 강도가 증가할수록 감소하며, 이는 압축 모델에서 편향이 단조롭게 감소함을 시사함.
• Stereoset 벤치마크로 측정한 사회적 편향은 명확한 추세를 보이지 않으며 대부분 수평을 유지함. 이는 이 지표가 편향 변화를 감지하는 데 있어 제한된 민감도 또는 신뢰성을 가짐을 시사함.
• 저항도 감소가 퍼플렉서티 감소 때문만은 아니며, 지식 정복은 퍼플렉서티가 동일한 경우에도 공정성을 향상시키므로, 구조적 또는 인덕티브 편향 효과가 있음.
• 지식 정복된 모델(Distilled-400M Blenderbot)은 원본 3B Blenderbot 모델보다 독성이 낮으며, 이는 지식 정복—단지 모델 크기 때문이 아니라—공정성 향상의 주요 원인임을 확인함.
• 관찰된 공정성 향상 요인이 훈련 데이터의 단순 기억화 때문일 수 없으며, 이는 볼 수 없었던 데이터에서도 패턴이 유지되므로, 지식 정복에서 더 깊은 정규화 효과가 있음.