[논문 리뷰] Interpretable bias mitigation for textual data: Reducing gender bias in patient notes while maintaining classification performance

Joshua R. Minot, Nicholas Cheney외 4명|arXiv (Cornell University)|2021. 03. 10.

Machine Learning in Healthcare참고 문헌 61인용 수 4

한 줄 요약

이 논문은 BERT 기반 분류기와 분산 측도를 사용하여 성별 언어를 식별하고 교체함으로써 임상 노트의 성별 편향을 줄이기 위한 해석 가능한 데이터 증강 방법을 제안한다. 건강 상태 분류 작업에서 성능 저하를 최소화하면서도 편향을 크게 감소시켜, 실제 EHR 응용 분야에서 편향 제거가 효과적이고 실용적일 수 있음을 보여준다.

ABSTRACT

Medical systems in general, and patient treatment decisions and outcomes in particular, are affected by bias based on gender and other demographic elements. As language models are increasingly applied to medicine, there is a growing interest in building algorithmic fairness into processes impacting patient care. Much of the work addressing this question has focused on biases encoded in language models -- statistical estimates of the relationships between concepts derived from distant reading of corpora. Building on this work, we investigate how word choices made by healthcare practitioners and language models interact with regards to bias. We identify and remove gendered language from two clinical-note datasets and describe a new debiasing procedure using BERT-based gender classifiers. We show minimal degradation in health condition classification tasks for low- to medium-levels of bias removal via data augmentation. Finally, we compare the bias semantically encoded in the language models with the bias empirically observed in health records. This work outlines an interpretable approach for using data augmentation to identify and reduce the potential for bias in natural language processing pipelines.

연구 동기 및 목표

• 의료 제공자의 언어 선택과 언어 모델의 성향으로 인해 발생할 수 있는 전자 의료 기록(EHR) 내 성별 편향을 해결하기 위해.
• 분류 성능에 영향을 주지 않으면서도 임상 노트의 성별 언어를 식별하고 감소시킬 수 있는 해석 가능한 방법을 개발하기 위해.
• 실제 EHR 데이터에서 관찰된 편향과 BERT와 같은 사전 훈련된 언어 모델에 내장된 편향을 실증적으로 비교하기 위해.
• 투명하고 인간이 읽을 수 있는 편향 제거 기법을 통해 이해관계자가 편향 감소와 모델 성능 간의 상호 상충 관계를 잘 이해하고 의사결정을 내릴 수 있도록 하기 위해.
• 해석 가능한 정리 및 교체 전략을 사용한 데이터 증강을 통해 편향 제거가 최종 임상 분류 작업에 미치는 영향을 탐색하기 위해.

제안 방법

• 저자들은 남성 환자 노트와 여성 환자 노트 간의 단어 빈도 분포의 차이를 정량화하기 위해 순위-난류 분산(RTD) 측도를 사용하여 성별 언어 패턴을 식별한다.
• 임상 텍스트 내 성별 언어어휘를 탐지하기 위해 BERT 기반 성별 분류기를 훈련시는 방식으로 편향된 언어의 표적이 되는 특정 어휘를 정밀하게 식별한다.
• RTD 및 모델 예측에서 유도된 편향 순위를 기반으로 반복적인 정리 및 교체를 수행하는 데이터 증강 파이프라인을 적용한다.
• 사용자는 편향 감소와 성능 저하 간의 트레이드오프를 제어하기 위해 다양한 '정리 수준'을 선택할 수 있다.
• 이 방법은 두 개의 실제 임상 노트 데이터셋에 적용되었으며, 건강 상태 분류 작업에서 성능을 평가하였다.
• 이 프레임워크는 평범한 영어로 특정 어휘와 그 편향 순위를 강조함으로써 인간이 이해할 수 있는 결정을 지원하여 임상의 및 전문가의 검토를 가능하게 한다.

실험 결과

연구 질문

• RQ1 임상 노트 내 성별 언어가 최종 분류 모델의 편향에 어느 정도 기여하는가?
• RQ2 해석 가능한 데이터 증강 기법을 통해 EHR 내 성별 편향을 유의미하게 줄일 수 있는가, 이때 분류 성능이 크게 저하되지 않는가?
• RQ3 실제 임상 노트에서 관찰된 편향과 BERT와 같은 사전 훈련된 언어 모델에 내장된 편향은 어떻게 비교되는가?
• RQ4 언어 정리 및 교체의 다양한 수준이 모델 정확도와 공정성에 어떤 영향을 미치는가?
• RQ5 임상의사 및 전문가가 분산 및 모델 기반 분석에서 유도된 편향 순위를 의미 있게 이해하고 행동에 옮길 수 있는가?

주요 결과

• 제안된 방법은 해석 가능한 데이터 증강을 통해 임상 노트의 성별 편향을 크게 감소시키며, 건강 상태 분류 성능에 대한 성능 저하를 최소화한다.
• 낮은 수준에서 중간 수준의 편향 제거 범위에서 이 방법은 높은 분류 정확도를 유지하여 공정성과 유용성 간의 유리한 트레이드오프를 보여준다.
• 순위-난류 분산 측도는 환자 그룹 간의 단어 빈도 분포를 비교함으로써 명시적으로 성별을 나타내지 않는 어휘조차도 성별 언어 패턴을 효과적으로 식별한다.
• BERT 기반 분류기는 임상 텍스트 내 성별 언어를 성공적으로 탐지하며, 편향 순위는 임상의사 및 개발자에게 실질적인 통찰을 제공한다.
• 연구 결과에 따르면, 임상 노트 내 성별 편향의 대부분은 의료적으로 관련성이 높은 특징과는 다를 만한 어휘에서 기인하며, 이는 임상 신호 탐지에 해를 끼치지 않으면서도 편향을 줄일 수 있음을 시사한다.
• 이 방법은 수정할 항목을 명확히 하고 인간이 읽을 수 있는 방식으로 결정을 내릴 수 있도록 하여, 헬스케어 분야에서 윤리적이고 책임감 있는 AI를 지원한다.