[논문 리뷰] NBIAS: A Natural Language Processing Framework for Bias Identification in Text

Shaina Raza, Muskan Garg외 3명|arXiv (Cornell University)|2023. 08. 03.

Authorship Attribution and Profiling인용 수 5

한 줄 요약

NBIAS는 트랜스포머 기반 토큰 분류 모델을 사용하여 텍스트 내 편향을 탐지하는 새로운 NLP 프레임워크이다. 전용 BIAS 엔터티 유형을 도입하고, 반자율적 레이블링과 데이터 수집, 코퍼스 구축, 모델 개발, 다양한 도메인(의료, 소셜 미디어, 채용 등)에서의 종합 평가를 포함한 사층 구조의 파ip라인을 통해 기존 기준 대비 1–8%의 정확도 향상을 달성한다.

ABSTRACT

Bias in textual data can lead to skewed interpretations and outcomes when the data is used. These biases could perpetuate stereotypes, discrimination, or other forms of unfair treatment. An algorithm trained on biased data may end up making decisions that disproportionately impact a certain group of people. Therefore, it is crucial to detect and remove these biases to ensure the fair and ethical use of data. To this end, we develop a comprehensive and robust framework NBIAS that consists of four main layers: data, corpus construction, model development and an evaluation layer. The dataset is constructed by collecting diverse data from various domains, including social media, healthcare, and job hiring portals. As such, we applied a transformer-based token classification model that is able to identify bias words/ phrases through a unique named entity BIAS. In the evaluation procedure, we incorporate a blend of quantitative and qualitative measures to gauge the effectiveness of our models. We achieve accuracy improvements ranging from 1% to 8% compared to baselines. We are also able to generate a robust understanding of the model functioning. The proposed approach is applicable to a variety of biases and contributes to the fair and ethical use of textual data.

연구 동기 및 목표

• 텍스트 데이터 내 편향 탐지의 핵심적 격차를 해결하기 위해, 명시적 및 암묵적 편향을 모두 식별할 수 있는 일반화 가능하고 도메인에 관계없는 프레임워크를 개발한다.
• 기존 NLP 모델이 편향을 별개의 명명된 실체로 다루지 못해 차별적 언어를 제대로 탐지하지 못하는 한계를 극복한다.
• 반자율적 레이블링을 통해 수동 레이블링에 의존도를 줄이고, 확장 가능하고 효율적인 어노테이션 파이프라인을 구축한다.
• 정량적 지표와 정성적 분석을 융합한 종합적인 평가 전략을 개발하여 모델 성능과 견고성을 검증한다.
• 의료, 채용, 소셜 미디어와 같은 고위험 도메인에서 공정한 텍스트 기반 시스템을 구현함으로써 AI의 윤리적 사용에 기여한다.

제안 방법

• 다양성과 실제 적용 가능성을 확보하기 위해 소셜 미디어, 의료 기록, 채용 포털에서 다중 도메인 데이터셋을 구축한다.
• 트랜스포머 기반 모델을 사용하여 토큰 분류 과정에서 특정히 편향된 단어나 어구를 식별하기 위해 새로운 명명된 실체 유형인 BIAS를 도입한다.
• 사전 학습된 언어 모델과 인간의 참여를 통한 검증을 조합하여, 어노테이션 속도를 높이고 품질을 향상시키는 반자율적 레이블링 전략을 구현한다.
• 전이 학습을 활용하여 일반화 능력을 향상시키기 위해 BERT 기반의 시퀀스 레이블링 모델을 훈련 및 미세조정한다.
• 정밀도, 재현율, F1 점수 및 정성적 오류 분석을 포함한 하이브리드 평가 프레임워크를 적용하여 다양한 맥락에서의 모델 성능을 평가한다.
• 피드백 루프와 반복적 개선을 통합하여 가짜 양성 및 가짜 음성 결과를 줄이고, 시간이 지남에 따라 모델 신뢰도를 향상시킨다.

Figure 1 : Visual Representation of Implicit and Explicit Biases in Textual Data: Examples from Job Hiring, Social Media, and Healthcare.

실험 결과

연구 질문

• RQ1 의료, 소셜 미디어, 채용과 같은 다양한 텍스트 도메인에서 명시적 및 암묵적 편향을 효과적으로 탐지할 수 있는 통합 NLP 프레임워크는 어떻게 설계할 수 있는가?
• RQ2 기존의 NER 접근 방식과 비교했을 때, 전용 BIAS 엔터티 유형을 도입함으로써 정밀도와 재현율은 어느 정도 향상되는가?
• RQ3 반자율적 레이블링은 자원이 제한된 환경에서 어노테이션 시간을 크게 줄일 수 있는가, 동시에 높은 품질의 편향 어노테이션을 유지할 수 있는가?
• RQ4 다양한 도메인에서 정확도와 견고성 측면에서 최신 기준 기준 모델들과 비교했을 때 NBIAS 프레임워크는 어떤 성능을 보이는가?
• RQ5 편향 탐지에서 주요 오류 원인은 무엇이며, 피드백 기반 반복 학습을 통해 가짜 양성 및 가짜 음성 결과는 어떻게 줄일 수 있는가?

주요 결과

• NBIAS 프레임워크는 기존 기준 대비 F1 점수에서 1%에서 8%까지 향상되어 다양한 도메인에서 편향 탐지 성능이 뛰어나다는 것을 입증한다.
• BIAS 엔터티 유형의 도입은 맥락 기반 편향 언어, 특히 암묵적 편향의 미묘한 형태를 식별하는 데 모델의 능력을 크게 향상시킨다.
• 반자율적 레이블링은 전면 수동 레이블링 대비 어노테이션 시간을 최대 50%까지 줄였으며, 어노테이션 품질에 영향을 주지 않았다.
• 프레임워크는 도메인 간 일반화 능력이 뛰어나 소셜 미디어, 의료, 채용 공고 텍스트 모두에서 일관된 성능을 보였다.
• 정성적 분석 결과, 모델은 성별에 기반한 스테레오타입이나 인종 차별적 표현과 같은 차별적 언어를 높은 정밀도로 효과적으로 포착하였다.
• 개선에도 불구하고, 맥락에 따라 달라지는 편향에 대해 모델은 여전히 어려움을 겪고 있으며, 특히 복잡하거나 은유적인 언어에서는 가짜 양성 및 가짜 음성 결과가 간헐적으로 발생한다.

Figure 2 : Nbias : A Natural Language Processing Framework for Bias Identification.