[논문 리뷰] BiasFinder: Metamorphic Test Generation to Uncover Bias for Sentiment Analysis Systems

Muhammad Hilmi Asyrofi, Zhou Yang외 4명|arXiv (Cornell University)|2021. 02. 03.

Topic Modeling인용 수 8

한 줄 요약

BiasFinder는 대규모 텍스트 코퍼스에서 동적으로 템플릿을 정렬하고, 인구통계적 특성 단어(예: 성별, 직업, 국적)로 변형시켜 다양한 실재성 있는 테스트 케이스를 생성하는 자동화된 변형 테스팅 프레임워크이다. 이는 감성 분석(SA) 시스템의 인구통계적 편향을 드러내기 위해 설계되었으며, 기존 방법보다 다양한 유형의 편향(성별, 직업, 국적 등)을 더 효과적으로 탐지하는 데 성공했다. 또한 더 자연스럽고 다양성이 높은 테스트 케이스를 생성한다.

ABSTRACT

Artificial Intelligence (AI) software systems, such as Sentiment Analysis (SA) systems, typically learn from large amounts of data that may reflect human biases. Consequently, the machine learning model in such software systems may exhibit unintended demographic bias based on specific characteristics (e.g., gender, occupation, country-of-origin, etc.). Such biases manifest in an SA system when it predicts a different sentiment for similar texts that differ only in the characteristic of individuals described. Existing studies on revealing bias in SA systems rely on the production of sentences from a small set of short, predefined templates. To address this limitation, we present BisaFinder, an approach to discover biased predictions in SA systems via metamorphic testing. A key feature of BisaFinder is the automatic curation of suitable templates based on the pieces of text from a large corpus, using various Natural Language Processing (NLP) techniques to identify words that describe demographic characteristics. Next, BisaFinder instantiates new text from these templates by filling in placeholders with words associated with a class of a characteristic (e.g., gender-specific words such as female names, "she", "her"). These texts are used to tease out bias in an SA system. BisaFinder identifies a bias-uncovering test case when it detects that the SA system exhibits demographic bias for a pair of texts, i.e., it predicts a different sentiment for texts that differ only in words associated with a different class (e.g., male vs. female) of a target characteristic (e.g., gender). Our empirical evaluation showed that BiasFinder can effectively create a larger number of fluent and diverse test cases that uncover various biases in an SA system.

연구 동기 및 목표

• 수동으로 제작된 제한된 템플릿에 의존하는 기존 편향 탐지 방법의 한계를 해결하기 위해.
• 감성 분석 시스템의 다양한 특성(예: 성별, 직업, 국적)에 걸쳐 인구통계적 편향을 자동으로 탐지할 수 있는 확장 가능한 접근법을 개발하기 위해.
• 변형 테스팅을 통해 공정성 버그를 드러내는 자연스럽고 다양하며 현실적인 테스트 케이스를 생성하기 위해.
• 기존 방법(예: EEC 및 MT-NLP)과 비교하여 생성된 테스트 케이스의 효과성과 자연스러움을 평가하기 위해.
• 감성 분석을 넘어서 다른 NLP 시스템의 공정성 문제에도 일반화 가능한 접근법임을 입증하기 위해.

제안 방법

• BiasFinder는 자연어 처리 기법을 사용해 대규모 텍스트 코퍼스에서 인구통계적 특성과 관련된 단어(예: 성별에 특화된 대명사, 이름, 직업어)를 식별함으로써, 편향 탐지 템플릿을 자동으로 정렬한다.
• 프레임워크는 템플릿 내의 자리표시어를 대상 특성의 다른 클래스에서 온 단어로 대체함으로써 변형된 테스트 케이스를 생성한다(예: 'she' → 'he', 'doctor' → 'nurse').
• 원본 텍스트와 인구통계적 특성 어휘만 다를 뿐 다른 점이 없는 텍스트 쌍 간의 감성 예측을 비교함으로써 변형 테스팅을 적용한다.
• 감성 분석 시스템이 인구통계적 특성 이외에는 동일한 텍스트에 대해 다른 감성 점수를 부여할 경우, 이는 편향 탐지 테스트 케이스(BTC)로 식별된다.
• 생성된 테스트 케이스가 자연스럽고 의미적으로 일관성을 유지하도록 자연어 처리 기술을 활용한다.
• 실험적 평가에서는 여러 감성 분석 모델과 인간 평가를 활용해 BiasFinder의 BTC 탐지율과 자연스러움을 EEC 및 MT-NLP와 비교한다.

실험 결과

연구 질문

• RQ1 BiasFinder는 수동으로 정렬된 템플릿에 비해 더 많은 수의 다양하고 자연스러운 테스트 케이스를 자동으로 생성하여 감성 분석 시스템의 편향을 탐지할 수 있는가?
• RQ2 BiasFinder는 성별 외에도 직업 및 국적과 같은 다양한 인구통계적 특성에 걸쳐 편향을 효과적으로 탐지할 수 있는가?
• RQ3 BiasFinder가 생성한 테스트 케이스의 자연스러움은 EEC 및 MT-NLP와 같은 기존 방법에 비해 어떻게 비교되는가?
• RQ4 BiasFinder는 다양한 감성 분석 모델에서 기존 접근법보다 더 많은 편향 탐지 테스트 케이스(BTC)를 탐지할 수 있는가?
• RQ5 BiasFinder는 감성 분석을 넘어서 다른 NLP 작업의 공정성 테스팅에도 일반화 가능한가?

주요 결과

• BiasFinder는 연구에서 평가된 모든 감성 분석 모델에서 EEC 및 MT-NLP보다 더 많은 성별 편향 탐지 테스트 케이스(BTC)를 발견했다.
• 프레임워크는 기존 방법이 다루지 못한 직업 및 국적 편향에 대한 추가적인 BTC를 성공적으로 탐지했다.
• 인간 평가자들은 BiasFinder가 생성한 변형 테스트 케이스가 MT-NLP에 의해 생성된 것보다 더 자연스럽다고 일관되게 평가했다. 이는 자연어 품질 향상을 시사한다.
• 대규모 코퍼스에서 자동으로 정렬된 템플릿을 활용함으로써, 사전 정의된 제한된 템플릿에 비해 더 다양한 실재성 있는 테스트 케이스를 생성할 수 있었다.
• BiasFinder는 수동 재설정 없이도 다양한 인구통계적 특성에 대해 적용 가능하여 확장성과 적응성을 입증했다.
• 실험적 평가를 통해 자동 템플릿 정렬을 통한 변형 테스팅이 감성 분석 시스템의 공정성 버그를 효과적으로 드러내는 데 성공적임을 확인했다.