[論文レビュー] Interpretable bias mitigation for textual data: Reducing gender bias in patient notes while maintaining classification performance

Joshua R. Minot, Nicholas Cheney+4 more|arXiv (Cornell University)|Mar 10, 2021

Machine Learning in Healthcare参考文献 61被引用数 4

ひとこと要約

本論文は、BERTベースの分類器と分散メトリクスを用いて、性別言語を特定・置換することで、臨床ノートにおける性別バイアスを低減する解釈可能なデータ拡張手法を提案する。健康状態分類タスクにおける性能劣化を最小限に抑えつつ顕著なバイアス低減を達成しており、実世界のEHR応用においてデバイアス化が効果的かつ実用的であることを示している。

ABSTRACT

Medical systems in general, and patient treatment decisions and outcomes in particular, are affected by bias based on gender and other demographic elements. As language models are increasingly applied to medicine, there is a growing interest in building algorithmic fairness into processes impacting patient care. Much of the work addressing this question has focused on biases encoded in language models -- statistical estimates of the relationships between concepts derived from distant reading of corpora. Building on this work, we investigate how word choices made by healthcare practitioners and language models interact with regards to bias. We identify and remove gendered language from two clinical-note datasets and describe a new debiasing procedure using BERT-based gender classifiers. We show minimal degradation in health condition classification tasks for low- to medium-levels of bias removal via data augmentation. Finally, we compare the bias semantically encoded in the language models with the bias empirically observed in health records. This work outlines an interpretable approach for using data augmentation to identify and reduce the potential for bias in natural language processing pipelines.

研究の動機と目的

• 電子歴史記録（EHR）における性別バイアスを是正すること。これは、医療提供者の言語選択や言語モデルの傾向に起因する可能性がある。
• 分類性能に悪影響を及げることなく、臨床ノートにおける性別言語の特定と低減を可能にする解釈可能な手法を開発すること。
• 実際のEHRデータにおける経験的バイアスと、BERTのような事前学習済み言語モデルに埋め込まれたバイアスを比較すること。
• 透明で人間が読みやすいデバイアス化手法を通じて、ステークホルダーがバイアス低減とモデル性能のトレードオフを的確に評価できるようにすること。
• 解釈可能なトリミングおよび置換戦略を用いたデータ拡張を用いて、デバイアス化が下流の臨床分類タスクに与える影響を調査すること。

提案手法

• 著者らは、男性患者と女性患者のノート間の語頻度分布の差を測定するために、ランク・タービュランス分散（RTD）メトリクスを用い、性別言語のパターンを同定する。
• BERTベースの性別分類器を訓練し、臨床テキスト内の性別言語用語を検出可能にすることで、バイアスのある言語の的確な特定を可能にする。
• データ拡張パイプラインは、RTDとモデル予測から得られるバイアス順位に基づき、反復的に性別言語を含むn-gramをトリミングおよび置換する。
• ユーザーは、バイアス低減と性能劣化のトレードオフを制御できる「トリミングレベル」を設定可能である。
• このアプローチは2つの実世界の臨床ノートデータセットに適用され、健康状態分類タスクでの性能が評価された。
• フレームワークは、平易な英語で特定の語とそのバイアス順位を強調表示することで、臨床医や実務家による意思決定の透明性を高める。

実験結果

リサーチクエスチョン

• RQ1 臨床ノートにおける性別言語が、下流の分類モデルにおけるバイアスにどの程度寄与しているか。
• RQ2 解釈可能なデータ拡張技術を用いることで、分類性能を著しく損なわせることなくEHRにおける性別バイアスを低減できるか。
• RQ3 実際の臨床ノートにおける経験的バイアスと、BERTのような事前学習済み言語モデルに埋め込まれたバイアスは、どのように比較できるか。
• RQ4 言語のトリミングおよび置換の異なるレベルが、モデルの正確性と公平性に与える影響は何か。
• RQ5 臨床医や実務家は、分散およびモデルベース分析から得られるバイアス順位を意味的に理解し、実際に行動をとることができるか。

主な発見

• 提示された手法は、解釈可能なデータ拡張を用いて臨床ノートにおける性別バイアスを顕著に低減し、健康状態分類の性能劣化を最小限に抑える。
• バイアス除去の低～中程度の段階では、分類精度が高く維持されるため、公平性と有用性の良好なトレードオフが実現されている。
• ランク・タービュランス分散メトリクスは、明示的に性別を示さない語彙に対しても、患者群間の語頻度分布を比較することで、性別言語のパターンを効果的に同定できる。
• BERTベースの分類器は、臨床テキストにおける性別言語を効果的に検出でき、バイアス順位は臨床医や開発者にとって実行可能なインサイトを提供する。
• 本研究では、臨床ノートにおける多くの性別バイアスが、医学的関連特徴とは異なる語彙に起因していることが判明し、臨床的信号検出に悪影響を及げることなくバイアスを低減可能であると示唆された。
• 本手法は、どの語を変更すべきかを透明で人間が読める形で決定可能にし、医療分野における倫理的かつ責任あるAIを支援する。