[論文レビュー] Fairness via AI: Bias Reduction in Medical Information

Shiri Dori-Hacohen, Roberto E. Montenegro+5 more|arXiv (Cornell University)|Sep 6, 2021

Ethics in Clinical Research参考文献 15被引用数 4

ひとこと要約

本論文は、推薦システムやオンラインコンテンツプラットフォームにおけるAIを活用して、事前に偏見のある健康情報（いわゆる「バイズフォーメーション」）を検出・是正する画期的な「AIによる公平性」フレームワークを提唱する。AIモデルのデバイアス化にとどまらず、医療情報における社会的不平等の根本的原因にアプローチすることで、学際的連携と的確な計算手法を用いて、健康格差を低減することを目的としている。

ABSTRACT

Most Fairness in AI research focuses on exposing biases in AI systems. A broader lens on fairness reveals that AI can serve a greater aspiration: rooting out societal inequities from their source. Specifically, we focus on inequities in health information, and aim to reduce bias in that domain using AI. The AI algorithms under the hood of search engines and social media, many of which are based on recommender systems, have an outsized impact on the quality of medical and health information online. Therefore, embedding bias detection and reduction into these recommender systems serving up medical and health content online could have an outsized positive impact on patient outcomes and wellbeing. In this position paper, we offer the following contributions: (1) we propose a novel framework of Fairness via AI, inspired by insights from medical education, sociology and antiracism; (2) we define a new term, bisinformation, which is related to, but distinct from, misinformation, and encourage researchers to study it; (3) we propose using AI to study, detect and mitigate biased, harmful, and/or false health information that disproportionately hurts minority groups in society; and (4) we suggest several pillars and pose several open problems in order to seed inquiry in this new space. While part (3) of this work specifically focuses on the health domain, the fundamental computer science advances and contributions stemming from research efforts in bias reduction and Fairness via AI have broad implications in all areas of society.

研究の動機と目的

• 少数派集団に特に大きな影響を及ぼす医療情報の配布における構造的バイアスに対処すること。
• 「AIにおける公平性」から「AIによる公平性」への転換を提言すること—AIをモデル内のバイアス是正にとどまらず、社会的不平等の根本的要因を的確に特定・是正するために活用すること。
• バイズフォーメーションを、偏見を含むが事実として正しい医療コンテンツの別種として明確に定義し、導入すること。
• コンピュータサイエンス、医学、社会学、公衆衛生の分野が連携し、バイズフォーメーションを大規模に研究・是正することを提唱すること。
• オンライン健康エコシステムにおけるバイズフォーメーションの検出・測定・是正に関する、主な研究ギャップと未解決問題を特定すること。

提案手法

• AIを用いて健康情報システムにおける構造的不平等を分析・検出・是正する新しいフレームワーク「AIによる公平性」を提唱する。
• 誤情報とは別種の「バイズフォーメーション」を導入する—事実として正しいが、人種的・性別的仮定が内蔵されており、構造的文脈が欠落している情報。
• 自然言語処理（NLP）および機械学習技術を活用し、医学教育カリキュラムおよびオンライン健康コンテンツにおける偏見を含む言語的・画像的表現のスケーリング検出を実現する。
• 既存のオンライン論争分布に関する研究を基盤に、人口感受性モデルを適用し、異なる人種的・文化的背景を持つ集団間でのバイズフォーメーションの拡散差を理解する。
• 医学教育、反人種差別理論、社会学の知見を統合し、AI干渉を現実の構造的不平等に根ざしたものにする。
• レコメンデーションシステム分析を用いて、公衆衛生危機（例：COVID-19のインフォデミック）時におけるバイアスの強いコンテンツが検索エンジンやソーシャルメディアでどのように拡散されるかを特定する。

実験結果

リサーチクエスチョン

• RQ1 AIによる公平性によって是正可能な健康情報に関する社会的問題の中で、最も介入が期待できるものは何か？
• RQ2 医療コンテンツにおけるバイズフォーメーションの検出・是正に最も効果的な、既存または新規のAI技術は何か？
• RQ3 AIの公平性研究の倫理的・社会的影響を高めるために、学際的連携を体系的に促進する方法は何か？
• RQ4 バイズフォーメーションはオンラインでどのように拡散され、異なる集団間で不均等に拡散されているか？
• RQ5 どの種類のバイズフォーメーションおよび誤情報が最も有害であり、ファクトチェックや対抗メッセージの優先対象となるべきか？

主な発見

• 「バイズフォーメーション」という用語は、構造的文脈が欠落しているが事実として正しいが、社会的に有害な偏った健康情報の重要な形態を的確に捉えている。
• 医学教育は、社会的・構造的健康決定要因（SSDoH）を十分に扱わないまま、有害なバイアス（例：人種を遺伝的要因の代理として用いる）を継続的に継承している。
• バイズフォーメーションは、AI駆動のレコメンデーションシステムが関与する検索エンジンやソーシャルメディアを介して、体系的に拡散されている。
• 健康分野におけるバイズフォーメーションの包括的計算的分析に関する大きなギャップが存在するが、少数派の健康格差に与える影響は既に確認されている。
• 出力のバイアス是正にとどまらず、不平等の根本的要因に焦点を当てる点で、従来の「AIにおける公平性」に比べ、「AIによる公平性」フレームワークははるかに高い影響力を持つ。
• 本フレームワークは、国立医師国家試験委員会のステムラー財務からの新規助成金の支援を受けており、実世界の医学教育現場における実現可能性と関連性が裏付けられている。