[論文レビュー] Not Color Blind: AI Predicts Racial Identity from Black and White Retinal Vessel Segmentations

Aaron S. Coyner, Praveer Singh+6 more|arXiv (Cornell University)|Sep 28, 2021

Retinal Imaging and Analysis参考文献 31被引用数 4

ひとこと要約

本研究では、従来、人種情報を含まないと考えられていたグレースケールの黒白レーザー網膜血管画像から、深層学習を用いて人工知能が人種を正確に予測できることを示している。色を除去し、血管の明るさと太さを正規化した後でも、畳み込みニューラルネットワーク（CNN）はほぼ完璧な人種予測性能（AUC-PR最高0.995）を示した。これは、明確なメラニン色素の特徴が除去された後でも、AIモデルに人種バイアスが残存する可能性があることを示している。

ABSTRACT

Background: Artificial intelligence (AI) may demonstrate racial bias when skin or choroidal pigmentation is present in medical images. Recent studies have shown that convolutional neural networks (CNNs) can predict race from images that were not previously thought to contain race-specific features. We evaluate whether grayscale retinal vessel maps (RVMs) of patients screened for retinopathy of prematurity (ROP) contain race-specific features. Methods: 4095 retinal fundus images (RFIs) were collected from 245 Black and White infants. A U-Net generated RVMs from RFIs, which were subsequently thresholded, binarized, or skeletonized. To determine whether RVM differences between Black and White eyes were physiological, CNNs were trained to predict race from color RFIs, raw RVMs, and thresholded, binarized, or skeletonized RVMs. Area under the precision-recall curve (AUC-PR) was evaluated. Findings: CNNs predicted race from RFIs near perfectly (image-level AUC-PR: 0.999, subject-level AUC-PR: 1.000). Raw RVMs were almost as informative as color RFIs (image-level AUC-PR: 0.938, subject-level AUC-PR: 0.995). Ultimately, CNNs were able to detect whether RFIs or RVMs were from Black or White babies, regardless of whether images contained color, vessel segmentation brightness differences were nullified, or vessel segmentation widths were normalized. Interpretation: AI can detect race from grayscale RVMs that were not thought to contain racial information. Two potential explanations for these findings are that: retinal vessels physiologically differ between Black and White babies or the U-Net segments the retinal vasculature differently for various fundus pigmentations. Either way, the implications remain the same: AI algorithms have potential to demonstrate racial bias in practice, even when preliminary attempts to remove such information from the underlying images appear to be successful.

研究の動機と目的

• グレースケールのレーザー網膜血管マップ（RVM）に、視覚的検査では判別できない人種関連の情報が残存しているかどうかを調査すること。
• 明るさ、太さ、セグメンテーションの違いを正規化した後でも、AIモデルがRVMから人種を検出できるかどうかを評価すること。
• レーザー網膜血管の生理的差異またはセグメンテーションアーチファクトが、RVMにおける人種予測に寄与しているかどうかを評価すること。
• 画像が顕著な人種的特徴を除去するように事前処理された後でも、AIドリブンの医療診断における人種バイアスのリスクを浮き彫りにすること。
• 色や色素特徴を除去する試みがなされた後でも、RVMからの人種予測が極めて正確に維持されることを実証すること。

提案手法

• 245名の黒人および白人の乳児からレーザー網膜画像（RFI）を収集し、合計4,095枚の画像を取得した。
• U-Netモデルを用いてRFIからレーザー網膜血管マップ（RVM）を生成した後、しきい値処理、二値化、スケルトン化を施し、複数のRVMバージョンを作成した。
• 畳み込みニューラルネットワーク（CNN）を用いて、色RFI、生のRVM、処理済みRVM（しきい値処理済み、二値化済み、スケルトン化済み）を用いた人種分類の訓練を行った。
• 画像レベルおよび被験者レベルにおける、精度-再現率曲線下積分（AUC-PR）を用いて性能を評価した。
• 耐性を検証するため、モデル学習前にグループ間で明るさの差異と血管太さのばらつきを正規化した。
• 画像タイプごとのモデル性能を比較することで、人種予測が残留色素の特徴に依存しているのか、それとも血管パターンの構造的差異に依存しているのかを特定した。

実験結果

リサーチクエスチョン

• RQ1 AIモデルは、かつて人種情報を含まないと考えられていたグレースケールのレーザー網膜血管マップから、正確に人種を予測できるか？
• RQ2 レーザー網膜血管の形態的差異やセグメンテーションアーチファクトが、RVMにおける人種予測にどの程度寄与しているか？
• RQ3 RVMにおける明るさと血管太さを正規化することで、AIの人の人種予測能力が消失するのか？
• RQ4 観察された人種予測能力は、黒人と白人の乳児におけるレーザー網膜血管の生理的差異に起因するのか、それとも網膜色素に関連するセグメンテーションにおけるモデルバイアスに起因するのか？
• RQ5 AIは、色や色素特徴を除去するように事前処理された画像から、人種を検出できるか？

主な発見

• CNNは元のカラー・レーザー網膜画像からほぼ完璧な人種予測を達成し、画像レベルでのAUC-PRは0.999、被験者レベルでのAUC-PRは1.000を記録した。
• 生のレーザー網膜血管マップ（RVM）のみでも、高い正確性で人種予測が可能であり、画像レベルでのAUC-PRは0.938、被験者レベルでのAUC-PRは0.995を達成した。
• 血管の明るさと太さを正規化した後でも、CNNの性能は依然として高く維持された。これは、人種予測がこれらの視覚的特徴に依存していないことを示している。
• 人種予測の能力は、しきい値処理済み、二値化済み、スケルトン化済みのすべてのRVMバージョンで持続しており、前処理に対して強い耐性を示した。
• 研究結果から、レーザー網膜血管の生理的差異または網膜色素に関連するセグメンテーションアーチファクトが、RVMにおける人種検出に寄与している可能性があると示唆された。
• 本研究は、画像が顕著な人種的特徴を除去するように処理された後でも、AIモデルが人種バイアスを内蔵し得ることを明らかにした。これは、臨床的AIアプリケーションにおいて深刻なリスクを伴う。