[論文レビュー] Addressing Data Bias Problems for Chest X-ray Image Report Generation

Philipp Harzig, Yanying Chen+2 more|arXiv (Cornell University)|Aug 6, 2019

Topic Modeling被引用数 28

ひとこと要約

本稿では、チーフX線レポート生成におけるデータバイアスを軽減するため、二重のワードLSTMと異常予測器を備えた階層的LSTMを提案する。これにより、生成レポートの多様性が向上し、正常レポートへの過剰依存が軽減される。この手法は、生成レポートの独自性が向上し、CiderおよびRouge-Lのベースラインを上回る性能を示すが、BLEUのような標準的指標の限界も明らかにしている。

ABSTRACT

Automatic medical report generation from chest X-ray images is one possibility for assisting doctors to reduce their workload. However, the different patterns and data distribution of normal and abnormal cases can bias machine learning models. Previous attempts did not focus on isolating the generation of the abnormal and normal sentences in order to increase the variability of generated paragraphs. To address this, we propose to separate abnormal and normal sentence generation by using two different word LSTMs in a hierarchical LSTM model. We conduct an analysis on the distinctiveness of generated sentences compared to the BLEU score, which increases when less distinct reports are generated. We hope our findings will help to encourage the development of new metrics to better verify methods of automatic medical report generation.

研究の動機と目的

• 訓練データにおけるクラスの不均衡により、モデルが正常所見を過剰に生成するという、胸部X線レポート生成におけるデータバイアスを是正すること。
• 特に異常所見に対して、生成レポートの多様性と独自性を向上させること。
• 機械翻訳用指標（BLEUなど）が医療レポート生成の評価に与える限界を調査すること。
• 正常と異常な文の生成を分離することで、レポートの多様性と臨床的妥当性を向上させるモデルアーキテクチャの開発

提案手法

• 公開済みのIU CXRデータセットの各文を、異常／正常ラベルでアノテートし、標的学習を可能にする。
• 共有の画像エンコーダーを用い、正常文と異常文の生成にそれぞれ別々のワードLSTMを持つ階層的LSTMモデルを設計する。
• 異常予測モジュールを統合し、画像の内容に基づいて適切な生成が行われるようにする。
• 視覚的特徴と言語的表現の間のアライメントを向上させるために、コアテンション機構を用いる。
• 交差エントロピー損失を用いてエンドツーエンドで学習し、標準的指標（BLEU、Cider、Meteor、Rouge-L）を用いて評価する。
• 評価スコアとレポートの独自性の相関関係を分析することで、指標の信頼性を評価する。

実験結果

リサーチクエスチョン

• RQ1 胸部X線レポートデータセットにおけるデータの不均衡は、モデルが正常所見の生成に偏る要因となるか？
• RQ2 二重のワードLSTMを用いて正常・異常文の生成を分離することで、レポートの多様性を向上させ、モデルバイアスを低減できるか？
• RQ3 標準的機械翻訳指標（BLEUなど）は、生成レポートの独自性や臨床的妥当性とどの程度相関するか？
• RQ4 提案された二重LSTMアーキテクチャは、標準的な階層的LSTMに比べ、特に異常症例において多様で正確なレポートを生成する点で優れているか？
• RQ5 正常症例の生成品質を損なうことなく、異常症例におけるモデルのパフォーマンスを向上させられるか？

主な発見

• HLSTM+att+Dualモデルは、テストセットで最高のCiderスコア（49.5）を達成し、基準レポートにおける特徴的なn-gramの捉え具合が優れていることを示した。
• 二重ワードLSTMモデルは、単一LSTMベースラインと比較して、適切な停止基準を用いた場合、特に文のインデックスごとに有意に独自の文を生成した。
• BLEU-4スコアが高くても、あるモデルはすべての入力に対して同一のレポートを生成していた。これは、高スコアのBLEU値が、レポートの多様性や品質を保証しないことを示している。
• MeteorおよびRouge-Lにおいても、ベースラインを上回った。これは、独自性を損なわず、関連性と文の流れの自然さが向上したことを示している。
• 正常画像では常に優れたパフォーマンスを示したが、異常画像では劣っていた。これは、臨床的に重要な異常症例に対する的確な改善が求められることを示している。
• 分析の結果、BLEUのような標準的指標は、レポートの独自性を適切に示す指標ではないことが判明した。これは、医療レポート生成分野における新しい評価指標の開発が不可欠であることを示唆している。