[論文レビュー] Taking Ethics, Fairness, and Bias Seriously in Machine Learning for Disaster Risk Management

Robert Soden, Dennis Wagenaar+2 more|arXiv (Cornell University)|Dec 10, 2019

Disaster Management and Resilience被引用数 7

ひとこと要約

本論文は、被災リスク管理（DRM）における機械学習（ML）アプリケーションに、倫理的配慮、公平性、バイアスの検討を統合するよう提唱している。MLツールは、監視がなければ、不平等やプライバシー問題を助長する可能性があると主張する。本論文は、脅威評価、多機関連携、他分野からの教訓活用を重視する研究アジェンダを提示し、DRMにおける責任ある、透明性があり、地域社会が関与するMLの活用を確保することを目的としている。

ABSTRACT

This paper highlights an important, if under-examined, set of questions about the deployment of machine learning technologies in the field of disaster risk management (DRM). While emerging tools show promising capacity to support scientific efforts to better understand and mitigate the threats posed by disasters and climate change, our field must undertake a much more careful assessment of the potential negative impacts that machine learning technologies may create. We also argue that attention to these issues in the context of machine learning affords the opportunity to have discussions about potential ethics, bias, and fairness concerns within disaster data more broadly. In what follows, we first describe some of the uses and potential benefits of machine-learning technology in disaster risk management. We then draw on research from other fields to speculate about potential negative impacts. Finally, we outline a research agenda for how our disaster risk management can begin to take these issues seriously and ensure that deployments of machine-learning tools are conducted in a responsible and beneficial manner.

研究の動機と目的

• 災害リスク管理（DRM）における機械学習（ML）の導入に関する未だ十分に検討されていない倫理的リスクに取り組むこと。これは、ハザードモデリング、保険、緊急対応分野でのMLの活用が増加しているにもかかわらずである。
• 訓練データやデータ収集手法におけるバイアスが、DRMアプリケーションにおいて既存の社会的不平等を悪化させる可能性を浮き彫りにすること。
• 被災データの一般的な限界、すなわち欠落または不完全なデータ、人口統計的集計の欠如、プライバシー懸念といった問題について、批判的考察を促すこと。
• 開発および人道的分野で整備された倫理ガイドラインの遵守、透明性、地域社会の参加を通じて、MLツールの責任ある導入を促すこと。
• 他の分野（顔認識や刑事司法など）の教訓を活用し、DRMにおけるMLの意図しない副作用を事前に評価する研究アジェンダを策定すること。

提案手法

• リモートセンシング解析、画像からの被害予測、インfra構造物および保険分野のリスクモデリングを含む、DRM分野における既存のML応用の批判的レビューを実施する。
• 倫理、データサイエンス、人道的テクノロジー分野の学際的研究を活用し、バイアスの生じたデータセット、プライバシー侵害、専門的監視の低下といった潜在的損害を特定する。
• DRMにおける新規MLアプリケーションの脅威評価フレームワークを提唱し、導入前のリスク評価を重視する。
• 人道的および開発分野で整備された既存の倫理ガイドライン（例：デジタル開発の原則、Signal Code）の導入を提言する。
• MLツールのDRM分野における知識共有と評価基準の共同開発を促進する、多機関連携の推進を提言する。
• DRMに用いられるMLシステム設計における、ケースバイケースの倫理的および政治的分析を提唱し、埋め込まれたパワー構造と意思決定のトレードオフを明らかにすること。

実験結果

リサーチクエスチョン

• RQ1 災害リスク管理における機械学習システムは、バイアスを含む訓練データによって、どのようにして社会的不平等を無意識に継続または拡大させる可能性があるか？
• RQ2 災害リスクモデリングにおける既存のデータ制限および収集手法は、どのようにして構造的不平等を反映・強化しているか？
• RQ3 紛争・危機状態または暴力が生じやすい（FCV）地域において、異なるデータセットを統合するMLツールが、どのような倫理的リスクを引き起こすか？
• RQ4 MLモデルの不透明さと不確実性の伝達不足は、意思決定が重大なDRM意思決定において、誤用のリスクをどのように高めるか？
• RQ5 地域社会の参加とオープンデータの実践は、ML駆動の災害リスク管理システムにおける公平性と透明性を確保するために、どのような役割を果たすか？

主な発見

• 訓練データにバイアスや不完全さがある場合、災害リスク管理における機械学習ツールは、既存の社会的不平等を再現・拡大するリスクを有する。
• FCV地域におけるMLの使用は、かつて独立していたデータソースを結びつけることで、プライバシーやセキュリティリスクを高める可能性がある。特に、同意を得ないデータ収集が行われる場合には顕著である。
• 自動化システムへの過度な依存は、専門的判断の役割を縮小させ、透明性の欠如に起因する誤りや誤用のリスクを高める。
• 多くのMLシステムは、不確実性やメソドロジー的仮定を適切に伝達せず、緊急事態における誤解や不適切な意思決定のリスクを増大させる。
• 人道的およびデジタル開発分野で整備された既存の倫理ガイドライン（例：デジタル開発の原則、Signal Code）は、DRMにおける責任あるML導入のための実行可能なフレームワークを提供している。
• 災害リスクモデリングに用いられるMLシステムの設計選択の政治的・倫理的影響を分析するための詳細な事例研究の実施が、極めて重要である。