[論文レビュー] On the interplay of data and cognitive bias in crisis information management -- An exploratory study on epidemic response

David A. Paulus, Ramian Fathi+3 more|arXiv (Cornell University)|Jan 10, 2022

Disaster Management and Resilience被引用数 5

ひとこと要約

本研究は、疫病対応における危機情報管理において、データバイアスと認知バイアス（特に確認バイアス）がどのように相互作用するかを調査する。経験豊富な実務者を対象とした3段階の実験的調査を通じて、バイアスが検出された場合でもアナリストがデータのバイアス除去を行わないことが判明した。これは、正確なバイアス除去よりも迅速な行動可能な情報製品の提供を優先する傾向に起因し、バイアスの理由づけが自己強化的なバイアスの循環を生み出す、誤った意思決定を継続する要因となる。

ABSTRACT

Humanitarian crises, such as the 2014 West Africa Ebola epidemic, challenge information management and thereby threaten the digital resilience of the responding organizations. Crisis information management (CIM) is characterised by the urgency to respond despite the uncertainty of the situation. Coupled with high stakes, limited resources and a high cognitive load, crises are prone to induce biases in the data and the cognitive processes of analysts and decision-makers. When biases remain undetected and untreated in CIM, they may lead to decisions based on biased information, increasing the risk of an inefficient response. Literature suggests that crisis response needs to address the initial uncertainty and possible biases by adapting to new and better information as it becomes available. However, we know little about whether adaptive approaches mitigate the interplay of data and cognitive biases. We investigated this question in an exploratory, three-stage experiment on epidemic response. Our participants were experienced practitioners in the fields of crisis decision-making and information analysis. We found that analysts fail to successfully debias data, even when biases are detected, and that this failure can be attributed to undervaluing debiasing efforts in favor of rapid results. This failure leads to the development of biased information products that are conveyed to decision-makers, who consequently make decisions based on biased information. Confirmation bias reinforces the reliance on conclusions reached with biased data, leading to a vicious cycle, in which biased assumptions remain uncorrected. We suggest mindful debiasing as a possible counter-strategy against these bias effects in CIM.

研究の動機と目的

• 疫病対応における危機情報管理（CIM）において、データバイアスと認知バイアスがどのように相互作用するかを調査すること。
• 適応的情報管理アプローチが、データバイアスと確認バイアスの併存効果を軽減できるかどうかを評価すること。
• 高圧力の危機環境における、マインドフルなバイアス除去の役割を探ること。
• 危機データおよび意思決定プロセスにおけるバイアスの認識があるにもかかわらず、なぜバイアス除去の取り組みが実際には失敗するのかを理解すること。

提案手法

• 経験豊富な危機意思決定者および情報アナリストを対象とした3段階の実験的調査を実施した。
• 現実的で、時間的圧力、不確実性、限られたリソースを伴う模擬的疫病危機シナリオを用い、現実世界の状況を再現した。
• 参加者にバイアスを含むデータセットを提供し、情報の統合、分析、可視化を行い、意思決定支援製品を作成するよう要請した。
• リアルタイムでの協働と意思決定を模擬するため、グループディスカッションを実施した。
• 情報製品の開発および意思決定プロセスを記録するために、観察法を用いた。
• 仮説の認識と反証的証拠への開放的姿勢を促すことで、マインドフルなバイアス除去の原則を統合した。

実験結果

リサーチクエスチョン

• RQ1 疫病対応における危機情報管理において、データバイアスと認知バイアスはどのように相互作用するか？
• RQ2 バイアスが検出された場合、危機情報マネージャーはどの程度、データのバイアス除去を成功させるか？
• RQ3 バイアス除去の重要性が認識されているにもかかわらず、何がバイアス除去の取り組みを軽視する要因となるか？
• RQ4 確認バイアスは、初期にバイアスを含む情報製品に基づいた意思決定をどのように強化するか？
• RQ5 マインドフルなバイアス除去は、危機状況におけるバイアスの循環的意思決定を遮断する有効な戦略となるか？

主な発見

• 実験中にバイアスが明確に検出されたにもかかわらず、アナリストは一貫してデータのバイアス除去に失敗した。
• 迅速で提示可能な情報製品の提供という緊急性が、正確性よりも優先され、結果としてバイアス除去の取り組みが軽視された。
• 意思決定者は、バイアスを含む情報製品に依存してリソース配分を決定しており、誤ったデータ処理が現実世界に与える影響を示している。
• 確認バイアスは、バイアスを含むデータから導かれた結論への依存を強化し、初期の誤りを是正できない自己強化的ループを生み出した。
• 理論的認識と実践的実装との間には、深刻なギャップが存在することが本研究で明らかになった。
• マインドフルなバイアス除去は、体系的に適用されれば、バイアスの循環的意思決定を遮断する有望な戦略であるが、現状では未活用にとどまっている。