[論文レビュー] Can Society Function Without Ethical Agents? An Informational Perspective

Bruno Strulovici|arXiv (Cornell University)|Mar 11, 2020

Game Theory and Applications参考文献 16被引用数 8

ひとこと要約

この論文は、証拠の検証にコストがかかる上に操作の恐れがある状況において、道徳的動機を内蔵しない中間者（倫理的インcentiveを持たないエージェント）を介して社会が正確な集団的学習を達成できるかを調査する。情報の逐次的蓄積をモデル化した情報的枠組みを用い、証拠の持続性（情報の劣化）の閾値に達しない限り、情報的通信は崩壊する。これは、脆い情報環境において、信頼できる中間者による学習を実現するには倫理的エージェントが不可欠であることを示唆する。

ABSTRACT

Many facts are learned through the intermediation of individuals with special access to information, such as law enforcement officers, officials with a security clearance, or experts with specific knowledge. This paper considers whether societies can learn about such facts when information is cheap to manipulate, produced sequentially, and these individuals are devoid of ethical motive. The answer depends on an "information attrition" condition pertaining to the amount of evidence available which distinguishes, for example, between reproducible scientific evidence and the evidence generated in a crime. Applications to institution enforcement, social cohesion, scientific progress, and historical revisionism are discussed.

研究の動機と目的

• 道徳的動機を欠いたエージェントが中間者として機能する場合、一般大衆が事実を学ぶという中間者を介した学習が成立するかを特定すること。
• 操作可能な証拠を伴う逐次的情報環境において、真実の通信が成立する条件を分析すること。
• 『情報劣化』（情報の劣化）の概念を形式的に定式化し、道徳的インcentiveが欠如する状況下で真実のシグナル送信が持続可能かどうかの主要な決定要因とする。
• この枠組みが科学的整合性、制度的強制、歴史的正確性、社会的結束に与える影響を評価すること。
• エージェントが非道徳的であり、インセンティブのみに動機付けられる状況下でも、情報的均衡が成立するための形式的条件を確立すること。

提案手法

• 事実に関する個人的信号を受信し、一般大衆にメッセージを送信するエージェント（例：調査官、証人）が関与する逐次的情報環境をモデル化する。
• 『情報劣化』（証拠が時間経過とともに消失または検証不能になる速度）という概念を導入し、証拠の生存確率として捉える。
• 信念の進化を再帰的構造でモデル化し、エージェントが過去の信号とメッセージ内容に基づいて更新する。
• ゲーム理論的均衡分析を用いて、将来の証拠の確率（F）が臨界閾値を超える場合にのみ、情報的メッセージが持続可能であることを示す。
• 信号の数（k）に関する帰納法を用い、情報的均衡が各段階で最小限の証拠持続性を満たす必要があることを証明する。
• 収縮写像（contraction mapping）の議論を導出し、Fが十分に低い場合には情報的メッセージの確率がゼロでなければならないことを示し、真実の通信の崩壊を示す。

実験結果

リサーチクエスチョン

• RQ1 操作可能な証拠を伴う逐次的・証拠に基づく学習環境において、非道徳的中間者を介して真実の情報が伝達可能となる条件は何か？
• RQ2 証拠の持続性（情報劣化）は、中間者による学習における情報的均衡の持続可能性にどのように影響するか？
• RQ3 科学的・制度的プロセスは、主要なエージェントが道徳的動機を欠き、インセンティブのみに動機付けられる場合に信頼性を保てるか？
• RQ4 順次的信号の数（例：証人、試験）が、エージェントが非道徳的である場合に真実の通信を維持する上で果たす役割は何か？
• RQ5 証拠の持続性が臨界閾値を下回る場合、いかなるインセンティブがあっても真実のシグナリングは不可能になるのか？

主な発見

• 将来の証拠の確率（F）が臨界閾値 $\hat{F}^1 > 0$ を下回る場合、情報的均衡は成立不可能であり、証拠が持続しなければ真実の通信は崩壊する。
• F ≤ $\hat{F}^1$ のすべての状況において、情報的メッセージを送信する確率はゼロであり、インcentive構造に関わらず収縮写像による関数の性質から生じる。
• 情報的均衡の存在は、複数段階における証拠持続性の積に依存する。k+1個の信号に対して、閾値 $\hat{F}^{k+1}$ は積 $\hat{F}^k \cdot \hat{F}^1$ で上限が与えられ、真実のシグナリングの可能性は指数的減少を示す。
• 強いインセンティブがあっても、証拠が脆いか容易に失われる場合、真実の通信は失敗する。これは、情報の完全性を保つために倫理的エージェントの存在が不可欠であることを強調する。
• 科学、法、歴史などの分野では、事実が逐次的検証に依存するため、非道徳的エージェントが十分な証拠持続性を持たなければ、信頼できる知識伝達を維持できない。
• 本研究は、情報劣化と中間者による学習の可能性の間に形式的リンクを確立し、倫理的動機が単なる規範的理想ではなく、脆い情報環境における構造的必要性であることを示している。