[論文レビュー] Hard Choices in Artificial Intelligence: Addressing Normative Uncertainty through Sociotechnical Commitments

Roel Dobbe, Thomas Krendl Gilbert+1 more|arXiv (Cornell University)|Nov 20, 2019

Ethics and Social Impacts of AI参考文献 3被引用数 4

ひとこと要約

本稿は、民主的反論をAI開発に統合することで、AIセーフティにおける規範的不確実性を解消するための社会技術的コミットメントの枠組みを提案する。Ruth Changの直感的比較可能性理論を応用して、設計、トレーニング、展開における価値的ジレンマを特定し、ステークホルダーの責任と民主的議論を保証するための形式的、実質的、議論的コミットメントを提示する。

ABSTRACT

As AI systems become prevalent in high stakes domains such as surveillance and healthcare, researchers now examine how to design and implement them in a safe manner. However, the potential harms caused by systems to stakeholders in complex social contexts and how to address these remains unclear. In this paper, we explain the inherent normative uncertainty in debates about the safety of AI systems. We then address this as a problem of vagueness by examining its place in the design, training, and deployment stages of AI system development. We adopt Ruth Chang's theory of intuitive comparability to illustrate the dilemmas that manifest at each stage. We then discuss how stakeholders can navigate these dilemmas by incorporating distinct forms of dissent into the development pipeline, drawing on Elizabeth Anderson's work on the epistemic powers of democratic institutions. We outline a framework of sociotechnical commitments to formal, substantive and discursive challenges that address normative uncertainty across stakeholders, and propose the cultivation of related virtues by those responsible for development.

研究の動機と目的

• 監視や医療などハイリスク分野におけるAIセーフティの規範的不確実性に対処すること。
• 『セーフティ』『レジリエンス』『レジリエンス』といった曖昧な概念が、ステークホルダー間で異なる解釈を生じる仕組みを特定すること。
• 民主的議論と反論をAIシステム開発に組み込むための構造的枠組みを提示すること。
• 利用者が市民および消費者として『声』と『退去』の両方を行使できるようにするコミットメントを形式化すること。
• 社会技術的コミットメントをAI教育および専門的実践に統合するよう提言すること。

提案手法

• Ruth Changの直感的比較可能性理論を応用し、AI設計・トレーニング・展開における規範的ジレンマを分析する。
• 哲学的モデル（認識論的確定主義、意味論的不確定性、比較不能性）を援用して、規範的不確実性を曖昧性の一種と分類する。
• 形式的（制度的構造）、実質的（価値の整合性）、議論的（議論のためのチャネル）の3種類の社会技術的コミットメントを導入する。
• ユーザーのフィードバックと反論を促進するメカニズムを提案し、データ利用の公共的正当化と懸念を表明するための透明なチャネルを設ける。
• 展開環境を市場志向（消費者論理）または政治的（市民権利）に分類し、両者のいずれかに明示的なコミットメントを要請する。
• 利用者の退出権と発言権をシステム設計に保証することで、公共的責任と信頼を確保する必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 規範的不確実性は、多様なステークホルダーの視点から、AIシステムの設計・トレーニング・展開においてどのように現れるか。
• RQ2 保護、レジリエンス、レジリエンスといったコアなセーフティ概念の曖昧性を説明できる哲学的枠組みは何か。
• RQ3 民主的機関と認識的美徳を活用して、AI開発における価値的対立を解決するにはどうすればよいか。
• RQ4 ユーザー契約とデータポリシーは、消費者論理か市民論理かのどちらを反映しているか。その影響は責任の所在にどう現れるか。
• RQ5 社会技術的コミットメントは、表現されていないマイノリティの集団が、システム仕様に表れない道徳的コミットメントの負担を被らないようにどのように保証できるか。

主な発見

• AIセーフティにおける規範的不確実性は、技術的欠陥によるものではなく、社会的文脈によって変動する安全、公平、レジリエンスといった価値の本質的曖昧性に起因する。
• 直感的比較可能性の概念は、形式的指標だけでは解決できない、ステークホルダーがしばしば直面する比較不能な価値的トレードオフの理由を説明する。
• 民主的議論をAI開発プロセスに組み込むためには、形式的・実質的・議論的コミットメントを制度化する必要がある。
• 公共サービスや監視ツールとしてAIシステムが展開される際、『声』と『退去』の両方を維持することが、公共的責任を維持するために不可欠である。
• Rekognitionの事例は、ユーザー契約が個人契約としての解釈か、公的保証としての解釈かによって、異なるガバナンスモデルが生じることを示している。
• 本稿は、民主的反論が手続き的な追加物ではなく、AIシステムが変化する多様な価値観に適合し続けるために不可欠な条件であると結論づける。