[論文レビュー] The Sanction of Authority: Promoting Public Trust in AI

Bran Knowles, John T. Richards|arXiv (Cornell University)|Jan 22, 2021

Ethics and Social Impacts of AI参考文献 33被引用数 13

ひとこと要約

本論文は、制度的信頼と構造化理論を土台として、AIに対する社会的不信に応えるための規制エコシステムを提唱する。技術的透明性に加え、外部から検証可能なAI文書化と実効性のある規則——これらがなければ、信頼できるAIを社会に統合することはできない——が不可欠であると主張する。主な貢献は、ユーザー中心の信頼メカニズムではなく、公共の責任と制度的処罰を核とする、信頼できるAIを再定義する理論的モデルである。

ABSTRACT

Trusted AI literature to date has focused on the trust needs of users who knowingly interact with discrete AIs. Conspicuously absent from the literature is a rigorous treatment of public trust in AI. We argue that public distrust of AI originates from the under-development of a regulatory ecosystem that would guarantee the trustworthiness of the AIs that pervade society. Drawing from structuration theory and literature on institutional trust, we offer a model of public trust in AI that differs starkly from models driving Trusted AI efforts. This model provides a theoretical scaffolding for Trusted AI research which underscores the need to develop nothing less than a comprehensive and visibly functioning regulatory ecosystem. We elaborate the pivotal role of externally auditable AI documentation within this model and the work to be done to ensure it is effective, and outline a number of actions that would promote public trust in AI. We discuss how existing efforts to develop AI documentation within organizations -- both to inform potential adopters of AI components and support the deliberations of risk and ethics review boards -- is necessary but insufficient assurance of the trustworthiness of AI. We argue that being accountable to the public in ways that earn their trust, through elaborating rules for AI and developing resources for enforcing these rules, is what will ultimately make AI trustworthy enough to be woven into the fabric of our society.

研究の動機と目的

• 信頼できるAIの文献における公共の信頼の欠落を是正すること。これは、主に個人ユーザーとの対話に焦点を当てた研究に偏っており、社会的水準の信頼には焦点が当たっていない。
• AIに対する公共の不信は、AIの責任と信頼性を保証する機能的な規制エコシステムが欠如していることに起因するという主張を行う。
• 構造化理論と制度的信頼を基盤として、公共の信頼を制度的処罰を重視する理論的モデルとして構築する。
• 外部から検証可能なAI文書化が、公共の責任と規制の実行を可能にするメカニズムとしての重要性を強調する。
• AIを社会の基盤に統合できるだけの信頼性を確保するための包括的でシステム的な変化——例えば、ルール作成と実行メカニズムの整備——を提言する。

提案手法

• 構造化理論を適用し、制度的構造とルールがAIの展開と公共の信頼をどのように規定するかを分析する。
• 制度的信頼の文献を援用し、公共の信頼が技術的説明可能性に依存するのではなく、信頼性があり実効性のある監視メカニズムに依存するという枠組みを提示する。
• 公共の信頼が個々のAIとの対話から生じるのではなく、目に見える制度的規制プロセスから生じるモデルを提唱する。
• 外部から検証可能なAI文書化を、制度的責任の根幹的要素とし、公共および第三者による監視を可能にするという点を強調する。
• ルール作成、実行資源、AIガバナンスにおける公共参加を含む包括的な規制エコシステムの構築に向けた措置を提示する。
• 倫理委員会向けの文書化などの既存の組織的AI文書化努力は、公共向けの責任メカニズムが欠如しているため、不十分であると対比する。

実験結果

リサーチクエスチョン

• RQ1 技術的透明性と説明可能性の進展にもかかわらず、なぜAIに対する公共の信頼は未だに発展していないのか？
• RQ2 規制や監視などの制度的メカニズムは、AIシステムに対する公共の信頼をどのように高められるのか？
• RQ3 外部から検証可能なAI文書化は、公共の責任と信頼を実現するために果たす役割は何か？
• RQ4 機能的な規制エコシステムの欠如は、AIに対する公共の信頼をどのように損なうのか？
• RQ5 ユーザー中心の信頼モデルから社会的水準のAI信頼へ移行するために、どのようなシステム的変化が必要か？

主な発見

• AIに対する公共の不信は、主にAIシステムが信頼性と責任を確保するための機能的な規制エコシステムが整備されていないことに起因する。
• 組織内での既存のAI文書化努力は必要不可欠であるが、公共の可視性と実効性に欠けるため、公共の信頼を構築するには不十分である。
• 外部から検証可能なAI文書化は、制度的信頼の重要な構成要素であり、AIシステムに対する公共および第三者の監視を可能にする。
• 実効性のあるルールと監視メカニズムを備えた包括的な規制エコシステムは、信頼できるAIを社会に統合する上で不可欠である。
• AIに対する公共の信頼は、技術的透明性だけでは達成されず、制度的処罰と目に見える責任構造によって実現される。
• 提唱されたモデルは、信頼できるAI研究の焦点をユーザー中心の信頼から制度的信頼へと転換し、技術的設計そのものよりもシステム的ガバナンスを重視する。