[論文レビュー] The Many Facets of Trust in AI: Formalizing the Relation Between Trust and Fairness, Accountability, and Transparency

Bran Knowles, John T. Richards+1 more|arXiv (Cornell University)|Aug 1, 2022

Ethics and Social Impacts of AI被引用数 8

ひとこと要約

本稿は、AIにおける信頼（TAI）の多面的性質を明確化するための形式的オントロジーを構築する。これにより、信頼の主体（例：ユーザー、管理者、規制機関）、対象（例：AIシステム、制度）、根拠（例：説明可能性、ガバナンス）、目的（例：公平性、安全性）、影響（例：行動変容）を区別する。本研究は、公平性・説得性・透明性（FAT）分野におけるTAIの概念的捉え方の不整合を明らかにし、このオントロジーが概念的ギャップを診断し、信頼促進の取り組みにおける整合性を高められることを示している。

ABSTRACT

Efforts to promote fairness, accountability, and transparency are assumed to be critical in fostering Trust in AI (TAI), but extant literature is frustratingly vague regarding this 'trust'. The lack of exposition on trust itself suggests that trust is commonly understood, uncomplicated, or even uninteresting. But is it? Our analysis of TAI publications reveals numerous orientations which differ in terms of who is doing the trusting (agent), in what (object), on the basis of what (basis), in order to what (objective), and why (impact). We develop an ontology that encapsulates these key axes of difference to a) illuminate seeming inconsistencies across the literature and b) more effectively manage a dizzying number of TAI considerations. We then reflect this ontology through a corpus of publications exploring fairness, accountability, and transparency to examine the variety of ways that TAI is considered within and between these approaches to promoting trust.

研究の動機と目的

• AIにおける信頼（TAI）に関する概念的曇りを解消するため、TAI文献に登場する信頼の複数の次元を特定し、形式化すること。
• 公平性・説得性・透明性（FAT）研究において、信頼がどのように議論されているかに起因する不一致や不整合を解消すること。
• 信頼の異なる捉え方を明確化する共有の分析枠組みを構築し、より正確な議論と研究の整合性を可能にすること。
• FAT文献における、信頼の正当化が不十分または整合性のない点（特に規制機関や構造的信頼に関するもの）を診断すること。
• このオントロジーが、AI倫理研究全体において診断的・統合的ツールとしての有用性を示すこと。

提案手法

• 専門家の合意と段階的レビューを通じて選定された、学術的・産業的・ジャーナリスティックな出典からのTAI関連の78件のテキストを対象にしたコーパスを構築した。
• 信頼の主体（誰が信頼するか）、対象（何が信頼されるか）、根拠（信頼が根ざすもの）、目的（なぜ信頼が求められるか）、影響（信頼が可能にするもの）という5軸を持つ形式的オントロジーを構築した。
• FATに特化した出版物の第二のコーパスに、このオントロジーをレンズとして適用し、公平性・説得性・透明性の文脈で信頼がどのように概念化されているかをマッピングした。
• 定性的コード化と主題的分析を用いて、異なる研究分野における信頼の物語のパターン、欠落、不整合を同定した。
• 信頼の理解を統合するための3つの理想的典型物語——ユーザー信頼、管理者信頼、構造的信頼——を、TAI議論の根幹をなす柱として特定した。
• 特に、信頼の目的と正当化の間の断絶（例：信頼を目的とする一方で、説明可能性を根拠とする）に注目し、FAT文献における修辞的・概念的整合性を評価した。

実験結果

リサーチクエスチョン

• RQ1 信頼の概念的捉え方は、文献によってどのように異なっており、主体、対象、根拠、目的、影響という軸における主な変動要因は何か？
• RQ2 多くのFAT特化論文が、なぜ信頼の目的と選択された正当化（例：説明可能性、ガバナンス）を一貫して結びつけられていないのか？
• RQ3 現在のFAT研究は、信頼に関する一貫した物語をどの程度反映しており、どこに重要なギャップや不整合があるのか？
• RQ4 形式的オントロジーは、公平性・説得性・透明性と関連して、散逸したTAI議論をどのように統合的・明確化的に支援できるのか？
• RQ5 特に制度的信頼やガバナンスメカニズムへの信頼——構造的信頼——が、なぜ現在のTAIおよびFAT研究で不十分に扱われているのか？

主な発見

• オントロジーは、AIにおける信頼が一様な概念ではなく、信頼の主体（例：ユーザー、規制機関）、対象（例：AIシステム、制度）、正当化（例：説明可能性、ガバナンス）によって顕著に異なることを効果的に明らかにした。
• 多くの公平性指向論文は「信頼を得ること」を主な目的としているが、その根拠となるものについては一貫性がなく、しばしば説明可能性に依存するだけで、より深い整合性は欠けている。
• 説得性文献では、規制機関や制度的構造の視点からの信頼の議論が著しく欠落しており、広くTAI議論で求められているにもかかわらず、実際にはほとんど取り上げられていない。
• 多くの論文において、信頼を築くという明言された目的と、実際に提案されるメカニズム（例：説明可能性に依存するが、構造的・制度的信頼には言及しない）との間に修辞的な断絶が生じている。
• ユーザー信頼、管理者信頼、構造的信頼という3つの理想的典型物語は、一見散逸したTAI議論を統合するための整合的で明確な道筋として浮き彫りになった。
• オントロジーは、例えば制度的ガバナンスが信頼形成に果たす役割が不十分に扱われているといった概念的異常を効果的に診断し、今後の研究と整合性の向上に向けた焦点を明確にした。