[論文レビュー] Trust, Accountability, and Autonomy in Knowledge Graph-Based AI for Self-Determination

Luis Ibáñez, John Domingue+4 more|arXiv (Cornell University)|Jun 30, 2023

Legal and Policy Issues被引用数 2

ひとこと要約

本論文は、信頼性、説明責任、自律性を通じて市民の自己決定を支援する、知識グラフ（KG）ベースのAIの研究アジェンダを提言する。神経記号的AIを分散型インfra構造、説明可能なAI、機械可読ポリシーと統合することで、透明性があり監査可能でユーザー主導のAIシステムを実現し、KGを社会的・人間中心の倫理的AIの基盤と位置付ける。

ABSTRACT

Knowledge Graphs (KGs) have emerged as fundamental platforms for powering intelligent decision-making and a wide range of Artificial Intelligence (AI) services across major corporations such as Google, Walmart, and AirBnb. KGs complement Machine Learning (ML) algorithms by providing data context and semantics, thereby enabling further inference and question-answering capabilities. The integration of KGs with neuronal learning (e.g., Large Language Models (LLMs)) is currently a topic of active research, commonly named neuro-symbolic AI. Despite the numerous benefits that can be accomplished with KG-based AI, its growing ubiquity within online services may result in the loss of self-determination for citizens as a fundamental societal issue. The more we rely on these technologies, which are often centralised, the less citizens will be able to determine their own destinies. To counter this threat, AI regulation, such as the European Union (EU) AI Act, is being proposed in certain regions. The regulation sets what technologists need to do, leading to questions concerning How the output of AI systems can be trusted? What is needed to ensure that the data fuelling and the inner workings of these artefacts are transparent? How can AI be made accountable for its decision-making? This paper conceptualises the foundational topics and research pillars to support KG-based AI for self-determination. Drawing upon this conceptual framework, challenges and opportunities for citizen self-determination are illustrated and analysed in a real-world scenario. As a result, we propose a research agenda aimed at accomplishing the recommended objectives.

研究の動機と目的

• 不透明で説明責任のないデータ処理が原因で、中央集権的AIシステムが市民の自己決定を脅かすという脅威に対処すること。
• KGベースのAIの倫理的開発を導くために、信頼性、説明責任、自律性という3大研究柱を特定すること。
• 機械可読規範、分散型インfra構造、説明可能な神経記号的AIを統合した概念的枠組みを提言し、倫理的AI設計を実現すること。
• 自己決定の視点から、AIガバナンスとデータコントロールにおける現実世界の課題を分析すること。
• 技術的開発を基本的人権とEU AI法の原則に整合させる研究アジェンダを確立すること。

提案手法

• 信頼性、説明責任、自律性をKGベースのAIシステムの3大柱とする概念的枠組みを提言する。
• 機械可読規範とポリシーを、倫理的AI行動の指定および強制の基盤的要素として統合する。
• 中央集権的プラットフォームへの依存を減らすために、分散型インfra構造および分散型KG管理を提唱する。
• シンボリック知識グラフとニューラルモデル（例：LLMs）を組み合わせることで、解釈可能な推論を実現する説明可能な神経記号的AIを推進する。
• データおよびアイデンティティの整合性を確保するために、セマンティックウェブの規格（RDF, OWL）および分散型アイデンティティシステム（DIDs, 可証明資格）を活用する。
• 現実世界のシナリオを用いて、データコントロール、透明性、コンプライアンスの課題を提示し、研究アジェンダの根拠とする。

実験結果

リサーチクエスチョン

• RQ1 中央集権的データコントロールに直面する中で、KGベースのAIシステムはどのように個人のデータ自己決定を支援できるか？
• RQ2 KG駆動のAI意思決定における説明責任と透明性を確保するために、どのような技術的・アーキテクチャ的要素が必要か？
• RQ3 説明可能な神経記号的AIは、意味的整合性を保ちつつAI出力の正当性をどのように提供できるか？
• RQ4 分散型インfra構造と機械可読ポリシーは、個人データに対するユーザーの自律性をどのように実現するか？
• RQ5 EU AI法などの既存の規制枠組みは、KGベースのAIシステムでどのように技術的に実装可能か？

主な発見

• KGと大規模言語モデル（LLMs）を統合することで、より解釈可能で文脈に適したAIが実現され、説明可能な意思決定を支援する。
• 分散型インフラ構造および分散型KG管理は、独占的支配を防ぎ、ユーザーの自律性を高めるために不可欠である。
• 機械可読ポリシーと規範は、法的および倫理的要件をエンコードするのに使用でき、AIシステムにおける自動コンプライアンスチェックを可能にする。
• 現在のAIシステムは、しばしば透明性と説明責任に欠けており、とくに企業のファイアウォールの向後でデータやモデルが隠されている場合に顕著である。
• 提言された研究アジェンダは、KGベースのAIを人権、特に自己決定に整合させるための実行可能な技術的道筋を特定している。
• 信頼性の正当化に「オーやっぱり？」ボタンを実装するというビジョンは、メインストリームブラウザでは実現されておらず、AIの透明性における技術的・政策的イノベーションの必要性を示している。